你可能聽說過大型語言模型，即能生成類人文本的人工智能系統。但是小型語言模型呢?研究人員正在努力研發更小型、更緊湊的人工智能系統，以解決人工智能系統對數據日益增長的需求所帶來的一系列挑戰。而且，不只是如今新聞報道中的生成式人工智能模型需要變得更小，那些能夠運營工業設施、智慧城市或自動駕駛汽車的人工智能系統也需要如此。

　　大型人工智能模型面臨的挑戰

　　當你使用人工智能(無論是在手機還是筆記本電腦上)時，大部分實際計算都發生在數據中心。這是因為最流行的人工智能模型在計算上非常耗費資源——你的筆記本電腦可能沒有足夠的計算能力來運行查詢。這些人工智能系統還會消耗大量能源。據說，在生成式人工智能模型中進行一次查詢(例如問“生成式人工智能是如何工作的?”這樣一個問題)所消耗的電量相當于一個燈泡點亮一小時的電量。

　　這給人工智能的使用帶來了兩個挑戰。首先，這引發了人們對人工智能可持續性的擔憂，因為為人工智能供電的電力也會增加溫室氣體排放。

　　在最近一項針對全球技術領導者的調查“The Impact of Technology in 2025 and Beyond: an IEEE Global Study”中，35%的人表示人工智能的實用性遠遠超過其能耗，而34%的人表示人工智能的能耗和實用性處于良好的平衡狀態。大約五分之一(21%)的人認為人工智能的益處是顯著的，但高能耗仍然是一個問題，而8%的人認為大量的能耗超過了人工智能的益處。

　　其次，這意味著任何依賴人工智能的事物要么需要更多的電力來運行，要么需要連接到數據中心。

　　削減人工智能規模的前沿技術正在取得一些成功(https://spectrum.ieee.org/1-bit-llm)。

　　IEEE會員Jay Shah表示：“這些(技術)耗電量顯著降低，通常在瓦特范圍內運行，而不是大型數據中心系統消耗的千瓦或兆瓦。”

　　誰需要緊湊型人工智能?

　　更小、更節能的人工智能系統可以用于多種應用，比如自動駕駛汽車。

　　Shah說：“就長期可靠性和降低功耗而言，下一代低功耗人工智能加速器對自動駕駛汽車的未來至關重要。它們能夠實現實時決策并實現更緊湊的設計。”

　　同時，它們對機器人系統來說也是個福音，因為它們將降低機器人的電力需求。

　　IEEE高級會員Cristiane Agra Pimentel表示，緊湊型人工智能系統在工業環境中也將很有用，在這種環境中，更小的控制系統可以使工廠流程自動化。

　　Pimentel說：“在工業領域使用緊湊型人工智能將越來越適用于機器操作控制、產品追溯控制和供應鏈系統管理。”

　　小型人工智能存在權衡取舍

　　大型語言模型通常適用于多種用途。它們可以協助撰寫大學論文，還能幫你構建網站。緊湊型系統可以針對特定系統進行優化。它們可以被設計成公司的聊天機器人或者自動補全計算機代碼。

　　但是，緊湊型人工智能系統目前準確性較低，因為它們通常使用較少的數據。

　　Shah表示：“考慮到低功耗、更快的推理時間以及在邊緣設備上運行人工智能的能力等好處，這些權衡通常是可以接受的。研究人員和開發人員會繼續努力提高緊湊型人工智能系統的準確性，同時保持其效率優勢。”

　　了解更多：EEE計算機協會最近發表了一篇關于小型語言模型的優勢和挑戰的深度文章。去看看吧：https://www.computer.org/csdl/magazine/co/2024/08/10632613/1ZgY9z1BTGM。