IBM 近期發表 Granite 3.0,當中包括 80 億和 20 億參數的小型語言模型(SML)。IBM 香港首席科技總監李永輝表示,小型、高效能模型更貼近企業需要,配合企業數據加以訓練,能夠在檢索增強生成(RAG)、分類、摘要等任務提供恰到好處的效能。使用成本比大型模型低 3 倍至 23 倍,更符合成本效益。
Granite 3.0 的模型還強調安全和開源,根據 IBM AttaQ 安全基準測試,Granite 3.0 8B Instruct 模型的安全性在多方面均領先 Meta 和 Mistral 的模型。模型採用開源授權,開發人員透過 watsonx 能夠自行修改,而且 IBM 公開用於訓練 Granite 模型的數據集所生成的內容有源可尋。
IBM 以 Granite 3.0 為基礎開發多個工具,如編程 AI 助理(Assistants)、以至結合 RAG 回應更複雜問題的智能代理(Agents)。IBM 旗下的交付平台 Consulting Advantage 將用 Granite 3.0 擴展功能,協助顧問服務企業客戶。其中新增 Consulting Advantage for Cloud Transformation and Management 和 Consulting Advantage for Business Operations,包括特定領域的 AI 智能代理、應用程式,加上最佳實踐方法,推動客戶加速雲端和 AI 轉型任務。