生成式 AI 成為公共雲平台的競爭,微軟有 OpenAI 加持獲明顯優勢,而 Google Cloud 則落力後追。Google 在 Google Cloud Next ’23 大會發表多項生成式 AI,如大型語言模型 PaLM 預覽支援逾百種語言,正式支援加至 38 種。雲端基建新增 TPU v5e 和 NVIDIA H100 執行個體。
Google Cloud 的機械學習管理工具 Vertex AI 新增多項生成式 AI 功能,其中基礎大型語言模型 PaLM 的輸入標記(Token)增加 4 倍至 32,000 個。PaLM 正式支援的語言增加至 38 種,另預覽超過 100 種語言,惟未有提及包括廣東話在內。 Vertex AI 又支援逾百大型語言模型,包括 Meta 的 LLaMA 2、Anthropic 的 Claude 2、TIl 的 Falcon。
Vertex AI 的生成功能升級,有生成程式碼的 Codey,據稱提高 25% 程式碼的品質。生成圖像的 Imagen 則改進圖像品質,亦加入 Style Tuning,讓企業可用少至 10 張參考圖片生成所需的品牌圖像。
Vertex AI 讓企業自行訓練人工智能模型,今年新增 Data Connectors 和 Extensions,連接不同來源的數據。Data Connectors 建立唯讀的數據通道,從 Cloud Storage、BigQuery,以至第三方的 Salesforce、 IRA、Confluence 等提取數據訓練。Extensions 則自訂來源的數據綱要。
增強雲端基建執行力
雲端基建新增 Cloud TPU v5e 和 NVIDIA H100 的執行個體,用作訓練大型模型。TPU 為 Google 自行研發的 ASIC AI 加速器,新版本 v5e 以成本效益作賣點,適合中型訓練和推論工作負載。執行個體 A3 採用 NVIDIA 當前最高階的 GPU H100,用於訓練大型語言模型。
生成式 AI 興起僅半年,Google Cloud 亦介紹企業客戶的案例,說明技術的用途。如 Docusign 用 Vertex AI 開發的智能合約助理正在進入試行階段,通過自然語言建立電子合約。 SAP 與 Google Cloud 合作給汽車業、可持續發展行業建立方案,將 Vertex AI 連接 SAP 系統取用數據。
Google Cloud 的生成式 AI 助理 Duet AI 加入至雲端保安,包括 Mandiant Threat Intelligence、Chronicle Security Operation 及 Security Command Center,用於評估企業的安全風險、調查安全威脅等功能。