生成式 AI 已是業界必備技術,企業有意按步驟安全地引入。 SAS 在今年的年度大會發表多項在 Viya 內的生成式 AI 新產品,包括 GenAI 編排能力、 Copilot 個人助理、生成高品數據的 Data Maker,也在營銷科技方案 Customer Intelligence 360 加入 GenAI 功能。
SAS 在美國拉斯維加斯舉辦 SAS Innovate 2024 大會, 技術總監 Bryan Harris 在主題演講上指出,生成式 AI 實是業界處理數據的自然發展,讓 AI 開發人員更容易完成工作。他表示,由以往分散式基建架構 Hadoop,到好幾年前興起的 NoSQL,都有一定技術門檻,現在的生成式 AI 能夠透過自然語言發出指令,大部分工作由 AI 代勞。 SAS 將生成式 AI 開發成方案,在 Viya 上開箱即用,以合適的提示詞為用戶生成內容。
Harris 近年為 SAS 改革產品線,整合為數據和 AI 平台 Viya,推動工作效率、分析效能和可信性。他稱,將生成式 AI 加入 Viya 並在受監管的環境運行,幫助開發人員更快速地完成 AI 模型,促使員工更有效率工作。
Viya 新增的生成式 AI 功能包括:
- GenAI 編排能力:將外部的 GenAI 模型整合至現有的業務流程及系統,運用 LLM 編排能力實現端對端的企業應用實例。
- Viya Copilot:為個人助理,通過自然語言對話處理各項工作,包括分析數據集,得出情況、趨勢等洞察; Copilot 甚至建議分析模型,毋須用戶反覆嘗試找出洞察,又能從數據生成圖表視覺化數據,以至生成儀表板讓管理層直接檢視。
- SAS Data Maker:以少量數據作參考,可生成大量不附帶敏感內容的合成數據。
SAS AI 和 GenAI 全球產品策略主管 Marinela Profi 表示,SAS 的生成式 AI 策略幫助企業引入實際用途,直接在現有的業務流程上解決問題。以 GenAI 編排能力為例, LLM 本身不能解決業務問題,配合業務流程和知識則發揮強大能力,惟目前在企業的用途未夠廣泛,部分用途甚至只有對話功能。Viya 的 GenAI 編排能力具價值在於達成業務流程自動化。LLM 協助處理企業的投訴,能增加 20% 處理量,減少 40% 回應時間,也減少 15% 處理成本。
Data Maker 能解決業界不足夠數據訓練模型的問題。 Profi 稱,企業開發生成式 AI 和機械學習模型需要大量難題,而且不涉及私隱等敏感資料。如銀行偵測詐騙交易,要有可疑資料亦要有正常數據供訓練模型,開發人員提供少量數據作參考,Data Maker 會由 LLM 支援生成大量數據,過程一直跟原始數據比較分佈及提供品質評分(qualtiy score),以供監察數據的質素,所生產的數據會輸出成 CSV 檔案,可直接用於分析。
另外,SAS 營銷科技方案 Customer Intelligence 360 加入 GenAI 功能,透過自然語言提示利用 GenAI 推薦合適的客戶群,建立目標受眾;透過提供聊天體驗收集並分析受眾數據;以及提供 GenAI 電郵主題建議服務。
記者今次到美國拉斯維加斯採訪 SAS Innovate 2024,使用 1010 的數據漫遊通行證,每張通行證在 24 小時內可用 1GB 數據,其後限速 512kbps。這服務在美國接入 Verizon 流動網絡,屬當地效能較佳的網絡,全程使用 5G 網絡高速上網。