IBM 在 Hot Chips 2024 大會發表下一代 IBM Z 所用的處理器 Telum II，連同相關 DPU 和 AI 加速器 Spyre，將大型主機進一步推向 AI 運算，支援企業使用大型語言模型和生成式 AI。Telum II 處理器為 8 核心 5.5GHz，採用三星晶圓代工的 5 納米工藝，以整合 AI 方法加速 AI 運算。
IBM 在 2021 年推出 Telum 處理器，採用新核心架構原生支援運算 AI 工作負載。這款處理器用於 IBM Z 大型主機，將大型企業所用的主機轉型成加速 AI 運算。在 Hot Chips 2024 大會發表的 Telum II，直接支援 AI 模型和大型語言模型的推理工作。
根據 IBM 公布的資料，Telum II 處理器內建 8 個 5.5GHz 核心，每個核心配備 36MB L2 快取，整體容量增至 360MB，較上一代處理器增 40%。每個處理器在記憶體內可建虛擬 L4 快取 2.88GB，較上一代增加 40%。
Telum II 加入 IO 加速元件 DPU，卸載 CPU 處理傳送數據的工作，有效應付如訓練 AI 模型的數據密集運算。
IBM 同時新增 AI 加速器 Spyre，採用 AIU（AI Unit）晶片，同樣為 5 納米製程，內有 32 個核心配 1TB 記憶體，功耗少於 75W，經 PCIe 連接。每個 IBM Z 模組可安裝最多 8 張 Spyre 加速器。
整合 Telum II 和 Spyre 加速器，能提供低時延和高吞吐量的 AI 推理。IBM 建議適用在下一代 IBM Z 大型主機的 AI 用例包括：
- 檢驗保險理賠欺詐
- 反洗黑錢高級監察
- AI 助理
Telum II 和 Spyre 加速器將用於下一代 IBM Z 和 LinuxONE，預計 2025 年正式推出。