微軟創辦人 Bill Gates（比爾蓋茲）曾在 2023 年底的科技預測提到，未來五年將出現人工智能驅動的智能助理，能夠引爆有史以來最大的運算革命，所指的助理不是機械人（Bot），而是 AI 代理（AI Agent）。NVIDIA 創辦人兼行政總裁黃仁勳在聯想年度大會 Tech World 2024 也提及，未來將有多達數十億的 AI 代理幫助人類完成各種任務，甚至幽默地將這些 AI 代理稱為「小 Jensen 玩偶」。AI 代理一詞火速成為焦點。要緊貼市場話題，怎可不認識甚麼是 AI 代理？
黃仁勳在 2025 年的 CES 主題演講上進一步講解，認為 AI 代理和通用機械人技術成為未來產業發展的核心，正在從研究和實驗室，擴屋到專業人士的工作，未來每一位軟件工程師、設計師，以至知識型工作者，都有不同的 AI 代理協助工作。
AI 代理其實是代表用戶執行任務的軟件程式，與環境互動後自行作出決策、完成行動，幾乎不需要人手干預的人工智能技術。AI 代理是生成式 AI 的演進，在處理文字、圖像以外，成為可執行任務的 AI 程式，特別強調「Autonomous」，可以理解成自動化和自主。
黃仁勳用他在 2024 年 6 月為美國職棒巨人隊開球的影片示範，輸入指令請 AI 評論這投球。幾秒後列出詳細分析報句，如投手跨步距離應該更長，產生更大力量、放球點過早等，獲 AI 評 7.5 分。這評論和建議來自影片分析 AI 代理，單憑一句指令便完成複雜的任務。AI 技術由過去的助理變成管家。
AI 代理在接收用戶的複雜指令後，即時分析內容，自行做出計畫，分解成不同步驟，自動建立相應的 AI 代理取得資訊作出決定。執行任務後還能夠把過程和結果回饋給自己，用以改進自己的行為，轉變為下次出任務的決策基礎。
與生成式 AI 大不同
AI 代理可以基於軟件或物理硬件，例如通過感應器收集環境資訊自動化地獨立完成任務，毋須用戶逐步引導。生成式 AI 主要功能是生成內容，從初期的文字，到後來的聲音、圖像和影片，過程需要用戶逐步旨示方可生成有關內容，而非由 AI 自動完成。
與對話機械人有分別
AI 代理與對話機械人（chatbot）亦不同。AI 代理目的在於完成任務，對話機械人僅是跟用戶交談。兩者之間最大分別是自主行動。AI 代理可能毋須與用戶互動，接收指令後自動執行，獨立完成任務。反之，對話機械人的設計目的在於與用戶交談，不具備行動功能，例如啟動智能家居的吸塵機、恒溫器，以至開啟車輛的自動駕駛系統。不過，兩者之間也有共通點，特別是背後的技術：
- 由自然語言處理去理解內容；
- 由大型語言模型支援；
- 配合檢索加強生成（RAG）數據庫，更有效理解用戶輸入的內容。