歐洲議會在香港時間昨晚通過首條有關人工智能的法案，列出被禁止的人工智能系統類型，一些高風險的人工智能系統亦要受到監管。而生成式 AI 如 ChatGPT 雖然並未被歸類為高風險，但就要遵守一系列透明度和版權要求。法案會分階段生效，兩年後全面實施。
被禁止的 AI 系統包括：
- 對人或特定弱勢族群的認知行為操弄；
- 社會評分：根據行為、社會經濟地位或個人特徵對人們進行分類；
- 對人進行生物特徵識別和分類；
- 即時和遠端生物識別系統，例如容貌辨識。
一些 AI 系統則被列為高風險，需要在投入市場前和營運期間接受評估，市民亦有權向指定國家的監管機構對 AI 系統作出投訴。高風險的 AI 系統包括：
- 可能危及公民生命和健康的關鍵基礎設施（例如交通）；
- 可能決定某人一生接受教育和專業課程機會的教育或職業培訓（例如考試評分）；
- 產品的安全組件（例如 AI 在機器人輔助手術中的應用）；
- 就業、員工管理以及獲得自營職業的機會（例如用於招聘程序的履歷分類）；
- 基本私人和公共服務（例如剝奪公民獲得貸款機會的信用評分）；
- 可能干擾人們基本權利的執法（例如評估證據的可靠性）；
- 移民、庇護和邊境控制的管理（例如簽證申請的自動審查）；
- 司法和民主進程的行政程序（例如用於搜尋法院裁決的 AI 解決方案）。
至於生成式 AI 如 ChatGPT，就不會被列入高風險系統，但需要遵守透明度要求和歐盟版權法，履行一些義務，例如要清楚標明內容由 AI 生成、開發模型時需要防止被用來生成非法內容，與及發布有關用於訓練模型而受版權保護的數據的摘要。
違反 AI 法案可被罰款 3,500 萬歐元（約港幣 $3 億），或全球全年營業額的 7%。法案預計會在 5 或 6 月正式成為法律，並會分階段生效：
- 6 個月後：各國會被要求禁止被禁的 AI 系統；
- 一年後：有關通用人工智能系統的規則開始生效；
- 二年後：全面實施整條 AI 法案。