兒童性侵犯一直被視為嚴重的問題，香港也早已立例禁止在網上散布性侵犯兒童的內容。而以機械學習技術而知名的 Google 也有在這一方面出力。昨日更公布推出一個針對兒童性侵犯內容（ CSAM, Child Sexual Abuse Material ）的檢測 API ，民間組織、 NGO 等都可以申請使用。
Google 一直有參加監視網絡性侵犯兒童內容的英國組織 Internet Watch Foundation （ IWF ）和 Technology Coalition 等組織，並開發防止透過互聯網來虐待兒童或進行兒童性交易的技術。這些組織過去都是透過用戶投訴或審查員查察的方式來搜尋、刪除有關內容，而近年就開始使用人工智能的圖像辨識技術。
而 Google 公布的這個新 API 就利用深度神經網絡，就將需要審查員查察的 CSAM 內容分類，按可能性高低來排序，讓他們的審查工作更有效率。過往檢查 CSAM 的方法是將過去搜查出來的 CSAM 內容製成雜湊碼進行比對，而新技術就針對過往未認定為 CSAM 的內容。根據 Google 的測試結果，審查員使用了新工具之後，在一定時間內檢測和處理的 CSAM 增加了 7 倍之多！
想使用這個 API 的民間團體、 NGO 或科技公司，可以填寫這張表格向 Google 申請。
