自從深度學習衍生 Deepfake 的模仿真人技術,引起各界關注資訊安全問題。美國奧斯卡得獎導演 Morgan Neville 最近製作名廚 Anthony Bourdain 的紀錄片《 Roadrunner: A Film About Anthony Bourdain 》,其中有幾句「 Bourdain 」的獨白,其實是由 Deepfake 模仿,他本人從未說過。
Bourdain 既是名廚、食評家,亦是美食節目主持,在 2018 年 6 月自殺過身。 Neville 製作介紹他生平的紀錄片,日前在美國公映。導演接受《 The New Yorker 》訪問時透露,他請人工智能技術公司建立 Bourdain 的說話模型,複製他的聲音說出幾句獨白。
其中一幕由 Bourdain 的好友兼藝術家 David Choe 讀 Bourdain 寄給他的電郵, Choe 的聲音落下,隨即由「 Bourdain 」承接讀下去。
Neville 稱,希望影片內用上由 Bourdain 讀出的這語句,但找過所有電視、電台、有聲書等材料,都找不著。於是請來軟件公司輔助,提供約 12 小時的 Bourdain 錄音作訓練素材,建立他的聲音模型,再用電腦模擬和 Deepfake 製作,合成這句說話。甚至他亦坦言,若不在影片加以標注,觀眾難以分辨。
Neville 接受另一傳媒《 GQ 》訪問時強調,並沒有給 Bourdain 強加言論,只是將他的說話變得生動。
然而,資訊安全業界不斷呼籲用戶關注 deepfake 的危機,如英國 Channel 4 偽造英女皇聖誕文告短片、微軟推出驗證工具等。這次 Neville 卻用同一技術示範其他用途。