Magazines88

「深度偽造」假可亂真 全人類可變受害者



摘自:《FORTUNE》2019年8月 (P.24)
Fighting deepfakes gets real
 
 
深度偽造成科技陷阱 人人均可能受害
 
「深度偽造」(Deepfake)就像喪屍不停出現。最先是貌似演員Gal Gadot和Scarlett Johansson的成人電影,然後是奧巴馬和特朗普出現在不可能出現的場合,說一些他們不可能說的話。
 
歡迎來到「深度偽造」的時代,這是由人工智能帶來的威脅,例如將人們放入某個場合,或令他們說一些話,與從不相識的人互動等。不久,人們便擔心這種深度偽造技術會用於政治目的,造出政治人物的醜態,或散佈假消息。
 
相關應用程式關閉 人們正視潛在問題
 
目前為止,女性是深度偽造的最大受害者。6月底,Deepnudes應用程式在一遍爭議聲中宣佈關閉,因為多位記者報導指,用戶可將女性的普通照片輸入程式,產生她們一絲不掛的照片。
 
人們憂慮這種科技甚至會超越不雅色情的用途,特別是一旦涉及政治,甚至可能被利用來影響選舉結果。這種擔憂正在加劇,因此美國一些國會議員希望立法禁止深度偽造技術的應用。不過科技巨擘相信其工程人員可以解決這種問題。
 
然而,紐約人權組織Witness的計劃總監Sam Gregory指出,製造一段深度偽造的影像,遠比偵察誰真誰假容易得多。很快即使不懂科技的人也能製造出深度偽造的影像。
 
Witness教導媒體公司和相關人員如何分辨人工智能技術製造的「人造影像」,並致力要求各科技公司負責任應對這種技術。Gregory表示:「那些公司開發應用程式讓人可將照片改頭換面,就應該開發產品可偵察偽造技術。」
 
科技巨擘亦正亦邪 防毒軟件應運而生
 
軟件生產商Adobe Systems正是這樣。6月,Adobe Research的電腦科學家展示一款文字轉為語音的強大混算程式,可將文字變成電影人物的說話。該公司發言人表示,Adobe的研究人員亦同時在開發技術幫助人們識別偽造技術。Adobe最近發佈一款軟件工具,可偵測Photoshop產生的影像。
 
然而正如研究人員和維權人士所指,開源社群由大量獨立編程人員組成,往往缺乏組織,很難可以應付這類軟件產生的偽造影像。
 
因此,市場出現另一股對抗勢力。荷蘭初創企業Deeptrace Labs表示正在開發「深度偽造防毒軟件」,其客戶包括媒體公司,可為記者提供偵測假影像的工具,辨認影像的真偽。


想閱讀完整的名刊匯?請立即下載: