kevin-ku-w7ZyuGYNpRQ-unsplash
Photo by Kevin Ku on Unsplash

何謂深度造假

深度造假是一種「合成媒體」(synthetic media,又譯「合成內容」),代表媒體內容(包括圖片、聲音和影像)受到操控,或完全由人工智慧創造。AI技術讓媒體控制變得更輕鬆,也更容易了(例如Photoshop或Instagram的濾鏡功能)。然而,AI近年來的發展已讓機器具備製造完全合成媒體的能力,媒體控制的層次也隨之提高。這種現象將產生巨大的衝擊,影響我們創作、溝通,以及詮釋世界的方式。這項科技雖然興起不久,但不出幾年,任何持有智慧型手機的人,只需要些微技巧或努力,就可以幾乎零成本地創造出媲美好萊塢等級的特效。

雖然這種技術帶來許多正面發展(例如讓電影和電腦遊戲變得更有看頭),但也能變成一種攻擊武器。當合成媒體被人惡意使用,企圖提供不實或錯誤資訊時,就是所謂的「深度造假」。這是我個人對於「深度造假」的定義。這個領域才剛興起,因此在分類上依然莫衷一是。然而,由於合成媒體的使用案例(use case)好壞皆有,本書的「深度造假」專指:任何意圖提供錯誤和不實資訊的合成媒體。

方才提到的歐巴馬假影片,是由好萊塢導演喬登.皮爾(Jordan Peele)和美國網路新聞媒體公司Buzzfeed基於教育目的共同製作而成 ── 旨在提醒民眾提防濫用合成媒體帶來的潛在威脅。片中「那個歐巴馬」繼續說:「從今而後,對於網路上那些令我們不疑有他的資訊,要更加警覺。這句話聽起來可能了無新意,但我們如何因應資訊時代(Age of Information),將會決定我們是生存下來,或是整個世界淪為混亂的反烏托邦。」

不幸的是,我們已經身處「混亂的反烏托邦」之中了。在當今時代,我們的資訊生態系統早已遭到污染,而且非常危險。我們正面臨空前巨大的「錯誤和不實資訊」危機。為了分析和討論此問題,我需要找到一個適合的詞彙來描述當今全體人類所處的「混亂」資訊環境。而我決定使用「資訊末日」(infocalypse)一詞。為了符合本書題旨,我將資訊末日定義為:目前絕大多數人所處的資訊生態系統,危險程度日漸增加,可信度卻愈來愈低。

「資訊末日」一詞由美國科技專家阿維夫.歐維亞(Aviv Ovadya)於二○一六年提出。當時他用這個詞彙,警告世人留意惡質資訊已充斥整個社會,同時思忖有沒有一種「臨界指標」(critical threshold),一旦達標、社會將再也無法負荷。歐維亞所指的「資訊末日」,並沒有單一明確的定義,而是融合不同觀念而成。一如他所正名,資訊末日並非靜態的「事物」或單一事件,而是人類社會持續演變的狀態,我們每個人涉入的程度都會愈來愈深。個人認為,資訊末日現象影響的層面日漸擴大,對地緣政治(geopolitics)、乃至於我們的個人生活,都將產生危害。

我們難以指出資訊末日形成的開端,或實質的影響程度。不過,資訊末日確實與本世紀初科技發展呈指數成長有關。在邁入千禧年之前,資訊環境進步的速度較為緩慢,我們的社會有更多時間適應新科技。從印刷術誕生到攝影術問世,足足間隔了四百年之久。但僅在過去短短三十年內,網路、智慧型手機和社群媒體就改造了我們的資訊環境。到了二○二三年,全球大約三分之二的人口(約合五十三億人)都會加入這個急速演變的資訊大環境;另外三分之一也很快就會跟進。在這樣的資訊生態環境,影像儼然是最強而有力的溝通媒介。

演變之快,導致資訊生態系統很容易遭人利用。惡意的行動者(bad actor)── 大至民族國家,小至個人行動的「意見領袖」 ── 逐漸利用新環境的形勢來散播「錯誤資訊」(亦即刻意誤導大眾的資訊),圖謀不軌。快速變動的資訊環境還有一種副作用:「錯誤資訊」的擴散。錯誤資訊和不實資訊不同。不實資訊的目的是欺騙,而錯誤資訊僅是不可靠的消息,背後沒有惡意。雖然錯誤或不實資訊都不是新觀念,但規模今非昔比,且影響力益發強大;某部分而言,這是去脈絡化以及(或者)經過編輯的影像與圖片所致,也就是我們熟知的「粗劣造假影片」(cheapfake)。由於我們目前仍處於AI革命的起步階段,這起革命將導致資訊生態系統進一步演進,使得問題更加惡化。機器愈來愈擅長製造合成媒體,人類互動、以及詮釋資訊和世界的方法也會改變。AI革命所帶來的,將是真假難辨的錯誤和不實資訊,亦即「深度造假」。

資訊末日有個顯著特徵,那就是對於如何呈現和理解這個世界,想建立合理的共識愈來愈難了。我們時常覺得自己被迫「選邊站」。進入資訊末日,即使想建立普遍「事實」原則,並在此原則下進行理性辯論,都可能成為一大挑戰。在受到污染的資訊生態系統之中,愈來愈多人日漸政治化;面對棘手的問題(種族、性別、墮胎、英國脫歐、唐納.川普〔Donald Trump〕、武漢肺炎〔COVID ─ 19,又稱新型冠狀病毒肺炎,簡稱新冠肺炎〕等),立意良善的努力被導向輸贏之爭,終究落入派系對立的惡性循環。資訊末日下,爭執雙方無法說服彼此 ── 每一次嘗試都只是在承擔歧見加深的風險。除非將注意力和能量導向正途,去面對失能的資訊生態系統所產生的結構問題,否則無法阻止社會逐漸走向分裂。至於我開始研究深度造假和資訊末日的契機?透過十年的政治參與經驗,我發覺這個主題和政治息息相關。

資訊末日的形成

二○一四年,我在英國西敏寺的歐盟政策智庫服務,針對俄羅斯併吞克里米亞及入侵東烏克蘭,分析歐盟的反應。我日以繼夜地工作,持續和國際新聞網合作。歐盟遲遲未有共識,莫斯科當局卻顯然已有萬全的準備。俄羅斯斷然否認侵略烏克蘭,宣稱這是西方政治人物和評論人意圖抹黑俄羅斯的行動。

俄羅斯對於烏克蘭事件的說法如下:烏克蘭已經陷入內戰,由支持俄羅斯的「分離主義反叛軍」對抗烏克蘭國家政府。我曾和某位支持克里姆林宮的評論員有過一場激辯。對方是一位年邁的紳士,在佛拉迪米爾﹒普丁(Vladimir Putin)掌權前曾擔任俄羅斯前總統葉爾欽的顧問。我們的對話是一場災難,但確實是非常聳動的電視題材。我們甚至無法就單純的事實取得共識,更別提有意義的辯論了。當我試圖解釋歐盟對俄羅斯侵略行為的反應,對方卻完全否認俄羅斯已發動戰爭。我們之間缺乏對現實的共識,因此沒有任何理性對話的基礎。

數月以來,俄羅斯與烏克蘭危機成為我工作的重心,而當地的事態發展則淪為一齣超現實悲劇。東烏克蘭的「分離主義反叛軍」將一架客機誤認為軍機並擊落。這架馬來西亞航空公司的MH—17班機,機上二百八十三名乘客和十五名機組員全數罹難。我在倫敦各地的電視台攝影棚裡探討西方世界對這起悲劇的回應,空難現場的影像卻揮之不去:東烏克蘭的田野上四散著班機的破碎殘骸。

隨後的調查結果顯示,俄羅斯軍隊才是擊落MH—17的幕後主使,也查出曾有導彈發射器從俄羅斯國境運往烏克蘭後,又運回了俄羅斯。時至今日,即使謊言已被揭穿,莫斯科當局依然否認涉入。正如「英國國會情報和安全委員會」(Intelligence and Security Committee,簡稱ISC)在二○一七年做出的結論:

俄羅斯當局發動大規模的資訊戰爭(中略)其中一個近期的例子,就是非常密集且多管齊下的宣傳戰,意圖說服全世界,俄羅斯與MH—17遭到擊落無關(這是徹底的誤導:毫無疑問地,俄羅斯軍隊使用了導彈系統發射飛彈,並在事件發生後將其回收)。

隨著事情曝光,最令人震驚的,莫過於克里姆林宮當局如何全面利用新興的通訊工具、特別是社群媒體,企圖散播有利俄羅斯的說法。由國家資助的國際電視網「今日俄羅斯」(Russia Today,簡稱RT)在YouTube進行免費直播。當時,今日俄羅斯頻道也針對MH—17和烏克蘭戰爭,播送有利克里姆林宮的說法。今日俄羅斯電視網的總編輯瑪格麗塔.西蒙尼揚(Margarita Simonyan)在二○一四年的一次採訪中表示,今日俄羅斯為了俄羅斯「挺身而出」,「發動資訊戰爭」對抗「整個西方世界」。該媒體的成功源自於看見YouTube的潛力。到了二○一七年,YouTube每日觀看時數飆升至十億小時,等同於一個人不眠不休地收看十萬年之久。在這個無比強大的平台上,今日俄羅斯是流量最高的新聞頻道,觀看次數超過十億,並同時以英語、西班牙語、法語、德語、阿拉伯語、俄語等語言播出。然而,播放的內容並非為了造福旅居其他國家的俄羅斯僑民。

YouTube不是莫斯科當局唯一使用的社群媒體平台。二○一三年,克里姆林宮設立的「網路研究局」(Internet Research Agency,簡稱IRA),成為情報單位機構之一。IRA的任務,就是利用社群媒體平台滲透外國輿論,並以符合莫斯科當局利益的方式「影響」各種議題。網路研究局首先瞄準烏克蘭,但很快就將注意力轉至西方世界 ── 因操控二○一六年美國總統大選而惡名昭彰。然而,據我在研究過程所見,早在美國總統大選前,俄羅斯的手就伸向歐洲了。

>>本文摘自深度造假:比真實還真的AI合成技術,如何奪走人類的判斷力,釀成資訊末日危機?


ai-54

妮娜.敘克Nina Schick

政治評論員、作家和顧問。妮娜專門研究科技和AI如何重塑政治,曾參與英國脫歐、法國總統馬克宏(Emmanuel Macron)競選團隊,分析外國勢力介入選舉(包括2016年、2020年美國總統大選),以及錯誤和不實資訊的演進。

妮娜曾擔任多位全球領袖的顧問,像是美國前副總統暨2020年民主黨總統候選人拜登(Joe Biden)以及「北大西洋公約組織」(NATO)前祕書長拉斯穆森(Anders Fogh Rasmussen),她主要針對新一代不實資訊和AI生成的深度造假提供專業意見。妮娜為德國和尼泊爾混血,精通七種語言,並擁有劍橋大學和倫敦大學學院學位。現居於英國倫敦、德國柏林與尼泊爾加德滿都三地。