morning-brew-PeHWCNXU2gc-unsplash
Photo by Morning Brew on Unsplash

人工智慧已經在我們生活周遭隨處可見,但並不如我們的期望。它是金融系統、配電網和零售供應鏈裡不動聲色的基礎架構、無形的基礎設施,引導我們在車陣中通行,從我們打的錯字中找出正確的意思,並決定我們應該購買、觀看、收聽和閱讀哪些內容。我們的未來建立在這樣的科技之上,因為人工智慧與我們生活的各個層面息息相關:健康和醫療、居住、農業、交通、運動,甚至關乎愛情、性與死亡。

人工智慧不是一種科技潮流、流行語或短暫的娛樂,它代表著電腦運算時代的第三階段——認知運算時代(注:第一個階段為打孔卡片製表機時代,第二個階段為電子計算機系統時代)。我們正處於重大且徹底的轉變之中,與工業革命時代的劇變不相上下。工業革命時代剛開始時,眾人並沒有察覺到自己身處過渡期,因為與他們一生的歲月相較,那時的變化是逐漸發生的。不過到了最後,整個世界就不一樣了:英國和美國成為世界兩大強權,擁有足夠的工業、軍事和政治資本,並影響下個世紀的進程。

世人總對人工智慧爭論不休,人工智慧對我們的未來會有什麼影響,往往充斥著陳腔濫調;機器人將搶走我們的工作、機器人將顛覆經濟、機器人最終將殺死人類云云,早是你我熟悉的論點。要是我們把上述的「機器人」改成「機器」,等於又重現兩百年前眾人的爭論。人自然而然會去想新科技對我們的工作和賺錢能力所造成的衝擊,因為我們看過太多產業的崩壞,這不難理解。一講到AI,我們會天馬行空地想到科幻電影《2001太空漫遊》(2001: A Space Odyssey)中的人工智慧超級電腦哈兒(HAL)、電影《戰爭遊戲》(War Games)裡美國軍方的戰爭操作計畫響應系統(WOPR)、《魔鬼終結者》(The Terminator)裡的天網(Skynet)、卡通《傑森一家》(The Jetsons)中的機器人女傭蘿西(Rosie)、科幻電視劇《西方極樂園》(Westworld)中出現自我覺醒的機器人迪樂芮(Delores),或流行文化中其他數百個擬人化的AI。如果你不曾在AI生態系統中工作,你很容易對未來產生誤解,要麼光怪陸離引人入勝、要麼可怖至極令人吃驚,而造成這種錯誤的原因層出不窮。

如果不是埋頭日夜研發人工智慧的從業人員,你根本無法看清全貌;這也就是為什麼大眾對於AI的辯論,如果不是悲觀地引用電影中出現的機器人稱霸世界,那就是如另一派人馬表現出極其狂熱的樂觀態度。大眾不了解研發與產業的細節,是對人工智慧有過多想像的原因之一:有些人太高估了人工智慧的應用性,而有些人則認為它將成為無法抵擋的武器。

我會知道這樣的情況,是因為在過去十年中,我大部分時間都在研究人工智慧,並與業界內外的人士及組織進行會談。我提供建議給多家人工智慧執牛耳的代表公司,包括微軟和IBM。我與業外的利益相關者會面、提供他們建言,當中有創業投資人和私募基金經理、國防部和國務院的高層,也有認為立法監管是AI未來發展唯一方式的議員諸公;我還直接在AI第一線,與辛苦工作的學術研究人員和科技人員進行了數百次會面。那些AI前線人員在分享未來的事情時,很少會有像我們平常在新聞中聽到那種末日或烏托邦式的極端看法。

這是因為那些真正打造AI未來的人,與其他科學領域的研究人員一樣,希望能減緩大眾的預期心態;因為世人會一而再、再而三地忘記,實現劃時代的轉捩點需要耐心、時間、金錢和調適。這些工作人員長期辛苦工作,一點一滴處理非常複雜的問題,有時如滾芥投針,成效甚微。這些人聰明機智、深諳人情世故,而且根據我的經驗,他們充滿熱情,思慮周全。

他們絕大多數都替九大科技巨頭效力——美國的谷歌、亞馬遜、蘋果、IBM、微軟和臉書,以及中國的百度、阿里巴巴和騰訊——這些公司正在打造人工智慧,為了讓所有人能迎接更美好、更光明的未來。我堅信,這九家公司的領導者都懷抱著強烈的利他主義和為更大利益著想的願望:他們清楚地看到人工智慧有機會改善醫療保健和延長壽命,解決我們即將面臨的氣候問題,並且讓數百萬人擺脫貧困。我們已在所有產業和日常生活中,看到了他們工作成果所帶來正面且明確的好處。

而問題在於,外部的力量正在壓迫這九大科技巨頭,合力破壞AI業界對未來的最佳計劃,甚至波及到那些在這個生態系統內工作的人,這種情況歸咎起來,也有好幾個不同的層面。

在美國,無情的市場需求、對新產品和服務不切實際的期望,都使得長期的計劃無法進行。萬眾期盼谷歌、亞馬遜、蘋果、臉書、微軟和IBM在年度會議上,發表炫目的AI新產品,好像研發部門的突破是可以照著時間表來安排似的。要是這些公司沒有推出比去年更酷炫的產品,我們就會把這些產品說得像是失敗品;或者,我們會質疑AI是否退流行了;或是,我們會懷疑這些公司的領導能力。我們從沒讓這些公司能有個幾年的時間,心無旁騖地研究,不需要定期發表讓我們為之驚豔的產品。但願這些公司不會做出幾個月內不發表產品的決定,這樣我們會以為他們在暗地從事秘密專案,不放一點風聲,讓我們很不是滋味。

美國政府對人工智慧和我們的長期未來,都沒有準備好宏觀的策略。政府非但沒有統籌的國家級戰略來建立內部的組織能力、打造並強化美國的國際聯盟,為未來的戰爭做好準備;反倒把人工智慧的掌控權,下放給靠著旋轉門反覆換位的政客。聯邦政府非但沒有資助人工智慧的基礎研究,實際上反倒把研發外包給商界和反覆無常的華爾街。美國的議員非但沒有將AI視為創造新工作和產業成長的機會,還只看到科技業普遍的失業問題。因此,當他們可以邀請這些公司參與政府內部最高級別的戰略規劃時(假設有機會),他們會責怪美國的科技巨頭。我們的AI先鋒別無選擇,只能不斷彼此競爭,競相與一般人、學校、醫院、城市和企業,建立可靠、直接的連結。

在美國,缺乏遠見卓識是個相當普遍的問題;「當下主義」(Nowism)心態作祟,讓美國人只顧著規劃人生接下來的幾年時間,而不思考其他的時程。當下主義的心態支持短期的科技成就,至於科技將如何發展,以及下一道指令所牽連到的事物和我們行動的結果,當下主義就沒有顧及到所要承擔的責任。我們太輕易忘記,我們現在所做的事可能會對未來產生嚴重的後果。將人工智慧的未來發展委外分派給這六家上市公司,即便這些公司的成就非凡,但是他們的經濟利益並不一定與我們的個人自由、社群和民主理念的最佳利益一致,而這並不令人意外。


人工智慧的未來目前正沿著兩條路徑發展,但是這兩條路徑往往與最適合人類發展的方式相左。在中國,推動人工智慧的部分力量是協力打造以習主席領導的新世界秩序;而在美國,市場力量和消費主義才是主要推手。這種二分法對所有人來說都是嚴重的盲點,解決這個盲點是AI問題急迫的關鍵,也是本書的目的。九大巨頭公司可能追求同樣的崇高目標:破解機器智慧的密碼,用來建造有如人類思維的系統;但這項工作的最終結果,可能會對人類造成不可逆的傷害。

從基本面來說,我認為人工智慧是正面的力量,將提升下一代人類,幫助我們實現對未來最理想化的夢想。

但我是個實用主義者。我們都知道,一個人即便立意再良善,也有可能在無意中造成巨大的傷害。在科技領域,特別是人工智慧,我們必須謹記,要在預期用途和意外誤用兩方面做好計劃。這一點在今天和可預見的未來尤為重要,因為AI與任何想得到的事物都有關係:全球經濟、勞動市場、農業、交通、銀行、環境監測、教育、軍事和國家安全。這就是為什麼如果人工智慧維持目前在美國和中國的發展軌道前行,二○六九年可能會與二○一九年有非常巨大的差異。隨著管理社會的結構和系統漸漸依賴人工智慧,我們會發現,機器代理我們所做出的決策,對機器而言完全合理,但從人類的角度來看並非如此。

隨著機器開始覺醒,人類正在迅速失去自己的覺察能力。在AI的科技和地緣政治發展上,我們已經開始達成一些重要的里程碑,但隨著每一次的新進展,人工智慧對我們來說,變得更加無法覺察。系統挖掘和精進我們資料的方式並不明顯,同時,自主系統如何做出決策,我們相對的理解能力變得愈來愈不透明。因此,在理解人工智慧如何影響當前的日常生活,大家的看法分歧,而在未來幾年和數十年後,這種分歧的情況會更加嚴重。透過批判人工智慧目前發展的方向,盡可能縮小這個認知差距,是我對本書的使命。我的目標是讓與AI有關的對話民主化,讓你更聰明地了解未來會發生的情況;在還來得及的情況下,讓在未來實體世界裡AI所牽連到的事物具體化,並且與你個人相呼應。

人類正面臨著存在的危機,這麼說一點也沒錯;因為打從一開始,就沒有人能夠解決AI最根本的簡單問題:當我們拱手讓出權力,讓系統為每個人做出決策,而這個系統又是由一小群人所設計的,這時候社會會發生什麼事?當這些決策被市場力量或雄心勃勃的政黨給左右時,會發生什麼事?決策的結果將會反映在我們未來的機遇、資源被拒絕的方式、社會慣例、經濟運作的規則,甚至我們對他人的理解方式上。

>>本文摘自《AI未來賽局:中美競合框架下,科技9巨頭建構的未來》


ai-9-1

艾美.韋伯(Amy Webb)

美國知名定量未來學家、史登商學院策略遠見教授。於二〇一七年入選Thinkers50雷達名單,該獎項評選最有可能塑造未來組織管理和領導方式的管理學思想家。她在本書疾呼大家關注人工智慧破碎的本質,以及勢力強大的企業正在徹底改變人機關係。

二〇〇六年創辦「未來今日機構」(Future Today Institute),替財星五百大企業和全球一千大公司、政府機構、大型非營利組織、高等教育機構和世界各地新創公司提供諮詢服務。艾美.韋伯同時擔任美日領袖培育計畫的研究員,也是美國政府責任署的戰略前瞻研究員。曾任美俄雙邊總統委員會代表,她在會中致力於科技、媒體和國際外交的未來。

韋伯的研究多專注於人工智慧、新興科技、數位媒體,以及科技帶來的影響和契機。她對未來的預測已經被《紐約時報》、《哈佛商業評論》、《華爾街日報》、《Fast Company》、CNN、美國全國公共廣播電台等媒體特別報導,研究報告也被多篇學術論文所引用。另著有《邊緣商機》、《妳可以更挑剔一點》。

《AI未來賽局》入選二〇一九年《金融時報》與麥肯錫最佳商業書。