為什麽人工智慧無法拯救世界

圖片來源：

一切對人體有害的東西在美國都流行得太快了。因為那是最容易讓人們投入的東西，那是簡單又具有破壞性的東西，那是最不能激發人們積極性的東西。

——吉爾·史考特·赫倫（Gil Scott-Heron）

當今社會的主導因素正是變化，持續不斷的變化，不可避免的變化。明智的決定不僅要考慮世界的現狀，還要考慮世界的未來。

——艾薩克·阿西莫夫（Isaac Asimov）

對於第一次我在哪裏登入互聯網的情形，至今我仍記憶猶新。當時就在波士頓郊外，在我叔叔家的辦公室，那間辦公室也用作客房。那天是1993年12月18日。我登入了美國線上（America Online，美國時代華納的子公司，著名的因特網服務提供商）。經過了五分鐘的等待，我聽到了「歡迎！」然後，我點選了一個名為「體育」的選單標題，又等了十分鐘才載入比賽得分，可後來有人拿起電話，我這邊就斷線了。

事情的開始就是這樣的；又過了幾年，我家才接通互聯網。到那時，它稍微有用一些。那會兒為了完成作業，我利用網景導航器（Netscape Navigator）作弊；有時我也存取所謂的網站，下載最喜歡的體育中心主播流行語的音訊檔，下載電影臟話台詞的音訊檔，以便在空閑時聽。我真的對它非凡的力量感到敬畏。

連線速度一路攀升：7K、14K、28K、56K。我們使用MSN、AIM、ICQ、Juno、AltaVista和Yahoo。讓打電話見鬼去吧。我在玩Acrophobia遊戲，在聊天室裏和辣妹聊天，同時下載凱特·溫斯萊特（Kate Winslet）和莎拉·蜜雪兒·蓋拉（Sarah Michelle Gellar）的圖片作為桌面桌布。每隔一個小時左右，我還可以從Napster（編者註：Napster是一種線上音樂服務）上盜錄重金屬搖滾樂隊石廟精靈（Stone Temple Pilots） 的mp3版音樂。

是的，當一項新穎的、能改變範式的技術出現時，十幾歲的工薪階層白人直男用它來做他們一直在做的事情：作弊，玩遊戲，看美女，聽臟話和聽愚蠢的搖滾樂。不要對我翻白眼；我並不孤單。當時我們都是互聯網的新手，想知道它是用來做什麽的，它能做什麽，而矽谷的新貴們卻在【時代】和【新聞周刊】上告訴我們，全球資訊網終將成為我們的一切。

我把這個感人至深的起源故事轉述給你，是想告訴你，資訊時代大約有三十年的歷史。這個時代足夠長，可以成為美國真正的「時代」，比如鍍金時代或原子時代，但還沒有長到讓我這樣的年輕人（傻笑）無法回憶起沒有資訊時代的生活。我還能記得沒有互聯網的那些日子，我確實記得。這也意味著，當登入 "網路 "或 "web "之類的東西還是新鮮事物的時候，我還記得人們是如何談論它的，而在此後的三十年裏，它又是如何沒有像我們想象的那樣得到真正的發展。

當然，互聯網，無論好壞，徹底改變了一切。然而，Web 1.0 布道者所預言的無限技術烏托邦從未實作。我們仍然工作得太多，死得太早，為錯誤的事情爭吵得太大聲，為愛和同情而掙紮，無法決定周末晚上看什麽節目。

但至關重要的是，我們也避免了被大肆炒作的網路災難。我們挺過了「千年蟲」困難。資本家們利用人性監控使用者的數據。我們知道這事，心裏也很平靜。而且怎麽說，我們最終還是接受了將信用卡資訊和個人照片放到網上的做法。也許人們會覺得現在的世界一下子就崩潰了，但就像......殖民主義、種族主義、性別歧視、狂熱、財富囤積、工業汙染和資源開采並不是什麽新鮮事。它們只是我們無法償還的沈重債務——無論如何，都不會比賬單上的利息復利更快。

現在是2023年，我們已經到達了過去的互聯網時代和即將到來的人工智慧時代之間的分界線。但請原諒我不會鼓掌歡迎。細節可能有所不同，舞台可能已經轉移，利害關系可能已經加劇，我們對總體苦難的認識可能更加尖銳，但總的來說，我們的處境與 1993 年時差不多：全球嚴重分裂，營養不良，可能處於社會和經濟淪陷的懸崖邊上，對我們過去和現在的罪孽耿耿於懷，但仍有巨大的潛力來兌現我們的承諾，即建立一個體面、自由、公平的世界，讓所有人都能生活，甚至是繁榮昌盛。

要是說我們從過去的三十年中學到了什麽的話，我認為我們可以看到未來的三十年不會如我們想象的一樣。新時代的到來不會阻止追求利潤的預言家們做出大膽、愚蠢的保證，也不會阻止他們為自己帶來的火災敲響警鐘。

綜上所述，我不打算發表一個關於人工智慧的長篇臟話，盡管我願意用微弱的贊揚來詆毀它。坦率地說，我認為它將在某些領域給我們帶來質的飛躍，而在另一些領域則會帶來倒退，更多的小眾長尾可能性會帶來混亂和淪陷。盡管如此，我認為三十年後，我們仍會就產出、可負擔性、平等、永續發展、健康、幸福和地緣政治劍拔弩張等問題展開極為相似的重大而緊迫的對話。

我之所以寫出這篇文章，是因為我讀到了著名風險投資家馬克·安德森（Marc Andreessen）【為什麽人工智慧會拯救世界】（Why AI Will Save the World）的文章，他顯然是透過宣傳來欺騙我們，為自己誘人的既得利益服務。他在最空洞的真空中吹捧人工智慧。人工智慧這片原始水域將為人類和技術領域開創全新的時代。我們應該對其進行適當的深入研究，以確保其可行性；現在，讓我們深吸一口氣，對其進行測試。

增強是錯誤的框架工具

我對烏托邦式人工智慧福音主義的第一個批評在於使用「增強」（Augmentation）作為通用功能。安德森認為，人工智慧將「增強」人類智力，從而提升成果。然而，增強意味著一種補充效用。

安德森以此為貫穿線，暗示我們將主要利用人工智慧為人類提供目前個人和集體能力所無法提供的效用。人工智慧將為我們提供一種近乎無限且不斷發展的按需智慧，它將提高決策的速度和品質，教育我們，與我們一起社交，與我們一起創新，不知疲倦地從事生產工作，消除（或大大抑制）我們最壞的沖動。從理論上講，將人類的核心功能外包給基於人工智慧的技術，可以「解放」人類從而減少工作、更好地工作，讓人們可以從事更高層次、更獨特的人類活動。這我懂，這在某些方面聽起來是正確的，實際上也真的可能會實作，但專註於增強，我們會錯失森林。安德森在他的論點中做了補充，犯了我們一直犯的同樣的錯誤。

自奧杜韋文化（Oldowan，廣泛分布於非洲大陸的舊石器時代早期文化）以來，人類一直在創造工具和技術來幫助維持生存。新的創新通常被認為是釋放時間、減輕身體和精神壓力、產生資本和開啟更多創新的途徑。現在還沒有像「節省時間」、「省錢」、「緩解擔憂」、「活得更長」、「找到愛情」、「約會」或 「快速致富」這樣引人註目的廣告文案。在個人層面上，這些都是奪人眼球的資訊，我們只是不斷尋找更具創造性的措辭方式和新的應用程式來幫助我們更好地滿足需求。當然，這些都是互聯網的承諾，也是美國、汽車、微波爐、商業航空旅行、加密貨幣和Bumble交友軟體的承諾。

當然，自從我們的史前先輩制造出石制匕首，將糞便埋在泥土和灌木叢中，以免被乳齒象啃食之後，生活已經得到了不可估量的改善。然而，盡管我們在互聯網時代取得了種種進步——確實是幾個世紀以來令人震驚的創新——我們仍在與當初的基本擔憂作鬥爭：人們過度勞累、焦慮、孤獨、生病、暴力，難以支付賬單。盡管有了這些增強功能，但我們仍然需要打兩份工、投票淘汰法西斯分子、賣腎支付化療費用，以及殖民火星以確保我們能繼續生存下去。雖說有了核武器和自動武器，但誰又覺得更安全了呢？雖說有了溝通渠道，但人們仍然無法組織起來防止人權倒退。

技術並沒有真正增強人類的潛力，而是加速和放大了人類的潛力。與過去的重大創新一樣，人工智慧將使我們能夠做得更多（放大）、更快（加速）。我們不能保證我們用它做的所有事情都會是好的，人工智慧也不會神奇地阻止我們做愚蠢或邪惡的事情。人工智慧會出現故障或失靈，或者讓我們做一些我們沒有預料到的事情，產生我們無法預測的結果。ChatGPT讓人產生幻覺，它不失為是一個更迷人、更溫和的例子。人工智慧威脅要做的，而且坦率地說，它將要做的，就是增加人類系統中可用的總熵。是的，我們也許能治愈大量無法治愈的罕見疾病，但流氓國家在冰島上空引爆電磁脈沖的可能性也更大——即使是意外。

只有當我們不繼續提高價格和壓低薪資、確保公平地獲得權利、真的能用節省的時間做一些有價值的事，而不是解雇20%的員工來避免支付額外的帶薪休假費用，那麽節省時間和金錢、降低風險和壓力、增加資本和機會、提供幫助和護理等福利才顯得重要。從技術和經濟的角度來看，仍有太多人生活在刀刃上，20世紀80年代的人們對這種生活方式應當並不陌生。

人工智慧確乎會透過純粹的隨機機會 "拯救世界"，因為它讓我們在末日輪盤上有更多的旋轉。人工智慧甚至可能讓我們更擅長在末日輪盤上旋轉。它沒有降低負面影響的風險，沒有完美地消除之前存在的偏見和不公平，沒有防止人們操縱遊戲。假定人工智慧會像我們所希望的那樣，為我們帶來切實而持久的好處？假設有嚴重缺陷的人可以做出完美的東西——自從邁斯·戴維斯(Miles Davis，美國小號演奏家)創作了【Kind of Bule】以來，這種情況從未發生過。你還假設在人工智慧賦能的地球上，最權貴的人會發現一種集體的無私精神。然而他們還沒證能明有這種無私存在。

富貴之人如何看待你我

人是什麽？人有價值觀和目標，但人是在市場中活動的人。婚姻市場、就業市場、貨幣市場、思想市場，等等。人們什麽是？人們是經濟單位。我是30多米高的巨人。而人們是一群侏儒，但他們卻形成了一個市場。

——羅根·羅伊（ Logan Roy），【繼承之戰】，第四季，第01集

麥可·金斯伯格（Michael Ginsberg）：我為你感到難過。

唐·德雷柏（Don Draper）：我一點也不會考慮你。

——【廣告狂人】，第五季，第09集

2020年1月，我參加了在加州卡拉巴薩斯舉行的智庫峰會。在峰會上，一位億萬富翁揭露了富得流油的人是如何看待普通人的。他們沒有單獨地考慮人。他們只考慮大集體中的人：投票集團、市場、勞動力、暴徒、軍隊、國家、種族等。唯一能撥動他們感覺神經的人，是他們認為與自己平等的其他人。凈資產是他們判斷某人是否值得關註的主要標準。我並不是唯一一個註意到這一點的人；格拉斯·洛西科夫（Douglas Rushkoff）在他的【富者生存：科技億萬富翁的逃離幻想】（Survival of the Richest: Escape Fantasies of the Tech Billionaires）一書中作論同樣地闡述。

超級富豪有兩個主要目標：權力和保護。控制大集團的權力，以及保護自己不受他們控制。對於無法掌握的事物必須與之保持距離。私人碉堡、安全部隊、島嶼、遊艇、噴射式飛機、圍地、汽車、學校、建築、社群等。他們不會觀看或閱讀他們沒有擁有或不曾委托的新聞。他們不會僱用忠誠度存疑的人。他們直接遊說民主機構，而不是提供納稅，或者在某些情況下也不投票。他們基本上不知道大眾對他們的看法有多負面，因為耳邊沒有人會告訴他們，而且可以肯定的是，他們不會讀你或我寫的任何文字。暴富帶來的最大奢侈就是可以避開所有人，除了那些他們選擇碰到的人。

你會註意到，安德森的文章使用了大群體詞，「歇斯底裏」、「恐慌」、「世界」、「文明」和「社會傳染」，他很少提及個人，而是提及復數亞群體和「沖突」等委婉語。安德森是從6萬英尺的高空俯瞰人工智慧，他太脫離了地面，以至於忘記了人工智慧原本的樣子。他也並不例外。在財富的估算中，進步就是一台發動機，裏面裝著面目全非、沒有靈魂的大眾，由偉人操縱踏板和方向盤，爭先恐後地到達新的地方，這樣他們就可以用自己的名字來命名地平線

沒有一個財富具有十位數的、自尊自重的人會把控制權交給人工智慧，他們也不會任由人工智慧擺布。這就是為什麽當你讀到億萬富翁對人工智慧的暢想時，他們經常把人工智慧稱為是理想、服從、順從的幫手，讓解放的個人超越世俗、擺脫不便和告別不完美。他們實際上並不是在談論我們；我們不是為了超越而被選中的。

人工智慧的宗旨是幫助人類推動進步。在大眾破產、市場崩潰時收拾殘局。確保合適的人首先到達理想的彼岸，並確保他們的名字命名體育場、河流和公司。

如果你把世界想象成一個棋盤，人甚至連棋盤上的兵都算不上。兵代表了數以百萬計的人類。後線棋子代表資本、技術、政府、房地產和資訊。但將就是將；受到行動和死亡的限制。這聽起來很陰謀論，但這只是競爭。超級富豪們相互競爭——爭奪地位、權力、金錢、配偶，最重要的是，爭奪遺產。將的唯一目標是生存，由於將無法直接和對方將交手，所以它利用文明資源來確保自己安全通行，為自己和身後的遺產創造具有文明價值的資源。永生對偉人來說是一種實際的可能性，可對我們普通人來說則是一篇倫理文章。

人工智慧是一種數位前沿、一種資源，是富貴之人以自己的方式瓜分、運用和塑造的未知領域。任何與此相反的論斷都與自農業發明以來的每一次創新背道而馳。人工智慧不會引領我們走向我們以為要去的地方，人工智慧會帶著我們走向所有者和大股東們指定的地方。或者，用【侏羅紀公園】中善良的伊恩·馬爾科姆博士（Dr. Ian Malcolm）的話來說，「上帝創造了恐龍，上帝也淪陷了恐龍。上帝創造人類，人類淪陷上帝。人類創造人工智慧。人工智慧淪陷人類。人類成為上帝。」

但是我們有理由抱有希望

人工智慧的大規模套用很可能不會導致我們的滅亡。工具只有在有意或無意的情況下才會變成武器，就像人工智慧被視為防止災難的護欄一樣，下一個時代也會有人為護欄分配護欄。如果永生有賴於文明的延續，那麽大規模滅絕文明就沒有意義了。整個有記載的歷史都證明，只要資本仍然需要勞動力，只要勞動力的數量足夠大，那麽隨著時間的推移，情況大體上會繼續逐步改善。

在全球範圍內，貧困率處於歷史最低水平，識字率和預期壽命處於歷史最高水平。總的來說，我們的生活比以往任何時候都更加舒適，權利分配更加公平。我們可以將大部份進步歸功於上個世紀。坦率地說，這並非一無所獲。同時，這也遠談不上完美。

是的，我們的生存風險更高了；人類發展指數（Human Development Index）高的國家，民主正在倒退；但我們比以往任何時候都更有能力面對眼前的危險。撇開人工智慧不談，我們仍然擁有豐富多彩的工具、技術、價值觀和行動，可以讓所有人在更高的生存層面上運作。大多數的挑戰都是因為太多權力滔天的人在很長的時間內做得太少，他們沒有清晰的組合方案。只要齊心協力，只要眾誌成城，挑戰並非無法解決。我們非常確信的是，我們可以保護地球免受彗星和小行星的攻擊。坦率地說，這太瘋狂了。

關於人工智慧的法規和限制將會出台。要想確保摧毀彼此，就必須保持原子時代的那種令人不安而又持久的半敵視狀態。人工智慧將奪走一些工作，殺死一些人，使世界不那麽平等，帶來大規模的腐敗和瀆職。所有這些都是真的。人工智慧還將創造新的就業機會，拯救生命，讓人們擺脫貧困，帶來司法上的制衡。人工智慧可以做出這兩方面的事。

是的，馬克·安德森（Marc Andreessen）——或者更準確地說，是他的代筆——洋洋灑灑寫了一篇文章來贊揚這一閃亮的新技術飛躍。他鼓勵我們所有人都加入進來，加入他的行列，用我們不理解的工具建立一個勇敢的新世界，並將我們大多數人嚇得半死。我們應該持懷疑態度。他的公司和其他幾十家公司一起，向大量人工智慧企業註入了數以十億計的風險投資資金，因此他的公司和經濟的一大塊前沿領域都岌岌可危。如果他表現得不溫不火，對他也沒有好處。

然而，互聯網時代雖然改變了我們的生活方式，但並沒有從根本上改變生活的藝術和科學。我們花在手機上的時間越來越多，花在戀愛上的時間越來越少，花在見證21世紀瘋狂的時間越來越多，但歌曲卻依然如故。我們大多數人都有瓦遮頭，有幾近糊口的工作，對社會的治理有一定的發言權。我們比以往任何時候都面臨著更大的風險，但我們比以往任何時候都有更多的人不必在樹林裏拉大便。

我們的床墊比以往任何時候都舒適，空調讓我們能夠在酷熱難耐的氣候中建造沒有特色但引人註目的特大城市。較之三十年前，又新增幾十個國家允許LG BTQ+群體結婚。進步就是進步，無論多麽緩慢、多麽不公平、多麽受挫地從山上滾落下來。我們不應該滿足，但很難不心存感激。[舉一個非常私人的例子：如果我今天用1993年的吸入器治療哮喘，那麽我早就死了，但呼吸技術的進步（以及大量的有氧運動）意味著我已經能跑15場半程馬拉松了。這真是太棒了；而我需要一份薪水穩定的工作和強大的處方計劃才能負擔得起每月的呼吸費，這可就沒那麽棒了]。

人工智慧不會拯救世界，它確實可能會積極加速其內爆。事實上，我們給自己判死刑的可能性比以往任何時候都大。盡管如此，每當有重大事件將我們帶入未知世界時，我們都曾來過這裏——從長矛到核武器，從電報到互聯網，從印刷機到流水線。雖然戰爭和天氣比以往任何時候都更致命，我們應該對此感到憤怒，但我們仍然更善於做好準備和預防。也許這只是人類進步的推動力——我不是說這是理想狀態，但也許社會比我們用來改變社會的工具更難改變。人工智慧將汽油和木柴潑在人們點燃的火堆上，這些人可能只想看著世界燃燒，而有錢的技術征服者仍然想告訴你，這就是我們取暖的方式。我想說他們是在欺騙我們，但如果讓我猜的話，我覺得他們不是在跟我們說話。我們到不了他們的私人島嶼。

無論發生什麽，不管事好的還是壞的，都會比以前發生得更快、更可怕、更奇怪。不過，我有一種預感，三十年後，我們會在這裏為這段歷史寫下押韻的對聯......而我們中的很多人可能會痛恨其中的每一個字。

但在此之前，而且更有可能的是，我們大多數人會利用人工智慧來 「節省時間」、「省錢」、「緩解擔憂」、「活得更長」、「找到愛情」、「約會」或 「快速致富」。我們會成功嗎？我不知道。其他人也不知道。

譯者：小川

本文來自轉譯, 如若轉載請註明出處。