【迴圈：AI如何影響人類，人類如何應對AI】
[美]雅各布·沃德 著
毛敏 譯
中譯出版社出版
什麽是迴圈？本書提到三個迴圈：第一個迴圈也是最核心的迴圈，即世代沿襲的人類本能。人類天生具有偏見，而且更傾向於使用大腦的系統行事，在這個過程中，人類原有的偏見進一步被強化，形成第一個迴圈。第二個迴圈是來自現代的力量，如消費類技術、資本主義、行銷和政治，它們對核心迴圈的人類行為進行采樣，總結出模式，再將這些模式反作用於人類，最終引發了一系列問題。第三個迴圈，即本書書名所指的迴圈，是來自人工智能的影響。AI對人類偏見進行采樣，總結出規律，最後把這些規律反作用於人類，形成第三個迴圈。
人工智能將改變我們所知的世界。但真正的危險不是某個機器人會奴役我們，而是我們自己的大腦。我們的大腦經常使用捷徑、偏見和隱藏的過程來做決定——我們正在使用同樣的方法來創造技術，為我們做出選擇。作者雅各布·沃德認為，人工智能對人類最大的威脅不在於機器人的反撲，我們的大腦才是最需要堤防的因子。在決策時，大腦會受到偏見、情緒等因素影響。而當我們在選擇要餵養哪些資訊給智能產品時，往往也會把這些盲點和謬誤一並復制進去。
人類的思維本來就有認知偏誤，行為也受各種無形的外力牽引。而在當今模式辨識科技與引導式決策的相互作用之下，智能產品幫我們寫好了一切行為的劇本，人類選擇因此受到限縮。沃德提醒，如此一來，不僅不公不義的現象更加嚴重，人類創新的本能和思考的能力亦將大幅退化——這才是我們在面對智慧科技時真正應該擔心的事情。
>>內文選讀
這個星球上，我們占據的空間已經遠遠超出了自然的範疇。而現在，我們為了效率和利潤，在重新設定地球、人類的模式。我們放松了對甲板上的系統的控制，這將會從根本上改變船上每個人的行為，這些改變將會傳給後代子孫，而他們甚至可能還沒有意識到自己做了什麽。這種模式將會自我重復，並且一代又一代在行為和技術迴圈中持續下去。這就是本書的主題。
我為本書起名【迴圈】，但實際上，我想要闡述的迴圈有三個。讓我們想象一下，一個小迴圈巢狀在第二個迴圈中，第二個迴圈巢狀在第三個迴圈中。如果想要清楚地看到每個迴圈，還需要檢視其他迴圈。我將從最小的迴圈開始，它是我們做的一切事情的核心，它已經旋轉了數萬年，甚至數百萬年。
最核心的迴圈是我們所沿襲下來的人類的行為，是前進演化賦予我們的天生的好惡傾向和依靠慣性生活的能力。這個迴圈無所不含，包括我們的種族偏見、準確判斷風險能力的缺失，等等。這是本書的第一部份，因為要理解其他迴圈，還需要懂得它們是如何依賴於這個迴圈的。
一旦我們理解了這一點，我們就可以看看第二個迴圈。第二個迴圈是來自現代的力量，如消費類技術、資本主義、行銷和政治，它們對核心迴圈的人類行為進行采樣，然後再將這些模式反過來用在我們身上，最終引發了一系列問題，如煙癮、賭癮，以及房地產和機器學習領域的系統性種族主義等。
最外層的迴圈就是本書書名所指的迴圈。電腦會對古今人類的好惡傾向進行研究、采樣，並將其輸入自動模式辨識系統，然後據此以一種細水長流的形式，將內容推播給我們，讓我們更習慣於不假思索地接受。我為即將到來的這一切感到憂心忡忡。這個迴圈扼殺了我們的音樂審美，取而代之的是Spotify根據我們上周的歌單給出的推薦。這個迴圈對我們的政治傾向、社交喜好進行采樣，在Facebook上將我們與合拍的人放在一起，這樣我們就會形成強大的群體身份認同，並全身心融入群體中，以至於對群體以外的人毫無興趣。這個迴圈會篩選所有可用的求職者，標記出具備本領域佼佼者特征的人，那麽你作為招聘人員，可能一兩天就能完成招聘，無須耗費幾周時間，甚至你可以足不出戶。在這個迴圈中，人們擁有的選擇急劇減少，資本主義對效率的追求又加劇了這一趨勢，那些讓我們無意識接受資訊的系統設定令人無法抗拒，人類主觀能動性因此備受威脅。
這其實已經發生了，但真正的威脅還要隨著時間的推移而顯現。而最大、最持久的影響至少需要一代人的時間才會顯露。不如這樣想：我們被無意識的傾向引導著，但幾乎不會覺察到這種傾向遭到了分析和利用。而以此為基礎的模式辨識和決策指導技術則讓我們措手不及。在當前的社會中，我們的政策和規劃缺乏長期的敏銳度，無法辨識和控制那些決定著人類未來的事情。這就是本書的主題。
圖源：視覺中國
我希望在本書中闡明，我們所開發的那些會改變後代人類行為的技術，將給我們帶來什麽挑戰。當今時代，依靠這些技術，我們的行為可能會變得更有效率、回報更高、更可控。我們可能會立即獲得經濟利益，或許在短時間內，我們可以免於做一些困難重重，或是令人生厭的工作。對於我在這裏描述的每一個危險的例子，都有其復雜的益處。但是，我們能否用達爾文的眼光展望未來，看看是否存在這種可能：一代又一代人的選擇越來越少，而且情況一路惡化？我們能否以某種方式預測它，並采取行動糾正它，即使這樣做的回報要在我們自己，以及孩子們都已經離世之後才能顯現出來？如果我們做不到這一點，我擔心在一兩代人的時間裏，我們將演變成一個完全不同的物種，對於那些代替人類決策的技術，就算做出了錯誤選擇，我們也無法凝神反抗，只能順從無助地接受。
但我認為我們可以對抗這個迴圈。我們只需後退一步，勾勒出迴圈的輪廓，辨識出存在於我們所有人身上的使迴圈成為可能的古老特性，再找到如今迴圈侵入我們生活的路徑，然後消除它對我們未來的影響。
作者：
文：雅各布·沃德編輯：金久超責任編輯：朱自奮
