人工智能（AI）正在引領一場科技革命，新近揭曉的2024年諾貝爾獎就有兩項授予了AI研究者。然而，當AI如潮水般湧入人類社會時，首位圖靈獎、諾貝爾物理學獎雙料得主謝菲·辛頓不斷提醒人們要「小心AI」。
應該想辦法讓AI負起責任，還是對其危害進行預防，怎樣使其更安全地融入人類社會？日前在滬舉行的「中國科學院學部科技倫理研討會」上，來自全球多個國家的科學倫理專家提出，隨著人工智能對社會生活的滲透，對於AI的治理應從過去簡單的預防性思維轉向全生命周期的治理。
AI時代警惕「資訊流行病」
根據世界衛生組織統計，包括禽流感、新冠等流行病在內，本世紀人類共經歷過8次突發公共衛生事件。隨著AI時代的到來，中國科學院院士、中國科學院微生物研究所研究員高福提醒，一種「資訊流行病」正在悄然出現。
AI會有幻覺、會撒謊，當它的套用越加廣泛、深入，它所帶來的資訊「汙染」危害就會越大。高福提到了今年諾貝爾物理學獎揭曉之後，網上流行的一個段子：有人從諾貝爾獎官方網站上下載了今年諾貝爾物理學獎得主約翰·霍普菲爾德和謝菲·辛頓的照片發給ChatGPT，要它指出圖片存在什麽問題。得到的回答是：物理學獎不太可能頒給霍普菲爾德和辛頓，認為這「可能是某種誤傳或藝術性的表達」。
「很顯然，當人們輕信AI，就容易被其誤導。」高福曾讓學生檢查5篇論文，發現其中有4篇來自「AI制造」——如果不加控制，這將在未來給社會帶來混亂。他認為，未來防控病毒大流行，更要同步防控「資訊病毒」。
人類與AI哪個更聰明？人類能否管束住AI？高福認為，人類需要用智慧與道德，構建起有效的治理體系。
基於過往經驗，能否阻止未來風險
「AI會替代醫生嗎？」這是一個很多人關心的問題。謝菲·辛頓曾在10年前就曾認為可以停止培養放射科醫生。「但現在看來，這顯然是錯的。」英國愛丁堡大學科學技術與創新研究中心主任羅賓·威廉士說，現狀是醫生與AI在讀片中各展所長，使疾病的影像診斷更加有效。
如今，AI已經在不少醫療領域嶄露頭角。過去，在探討AI的醫學倫理時，經常使用的是預防性思路，即把一切可能的危害消除在起始萌芽中。但羅賓提出了一點疑問：人們在作出「有害」或「無害」的判斷時，往往基於過往經驗和模型，這究竟能否阻止未來的風險？他認為，還是要在實踐中摸索AI與現有勞動流程的融合之道，比如癌癥篩查如何設定AI模型靈敏度才能避免假陽性、面臨醫生短缺危機可否用大模型提升醫療效率，以及如何確保不負責任的演算法被及時排除。
「大家都想完全控制新工具，但實際上是不可能的。」羅賓認為，未來AI醫學倫理的探討應貫穿於技術發展和套用的全生命周期，一方面可讓患者用上更新更優的模型，一方面也可隨時調整倫理規範。
愛麗絲的岔路口，要給核心問題留時間
「當大家都在探討周邊套用的倫理問題時，一些倫理的核心問題反而未曾被思考清晰。」加拿大皇家學會院士、加拿大達爾豪斯大學生物倫理與哲學弗朗索瓦絲·貝利斯教授提到，當套用「跑得飛快」之時，更要給核心問題留出探討的時間和空間。
比AI倫理更困擾人類的是關於人類前進演化的問題。曾經，能否對人類生殖細胞進行基因編輯引發過激烈的倫理爭論，目前絕大多數國家都選擇對此按「暫停鍵」。可是，審慎選擇路徑嘗試的聲音也在不斷冒頭，甚至隨著生命科技發展，類似意圖控制人類演化行程、創造一個全新的人類基因等更激進的想法也在出現。
在弗朗索瓦絲看來，其實更關鍵核心的倫理問題應是：我們是想要活得更好，還是要創造「更好的人」，「更好」又該如何定義？她覺得，面對這一問題，人類更像【愛麗絲漫遊仙境】中走到十字路口的小女孩，「慢下來，想清楚」比茫然走下去更重要。
作者：許琦敏
文：許琦敏圖：pixabay編輯：許琦敏責任編輯：任荃
轉載此文請註明出處。
