當地時間4月1日，美國和英國簽署了一項具有裏程碑意義的人工智能協定備忘錄，宣布達成「人工智能安全科學合作夥伴關系」，對英美兩國政府將如何匯集有關人工智能安全的技術知識、資訊和人才作出規劃。英美也成為首個就如何測試和評估新興人工智能模型風險開展正式合作的兩個國家。該協定是世界上首個關於人工智能安全的雙邊安排，也是在各國政府紛紛推動加強對新技術帶來的生存風險的監管之際達成的。
此前，聯合國大會在3月21日透過了首個關於人工智能的全球決議，呼籲推動開發「安全、可靠和值得信賴的」人工智能系統，以促進可持續發展。歐洲議會也在3月透過了【人工智能法案】。
清華大學電腦系長聘教授，清華大學人工智能研究院視覺智能研究中心主任鄧誌東告訴第一財經記者，要加大AI領域重大方向性的全球安全監管力度，特別是對AGI的安全風險進行分級管控。
趕在下一代模型問世之前合作
去年11月，英國新成立了人工智能安全研究所（AISI），美國也在同期表示要設立同類機構，以評估前沿人工智能模型的風險，目前美國已經表示要同200家公司和實體合作。
此次英美的人工智能合作協定將使英美在未來可以相互借調研究人員交流專業知識。兩家機構還將共同研究如何獨立評估由OpenAI和谷歌等公司建立的私人人工智能模型。據悉雙方的合作關系是以英國情報機構英國政府通訊總部（GCHQ）和美國國家安全域在情報和安全相關事務上的合作為藍本的。
英國科學、創新與技術內閣大臣唐蘭（Michelle Donelan）和美國商務部長雷蒙多（GinaRaimondo）在華盛頓共同簽署了上述協定。唐蘭表示："美國作為人工智能強國，與英國簽署這項協定，充分說明了我們在人工智能安全方面的領先地位。」她補充道，由於許多最先進的人工智能公司目前都在美國，美國政府的專業知識對於了解人工智能的風險和要求公司履行承諾至關重要。
唐蘭並說："明年是我們真正需要迅速采取行動的時候，因為下一代（人工智能）模型即將問世，它們可能會徹底改變遊戲規則，而我們還不知道它們將提供的全部能力。」
不過，唐蘭堅持認為，盡管英國對人工智能的安全性進行了研究，並確保設定了防護欄，但由於該技術的發展速度太快，英國並不打算在短期內對其進行更廣泛的監管。
唐蘭和雷蒙多均表示，需要緊急采取聯合行動來應對人工智能風險。
雷蒙多則表示：」人工智能是我們這一代的決定性技術，拜登政府計劃很快宣布其人工智能團隊新成員，美方目前正在動用政府全部資源（促成此事）。我們的合作關系表明，我們不是在逃避這些問題，而是在應對它們。由於我們的合作，我們的研究所將對人工智能系統有更好了解，並對人工智能進行更有力評估，釋出更嚴格指導。」
據悉，英國政府支持的AISI由科技投資人和企業家霍加斯（IanHogarth）擔任主席，已經聘請了谷歌DeepMind和牛津大學的精英研究人員，開始測試現有的和未釋出的人工智能模型。
OpenAI、谷歌DeepMind、微軟和Meta等科技企業則簽署了自願承諾書，將開放其最新的生成式人工智能模型供英國人工智能研究所（AISI）審查。
多納蘭還表示，她和雷蒙多計劃討論共同面臨的挑戰，如人工智能對今年即將舉行的選舉的影響、人工智能計算基礎設施的需求等，"分享我們的技能組合，以及我們如何在總體上深化合作，為公眾謀福利"。
羅蘭貝格全球管理委員會聯席總裁戴璞（DenisDepoux）接受第一財經記者采訪時表示：「美國雖然沒有相應的聯邦法律，但一些州已經實施了自己的規定。這凸顯了監管機構重視保護消費者私密、防止技術濫用的趨勢。」戴璞說，這種監管轉變是積極的，不僅為消費者提供保護，也透過保護數據為公司自身提供了安全，AI領域也將如此。
聯大透過全球人工智能監管協定
如前所述，除了英美兩國的人工智能合作協定之外，美國也在聯合國積極推進該領域規則設立。
聯合國大會在3月21日透過的首個關於人工智能的全球決議，是該組織首次就監管人工智能這一新興領域透過決議。決議草案由美國送出，同時還有120多個會員國成為「共同提案國」或表示支持。
大會強調，就該決議而言，「安全、可靠和值得信賴的人工智能系統」是指非軍事領域的人工智能系統，必須在其整個生命周期內「尊重、保護和增進人權和基本自由」。
決議同樣提出「人們線上下享有的權利也必須線上上得到保護，包括在人工智能系統的整個生命周期內」。
決議表示，各國還認識到，「目前存在人工智能和其他數碼方面的鴻溝，國家之間和國家內部的技術發展水平參差不齊，發展中國家在跟上這一迅速加速的步伐方面面臨獨特挑戰，這對可持續發展造成障礙」。
大會因此「決心彌合國家之間和國家內部的人工智能鴻溝和其他數碼鴻溝」，同時「促請會員國並邀請其他利益攸關方采取行動，與發展中國家合作並向其提供援助，以實作包容和公平地獲得數碼化轉型以及安全、可靠和值得信賴的人工智能系統所帶來的惠益」。
不過，意大利經濟發展部前副部長傑拉奇（Michele Geraci）對第一財經記者表示，他對全球AI治理並不樂觀。「實作創新與監管之間的平衡是一項重大挑戰，尤其是歐盟經常被認為容易過度監管。目前試圖透過立法解決問題的方法可能不是最有效的策略。人工智能未來五年的影響和發展軌跡在很大程度上仍無法預測，因此很難設想其潛在套用。這種不確定性使制定法律來管理一項仍在發展的技術的任務變得更加復雜。對尚未完全實作的事物進行監管，有可能進入不斷修訂法律的迴圈，從而無意中阻礙進步。」傑拉奇說。
鄧誌東對記者表示，既不要妨礙AI的探索與創新活力，以期其蓬勃發展加快增進人類福祉，但也必須考慮人類的整體安全利益，處理好各個發展階段的安全優先級別，在實踐中把握好最佳AI風險管控時機。
(本文來自第一財經)
