「我們看到了科學將引領我們走向何方，所以也理解人們對現在即將發生的事感到恐懼和焦慮。」
近日，OpenAI技術長公尺拉·穆拉蒂（Mira Murati）在一次訪談中再次談起AI（人工智慧）安全，並對「超級對齊」安全團隊解散、ChatGPT斯嘉麗語音風波、公司面臨監管審查等問題作出回應。
穆拉蒂表示，過去幾年取得了難以置信的技術進步，超出了所有人的預料。隨著繼續這一進步，人們對現在即將發生的事感到恐懼和焦慮也可以理解。她認為OpenAI有著非常出色的安全團隊，安全地部署了能力最強的模型，「考慮到技術以及OpenAI的進步速度，在安全性、模型的訓練和部署風險等方面加倍努力是非常重要的」。
OpenAI技術長公尺拉·穆拉蒂
一個多月前，OpenAI聯合創始人、首席科學家伊爾亞·蘇茨克韋（Ilya Sutskever）、超級對齊團隊負責人楊·萊克（Jan Leike）在內的多位核心成員相繼離開，作為核心安全團隊的超級對齊也隨之解散。訊息人士透露，註重AI系統安全的員工已經對阿特曼的領導失去信心。萊克在宣布離職後還在X（推特）發帖怒斥OpenAI及領導層「重視光鮮的產品，安全文化和流程不再受到重視」。
對此，穆拉蒂在9日回應稱：「超級對齊是OpenAI非常重要的安全團隊，但只是團隊之一，公司有很多人負責安全工作。」她表示並不認同「公司把產品放在安全之前」這一觀點，並稱這一論調有點過於憤世嫉俗。
她表示，很多人認為安全和能力是分開的，一定要一方優於另一方，而「安全應該從計畫開始就與能力一同考慮，而不是事後追加」。在航天、汽車這些有著成熟安全思維和系統的行業，人們不一定會一直圍著桌子爭論什麽是安全，但他們也一直在做這件事情。她認為整個行業也應該向成熟的安全紀律方向發展，不僅僅是操作紀律，也包含產品和部署安全，考慮偏見、虛假資訊等因素。同時，她表示，OpenAI也一直在考慮模型的長期對齊，不僅僅是當下。
穆拉蒂也對ChatGPT的Sky語音與好萊塢知名影星「寡姐」斯嘉麗·強森高度相似的問題進行了回應。她表示，當時與OpenAI CEO山姆·阿特曼（Sam Altman）分別去找了Sky的配音者和斯嘉麗，但兩人並未協調一致，才不幸導致了後續的局面發生。
彼時，斯嘉麗釋出了聲明並向OpenAI發送律師函，要求說明Sky確切的創造過程。強森在聲明中表示，去年9月，阿特曼找到她，詢問她是否願意為ChatGPT配音，去安慰使用者，彌合AI與人類之間巨大的差異所帶來的不適感。斯嘉麗稱當時拒絕了這一提議，而在ChatGPT-4演示版釋出前兩天，阿特曼再次聯系了斯嘉麗的經紀人，要求重新考慮。斯嘉麗強調，「在我們接觸之前，系統聲音就已經存在了」。隨後OpenAI宣布暫停使用Sky語音，表示對斯嘉麗·強森的尊重。
至於此次事件是否會影響科技或是科技公司的形象，穆拉蒂表示，能做的就是把事情做好，讓人們看到發生了什麽，透過這種方式建立信任，除此之外並沒有什麽神奇的辦法。
對科技擔憂的，不僅僅是普通使用者，全球越來越多的監管機構也開始密切關註。
6月初，據外媒報道，美國聯邦政府的兩家監管機構已達成協定，聯邦貿易委員會（FTC）將帶頭審查OpenAI，並針對微軟向OpenAI進行投資、以及與其他AI公司達成協定的行為進行調查。6月末，又有報道稱，歐盟正在加大對AI行業的審查力度，包括重新調查微軟與OpenAI的合作以及投資關系。
對此，穆拉蒂表示：「有審查很好，我們正在建設一些難以置信的非常強大的東西，我們非常努力讓它們變得更好，但也存在風險，人們應該更深入地參與並了解這項技術是什麽，並理解對於各個領域意味著什麽，如何更有效更安全地去部署……微軟一直是與我們非常一致的重要合作夥伴，我們緊密合作去打造最強超級電腦，這也是AI模型的核心所在。」
不過，就在當地時間7月10日，據外媒報道，微軟已經放棄在OpenAI董事會的觀察員席位，而此前傳言稱有望獲得相同席位的蘋果也不會加入OpenAI董事會。OpenAI的一位發言人表示，在微軟結束後，公司將不再有董事會觀察員。微軟、蘋果接連放棄觀察員席位，外界認為，或是出於對可能會被反壟斷監管機構盯上的擔憂。
澎湃新聞記者 秦盛 實習生 張宸玚
(本文來自澎湃新聞，更多原創資訊請下載「澎湃新聞」APP)
