2023年AI大模型快速叠代發展，滲透到人類生活的方方面面。面對超級AI的逐漸湧現，人類社會也呈現出不同程度的擔憂，這其中逐漸分成了有效加速和超級對齊兩個陣營。兩大陣營的分歧最終在OpenAI高層人事變動中被投射到人們面前。有效加速與超級對齊分別代表了什麽立場？這兩種理念對中國AI發展有什麽影響和啟示？除了有效加速和超級對齊這兩條路線，還有沒有第三條？
2024年1月25日，騰訊科技向善創新節——「AI創新理念與路線之爭：有效加速VS超級對齊」專題論壇線上上舉行。論壇由騰訊研究院、大連理工大學人文學院、中國倫理學會科技倫理專委會聯合主辦。論壇由三場主題報告和圓桌討論組成。論壇具體討論了有效加速與超級對齊的理念分歧和挑戰，中國在AI科技創新和治理方面的實踐經驗以及面臨的挑戰，以及如何尋求一條更符合中國特色的人工智慧發展路徑等問題。我們將會議實錄刊發在這裏，供各領域思想者參考。
論壇開幕
騰訊公司副總裁、騰訊研究院總顧問楊健，大連理工大學人文學院院長、教授、中國倫理學會科技倫理專委會主任李倫出席開幕式並致辭。論壇開幕式由騰訊研究院研究員胡曉萌主持。
楊健先生在致辭中指出，隨著AI不斷進步，尤其是超級AI的逐漸湧現，人類社會正遭受前所未有的挑戰。OpenAI高層人事變動在科技界引起了軒然大波，掀開了AI創新理念之爭的序幕。這場風波不僅僅是關於組織權力的爭奪，更是關乎AI創新發展方向的根本性辯論——是「有效加速」，還是「超級對齊」。我們需要深入探討這兩種理念的歷史由來與演進，並且結合中國國情和語境來分析兩者的合理性、可行性以及它們在實踐中可能遇到的挑戰。期待透過這次論壇，能夠激發出更多關於AI未來發展的思考，為中國AI科技創新與治理提供參考，為我們如何在技術進步與人類福祉之間找到平衡點提供思路。
李倫教授在致辭中指出，隨著ChatGPT的出現以及更新叠代，關於AI倫理風險的討論又一次被引爆。AI倫理風險已經成為與氣候變遷以及核擴散等相提並論，並能夠影響人類未來的全球性重大話題。針對這一局勢，2023年多國共同簽署了【布萊切利宣言】，這代表著AI倫理治理不僅應當走技術倫理治理的道路，也要走全球倫理治理的道路。ChatGPT之父阿特曼也將2023年定為「世界開始認真對待AI的一年」。面對AI的發展，目前出現有效加速和超級對齊兩種思潮。有效加速崇尚技術創新，超級對齊認為AI的發展首先應當考慮其倫理影響和社會後果。人類要走向未來，就必然會在科技創新與風險治理的張力中前行，對於有效加速和超級對齊的討論將有利於政策制定者和科技從業者。
主題報告
湖南師範大學道德文化研究院副院長、哲學系教授文賢慶，清華大學社會科學學院教授、清華大學科學與社會研究中心主任、科技發展與治理研究中心副主任李正風，之江實驗室智慧社會治理研究中心副研究員趙宇超分別進行了精彩的主題報告。
文賢慶教授以「技術與人類：裹挾還是引領？」 為題進行了主題報告。他系統梳理回顧了有效加速與超級對齊的理念起源與演變。有效加速認為社會的改變依賴技術，這種觀念由來已久，自從20世紀初的未來主義之後，人們就開始不斷關註現代技術對於人類生活的影響。二戰之後的社會建設使人們相信技術可以進一步解放我們的生產力。當時，左翼加速主義者認為，資本主義阻礙了技術的發展，應當透過技術的發展埋葬資本主義，使人類社會進入新形態。英國右翼哲學家尼克·蘭德（Nick Land）重新發掘了「加速主義」的內涵，放棄了以往左翼加速主義者的鬥爭觀念，提倡在資本主義邏輯中加速前進。矽谷當下流行的有效加速融入了物理學、生物學以及「超人類主義」（Transhumanism）等內容，內涵更豐富，也顯得更為「科學化」。他們認為，有效加速運動並不是一場社會運動，甚至也不是一種意識形態，而只是一種對真理的承認。
超級對齊指透過對AI系統的行為進行引導，使其能夠符合設計者的意圖，其方法是建立一個「大致相當於人類水平的自動對齊研究員」（automated human-level alignment researcher），然後用它來執行針對AI的對齊工作。但是，AI對齊面臨許多難題。
第一，設計者很難精確表述自己的意圖，AI很難真正做到按照其意誌行事；
第二，人們在設計AI的過程中，難以完全顧及其程式可能產生的所有後果，AI在執行設定程式時，可能帶來意料之外的後果；
第三，人的目標是多樣的，人把這些目標傳遞給AI時，會對不同的目標賦予不同的權重，在這種情況下，AI出於最佳化的考慮，可能過度重視那些被賦予高權重，並且容易被檢查的目標，而忽略了其余目標；
第四，所謂的「對齊」究竟應該是向誰「對齊」的問題也有待解決。
文賢慶還從目標、方法和價值層面對有效加速和超級對齊進行了對比。從目標角度看，有效加速和超級對齊的相同點是都認為技術的發展不可逆轉。不同之處在於，有效加速認為我們應當用技術來引領人生，超級對齊認為人生有一個終極目標，應當用人生的這些終極目標來約束技術。
從方法角度看，有效加速和超級對齊的相同點是都認為不可逆轉的技術是驅動我們的，不同之處在於有效加速認為我們應當不斷地刺激和發展技術，超級對齊認為發展技術要有一個限制和規約。
在價值立場上，有效加速和超級對齊都承認技術是有價值的，不同之處在於有效加速認為技術的價值就是帶動人類向前發展，但不顧及最終的後果，超級對齊認為技術要服務於人生。
最後，文賢慶指出，OpenAI人事變動背後隱含的是關於技術和人類處於何種關系的考量，有效加速和超級對齊是人們面對技術發展時的兩種不同選擇。除了有效加速和超級對齊，AI技術發展是否有第三條道路？他提出用去中心化、民主化的防禦機制應對技術發展問題，是具有可行性的第三條路徑。他認為，當下的技術發展不可逆轉，我們應當按照人類理想的狀態去實作人類的價值，在接受人與技術相融的時候，更多的去呈現豐富性與多樣性。
李正風教授做了「前沿科技倫理治理與新型發展觀」的主題報告。他認為，OpenAI 「有效加速」與「超級對齊」的分歧和討論是前沿科技倫理治理面臨深層次挑戰的一個縮影，其反映了不同發展觀之間的沖突和碰撞。
李正風認為，工業化以來，加速發展是人們不斷追求的目標。科技是加速發展的重要資源，莫耳定律是加速效應非常突出的一個表現，加速使人類走向了一個以科技為基礎的科技時代。在漫長的歷史過程中，人類實作了從動物變為「造物主」的轉化。而今，人類「造物主」面臨新的挑戰。
首先，人類對自然物件的控制和改造從人類外部轉移到人類自身，這種轉變正打破人類的「類同一性」、挑戰「人類」共有共享的良知和「人性」、還有可能產生生物學意義上的鴻溝。
其次，對人類行為的技術性替代從肢體上升到頭部，挑戰著人類因認知力、決策力而擁有的獨特地位，AI系統的目標與人類如果存在偏差，很可能作出與人類價值觀相違背的決策，產生不可控的後果，超級對齊面臨著對齊難題。
最後，人類社會執行的底層構架被深度「數位化」和「智慧化」。
基於此，李正風認為，新興科技倫理的新特點是問題發生前移、分布廣泛滲透、影響深層顛覆、不確定性增強、專業性不斷升級以及場景化愈益凸顯。科學技術的發展可能會導致「柯林格裏奇困境」。因此，科技倫理治理不可能依賴完全的「結果治理」和絕對的「預防原則」，應當走向「敏捷治理」和「全過程治理」。在「敏捷治理」和「全過程治理」中，樹立每個人都既是「發展者」又是「治理者」的新理念，擺脫「發展」與「治理」的二元對立，擺脫「發展者」與「治理者」的對抗和賽局，應走向「反思性發展」的新型發展觀。他認為，這種新型發展觀以良性發展為目標，形成敏捷治理新規則，融「敏捷治理」和「全過程治理」於發展行程中，把握發展方向，塑造發展新路徑。「反思性發展」的新型發展觀主要包括發展目標的集體磋商與共識塑造、發展方向的前瞻預見與集體選擇、負責任的研究設計與可控的社會實驗、即時的過程評估與風險防範以及有效的集體糾錯與新路徑的集體建構。
趙宇超副研究員在 「智慧社會進行時：中國本土經驗和AI理念創新」主題報告中指出，中國自己的AI理念除了有頂層設計和框架的指引之外，理解不同地區具體情境下的相關實踐也很重要。她認為，宏觀的理念往往需要自下而上的實踐得以呈現，在地化和創造性對發展和總結我們國家自己的AI原則是不可或缺的要素。資訊化、數位化、智慧化以及智慧化等每個階段都有自己獨特的實踐重點，他們背後隱藏的技術理念也是不盡相同的。在資訊化階段，技術被視為工具。隨著物聯網技術的成熟，人們對量化理性、系統論以及以人為本的理念展開了深入的研究。在具體實踐中，這些階段是交織在一起的，並不能夠嚴格地進行劃分。基於基層的實踐情況，中國當下可以概括為技術實用主義和制度解決主義。技術實用主義以需求為導向，滿足人們高頻次的需求。技術實用主義的另一個要點是「有什麽用什麽」，利用手邊的已有資源來開腦洞，和最新的技術做巧妙的嫁接，從而以較低的成本解決實際問題。制度解決主義認為面對AI的發展，制度機制應當先首先確立好。有效加速和超級對齊都著重強調了技術決定論，但技術並不能夠起決定作用，社會在技術產生、技術選擇以及技術使用方面始終發揮著重要作用。她提出，應當反思以ChatGPT為代表的新一代AI為誰賦能、賦能的形式、性質、機制以及後果是什麽、AI在什麽樣的社會文化結構中擁有怎樣的權利，這些問題的厘清可以幫助我們找到適合中國實際情況的AI理念和治理路徑。
圓桌討論：
AI科技與人文的激變
圓桌討論由大連理工大學人文學院院長、中國倫理學會科技倫理專委會主任李倫教授主持。中國社科院哲學所科技哲學研究室主任段偉文研究員，華南師範大學哲學與社會發展學院閆坤如教授，香港嶺南大學副校長、IEEE Fellow姚新教授，騰訊傑出科學家、IEEE Fellow劉威參加圓桌討論。這些來自人文學科和科技界的專家學者從各自獨特的視角，就有效加速和超級對齊進行了深入的對話。對話不僅涉及中國在AI科技創新和治理方面的實踐經驗以及面臨的挑戰，也探討了在中國社會背景下對兩種理念的理解，尋求一條更符合中國特色的人工智慧發展路徑。
李倫（主持人）： 關於科技創新和社會發展的討論由來已久，歷史上也出現過技術樂觀主義和技術悲觀主義的討論，這些年來出現了有效利他主義和有效加速的討論。我們今天討論的有效加速和超級對齊，因為OpenAI的人事變動和路線之爭被推上了熱搜。這種爭論可能會左右以OpenAI為代表的AI公司發展的命運，更會影響到各個國家的發展甚至是人類的未來。首先請各位嘉賓從總體上從自己領域的視角來談一談對有效加速和超級對齊兩條路線的理解和看法。
閆坤如： 有效加速認為人類應當無條件地推動技術創新，超級對齊認為要解決AI系統與人類價值觀和意圖對齊的挑戰。有效加速和超級對齊反映出關於科學領域的兩種不同的態度，這兩種態度在一定程度上彼此沖突，但卻是推動科技進步必不可少的兩種聲音。
段偉文： 有效加速認為超級智慧的出現可能會帶來科技上的巨大突破，人類目前由達爾文式演化而來的智慧形態，在未來可能會發展成為一種新的形態。超級對齊隱含一種憂慮，將來人類越來越依賴於AI是不是意味著人類文明的衰落。超級對齊最重要的點是人類是否可以依托AI來進行價值對齊。
劉 威： 超級大國以及超級大國的某些公司在壟斷AI技術，以OpenAI公司為例，我們並不知道OpenAI公司智慧研發到了何種程度，其公司內部人員也並非全部都知悉公司智慧研發進展，因而產生了最近的人事變動風波。AI由人類創造，一定要與人類價值觀對齊，對齊的目標和手段可以進一步探討。對齊應當由負責任的大國主導，而非僅僅一個超級大國主導。對齊的技術應當開源，對齊應當向包括大學在內所有嚴謹的機構開放。在商業目的的驅使下，目前各大公司對齊的目標並不是以向人類價值觀對齊為重點的，而是以自動化智慧化為重點，使用更強的演算法和算力來為系統升級。
姚新： 有效加速和超級對齊的定義並不清楚，其所指向的目標不明確。有效加速認為技術可以加速社會的進步，但什麽是社會的進步、如何衡量社會的進步以及誰來判斷社會的進步等這些問題並沒有說清楚。超級對齊要對齊人類的價值觀，什麽是人類的價值觀、對齊誰等問題並沒有明確。有效加速和超級對齊更像是手段，在目標沒有共識的基礎上如何討論手段是值得思考的問題。
李倫（主持人）： 有效加速和超級對齊在理論概念上還有很多分歧，其背後還存在著事實的判斷。AI到底存在哪些風險似乎還存在必要的實證研究。有效加速側重於考慮近期的風險，超級對齊側重考慮遠期的後果，兩者在事實判斷上並非在一個頻道上討論問題，如果在事實判斷上有更多的共識，兩者可能會達成某種程度上的和解。回到中國的情況，在AI創新和治理實踐兩個層面，中國是否已經體現出了有效加速或超級對齊的理念，具體有哪些例子。
劉威： 在企業中，有效加速和超級對齊一直在實踐中。在我們騰訊公司，在基礎設施上，無論是流程智慧化，還是一直在用AI降低成本。一個組織的成本投入有限，把所有的有效成本投入到最應該投入的地方。以上這些都是有效加速的體現。目前國內的大模型和美國相比還有差距，技術層面上的超級對齊也存在差距，但是我們做到了有效的對齊，比如目前我們的大模型對齊了中國的國情、中國的法律法規、中國的價值觀。一些人認為，對齊就意味著AI越來越接近人、越來越智慧化，從這個層面來說，目前國內的大模型在數學、物理等理科問題的能力還是相對初級，而美國在這方面做的要比我們好一些。
李倫（主持人）： 我們國家似乎沒有出現純粹的有效加速和超級對齊的理念，我們國家比較重視有效加速和超級對齊兩者的平衡關系。中共中央辦公廳和國務院辦公廳頒發的【關於加強科技倫理治理的意見】以及科技部等十部委頒發的【科技倫理審查辦法（試行）】強調要協調好科技創新和倫理風險之間的關系，這其間強調的更多的是一種相稱的原則，治理力度與風險程度相稱，治理方式與風險類別相稱，國家治理與國際治理相稱。中國AI發展存在著一些問題和挑戰。為了應對這些問題和挑戰，有效加速和超級對齊這兩條路線分別對我們提出什麽要求？其爭論的焦點和本質在哪裏？
段偉文： 在理解力等方面超過人類的通用AI確實有可能會出現，風險也必然會產生。國家目前很重視通用AI的風險。雖然技術的發展目前受到各種客觀性的限制，但各大公司和企業依舊在加速發展AI技術。日前OpenAI公司的一些做法具有很大的表演性，具有炒作技術能力的嫌疑。在對齊這一方面，監管、科技倫理規範以及法律規範都做了很多努力，企業在包括價值觀對齊的方面也做了很多努力。下一步我們需要加強的是科研理論的研究，對齊在經濟學以及社會學等學科方面都有許多理論，這些理論並沒有解決超級對齊該向誰對齊的問題。理論層面的未統一意味著將來的對齊可能是地方性的，中國有中國的對齊的方式。
閆坤如： 有效加速和超級對齊更多的是針對AI技術以及顛覆性技術來討論的。目前各個國家已經將AI作為國家發展的重要戰略支撐技術，成為國際競爭的的主要技術因素，因為AI確實能夠給社會結構、生產方式、生活方式、思維方式以及價值觀帶來重大改變。基於國際競爭力，我們國家應當大力發展AI。AI技術具有不確定性和風險內容，我們要做好引導和適應AI技術的發展。對於AI技術，我們應該采取審慎的態度，為技術的研發和套用劃出底線和範圍。有效加速和超級對齊爭論的焦點是人類對於技術的態度。技術工具論認為技術是工具，是為完成人類目的的手段。技術實體論認為技術是有主體性的，是一種獨立的力量。針對目前技術的發展，我們應當對技術進行人文主義的反思。
李倫（主持人）： 與西方社會相比，中國語境下對於「有效加速」與「超級對齊」有何不同？對於路線的實踐需要考慮到哪些中國社會的獨特之處？
姚新： 與西方社會相比，目標是不一樣的。因為價值觀是不一樣的，我要用技術做什麽事情是不一樣的。對於對齊而言，「誰」來對齊以及對齊「什麽」是不一樣的，超級對齊在不同國家的含義是不同的。有效加速認為技術一定可以加速社會的變化，這種變化是否可以看作是一種進步，在不同的國家是不一樣的。AI治理並不妨礙創新，要做什麽樣的創新是應該考慮的事情，但前提是技術創新的目標要明確。
段偉文： 中國社會對於新技術的態度還是比較樂觀的。隨著ChatGPT等大模型的出現，中國的一些專業學者以及科技從業者認為全方位超越人的AI會有出現的可能性。OpenAI公司此次提出超級對齊有可能是對技術進行炒作，提升AI技術監管的門檻，以防止後來者超越其技術。在中國，大家都認為一方面應當加強倫理以及法律上的規制，但又不希望規制影響中國AI的發展，尤其是當AI作為一種全球的競爭力時。
李倫（主持人）： 在中國的語境下，「有效加速」與「超級對齊」哪一種理念更適合我們的社會發展環境？二者是否有相協調或共存的空間？
姚新： 這兩者應該是相互共存的，目標明確的時候你可以談加速，當真正要進行代表有效加速的技術驅動時還可能會帶來負面效應，負面效應不是我們所欲求的，不符合我們的價值觀，這個時候就需要超級對齊。因此，二者一定是相輔相成的。倫理治理並不是阻礙AI的發展，而是鼓勵研究人員尋找不同的創新路徑。
閆坤如： 有效加速對於技術的發展持一種樂觀主義態度，超級對齊對技術的發展持悲觀主義態度。但對於一個國家來講，大力發展AI與提前評估預測AI技術帶來的風險，並謹慎使用之間並不矛盾。在發展過程中，我們既要看到AI的顛覆性作用，也要看到它的風險內容。許多人認為超級對齊需要對齊人類的價值觀，這是無法實作的。超級對齊需要處理好倫理共識與不同價值觀之間的關系、統一的價值標準與不同套用場景之間的關系、終極的倫理意義與短期價值目標的關系。對齊既是一個規範性問題，也是一個技術性問題，怎樣將價值目標轉換為具體的AI技術設計標準，實作具體的場景落地是一個重要的問題。
李倫（主持人）： 在中國的社會背景下，對未來AI科技創新，以及治理的發展應註意哪些問題以尋求「有效加速」與「超級對齊」之間的平衡？
段偉文： 首先，AI的發展面臨國內和國際對接的問題，中國經驗可以為世界AI的發展做出貢獻。中國目前在基礎研究方面屬於世界中的第二梯隊，在垂直套用方面比較擅長。其次，中國的AI立法更多的是站在有效加速的理念上，AI倫理規範更多的是站在價值對齊的理念上。AI倫理審查可以作為下一步的抓手。超級AI應當被使用起來，從而更好地建設數位中國。最後，有效加速和超級對齊還隱含著人們對於AI的信任問題，應當如何構建AI信任機制是一個非常重要的問題，這不僅僅是哲學問題，還是現實問題，事關每個人的生活。
李倫（主持人）： 結合中國的AI實踐與社會背景，您認為是否存在獨立於「有效加速」與「超級對齊」之外的第三條AI發展路線，以尋得更好的、更符合中國特色的AI發展未來？
閆坤如： 對於AI的發展，我們既要加快其速度，增強我們國家的競爭力，也要預測和評估AI所帶來的風險，避免AI技術失控。首先，我們要開發中國特色的AI，我們不能被西方的價值觀所左右發展。我們要考慮我們的價值共識、共同的倫理規範、文化特點、社會環境以及國人的接受度。其次，要對AI技術進行人文主義反思，引導和規範AI的發展。最後，AI一定要發展，在開發中我們不斷解決出現的問題。
段偉文： 中國應該走出一條使社會可以接受，有很大創新，使科技更加具有可塑性的AI發展道路。可以把風險辨識以及倫理審查等放在AI發展的全生命周期之中，但在具體操作時要避免這些措施變成一種繁文縟節式的阻礙。我們可以從我們以往科技發展的經驗中汲取智慧。
姚新： 我們真正要發展AI不僅僅要發展AI的技術，還要看發展AI技術的土壤和環境。我們應該在怎麽創造這個土壤和環境方面多下功夫，使符合中國價值觀的技術創新不斷湧現出來。社會發展永遠是和技術的突破纏結在一起的，人類的價值觀是會變化的，有效加速和超級對齊不是一個靜態的概念，而是一個動態的概念，我們應該抱著動態的概念去看待有效加速和超級對齊。
最後，李倫教授作論壇總結。他指出，在未來的AI開發中，我們既要放眼全球，尊重國際共識，也要立足中國語境，堅持中國立場。為此，需要更新發展觀，倡導新型的反思性發展觀，合理處理有效加速和超級對齊的分歧，正確處理科技創新與風險治理的關系問題。AI倫理治理不僅要走技術倫理治理之路，也要走全球倫理治理之路，一方面，我們應該秉持以人為本，科技向善的理念和價值原則；另一方面，要堅持公平公正原則，尊重他國主權和法律，幫助開發中國家加強國際合作和對話。
此次論壇不僅是對有效加速與超級對齊理念之爭的探討，也是對科技與人類未來關系的深刻反思。在追求科技創新的道路上，我們不僅應當不斷審視人與技術的關系，而且要審視技術背景下人與人的關系。我們希望未來能夠持續推進富有建設性的、跨學科的對話和討論，共同探索AI時代人機和諧共生的美好未來。
