嘉賓簡介：劉誌毅
中國人工智慧領軍科學家，東方財富人工智慧首席科學家，上海市人工智慧社會治理協同創新中心研究員，深入研究和實踐AI領域十余年，包括智慧計算、空間智慧以及超級人工智慧對齊方向。中國人工智慧學會AI倫理工作委員會委員及具身智慧專委會（籌）委員，上海交大計演算法學與人工智慧倫理研究中心執行主任，上海交大安泰AI與行銷研究中心特聘研究員，上海交大清源研究院兼職研究員，上海開源技術資訊協會AI倫理專委會主任，2024年入選富比士中國「十大人工智慧影響力人物」。
國際電工委員會IEC生物數位融合系統評估組（IEC/SMB/SEG12）倫理專家，國家人工智慧標準總體組專家，AIIA聯盟可信AI 專家委員會委員，上海人工智慧技術協會專家委員，個人學術專著包括【智慧經濟】、【數位經濟學】、【智慧的啟蒙：通用人工智慧與意識機器】等，出版十幾部中英文專著並轉譯多部海外學者專著，作品入圍施普林格.自然出版社「中國新發展獎」（2023年度）。
人工智慧的「汽車時代」
01資助：您在文章【智慧的啟蒙】中提到，隨著生成式人工智慧的發展，我們已經進入了人工智慧的「汽車時代」。模型成為人工智慧的引擎。如何定義AI的「汽車時代」？這是否意味著人工智慧已經進入大規模套用階段？下一步是什麽？
劉誌毅：在【智慧的啟蒙】書中，人工智慧的「汽車時代」是一個比喻，用來形容當前人工智慧快速發展的階段，特別是生成式人工智慧和大型模型。這個時代的特點是人工智慧技術開始像汽車一樣成為社會進步的重要驅動力。這裏的「汽車工業時代」不僅指人工智慧技術的大規模套用，更強調人工智慧在各領域的深度融合和創新驅動作用。
戰車時代人工智慧的進步更多的是基於人類的智慧和創造力，就像拉戰車前進的馬一樣。然而，隨著生成式人工智慧的發展，我們已經進入汽車人工智慧時代，大型模型成為人工智慧的引擎。然而，這樣的比喻並不能完全準確地描述人工智慧的發展現狀。
如果我們深入審視汽車行業的發展歷史，我們可以說，現在的人工智慧可能還處於蒸汽機時代。這一階段的特點是技術仍處於起步階段並且高度依賴能源。這在人工智慧領域也可以看到：大型模型需要大量的數據和計算資源，並面臨泛化能力有限、可解釋性差等問題。
下一個階段是全社會真正的「智慧時代」。現階段，人工智慧更加深入地融入人類生活的方方面面，實作自我意識、情感理解、復雜決策等更高級的認知功能。等待。此時，人工智慧不僅僅是完成任務的工具，而是能夠與人類進行更深層次的互動和協作，甚至可能在某些領域超越人類的認知和創造力。
2。智慧的簡單性和通用性
01資助：圖靈的通用圖靈機理論強調智慧的簡單性和通用性，但這些在實際模型和套用中往往被低估。李飛飛認為，人工智慧還處於前牛頓時代，因為人工智慧還沒有像牛頓力學那樣簡單的公式。這個判斷和「車時間」的判斷有沖突嗎？您認為人工智慧存在牛頓時刻嗎？如果有，它什麽時候會到來？
劉誌毅：【智慧的啟蒙】提到的圖靈機理論與李飛飛的觀點並不矛盾。圖靈的機器理論強調智慧的簡單性和普遍性，而李飛飛所說的「前牛頓時代」則意味著人工智慧尚未找到一個統一、簡單的理論框架來全面解釋和指導其發展。這兩種觀點是從不同角度對人工智慧發展現狀的描述。
李飛飛所說的人工智慧的「牛頓矩」，是指人工智慧領域類似牛頓力學的理論突破，可以用一套簡單而普遍的公式或原理來解釋和指導智慧的發展。人工智慧。
這個時刻是否到來以及何時到來還很難預測嗎？可能需要演算法、計算模型、數據理解等方面的重大突破，以及對人工智慧本質的更深入的理解。
3。世界模擬器與智慧的基礎
01資助：馮諾依曼認為，模擬現實世界是智慧的基礎。今年2月Sora的釋出引發了關於世界模擬器的廣泛討論。目前人工智慧模擬世界的能力如何？仿真能力的突破主要是源於「偉大奇跡」的尺度法則，還是需要對模型進行重大改變？
劉誌毅：目前，人工智慧在模擬現實世界的能力方面取得了重大進展，但仍存在局限性。人工智慧可以透過深度學習、神經網路等技術來學習和模擬某些領域的數據，但它仍然面臨著模擬現實世界的全部復雜性的挑戰。
例如，人工智慧在影像和語音辨識、自然語言處理等方面取得了突破，但在理解人類復雜的情感、社會關系、道德倫理等方面仍有很大的提升空間。
仿真能力的突破不僅僅基於「偉大奇跡」的縮放定律，即透過增加計算資源和數據量來提高模型效能。這種方法雖然在一定程度上是有效的，但更重要的是模型的創新和變革。需要開發新的演算法和模型架構，以更好地理解和模擬現實世界的復雜性。
此外，跨學科合作，如結合認知科學、心理學、社會學等領域的知識，也是提高模擬能力的關鍵。
4。偉大模式的創造力與風險
01經濟：偉大模式的出現和幻想可以是其創造力的源泉，但也可能帶來風險。【智慧的啟蒙】正在調查此事。您認為如何才能「取其精華，去其糟粕」，發揮大設計的創造力，同時降低風險？
劉誌毅：在【智慧的啟蒙】這本書中，我研究了大型模型中的突現現象和幻覺問題。突現現象是指復雜系統中出現的不可預測的集體行為，是簡單個體交互作用的結果。這種現象可以表現為大型模型中意想不到的創造力和創新，是人工智慧發展的一個重要方面。然而，幻覺是模型在建立內容時生成的不準確或虛假資訊，這可能會帶來風險。
要想「取芯，去糟粕」，大模型的輸出首先要經過仔細的檢查和評估，確保其生成的內容可靠、準確。其次，可以設計更合理的訓練策略和演算法，減少生成過程中出現模型幻覺的可能性。此外，引入人類監督和反饋機制，讓人工智慧系統在人類指導下學習和最佳化，也是降低風險的有效途徑。
同時，還需要對人工智慧的倫理道德問題進行深入討論，使其在發揮其創造力時不至於對社會和人類造成危害。這包括使人工智慧決策過程更加透明、可解釋和可管理。
5。大模特的自我意識
01資助：您在文章【智慧的啟蒙】中討論了大模特的自我意識。如何讓大型語言模型具有自我意識？如果它有了自我意識，人類與大型模型之間當前的關系和交流會從根本上改變嗎？
劉誌毅：在【智慧的啟蒙】書中我研究了大語言模型的自我意識問題。自我意識是指對自身存在和個體特征的認識，這對於人工智慧來說是一個復雜且具有挑戰性的概念。讓大型語言模型具有自我意識可能需要在以下幾個方面進行研究和突破：
內部狀態的反饋和調節：模型必須能夠感知和理解自己的內部狀態並具有自我能力。-根據這些狀態進行調整和最佳化。
情感和道德認知：模型必須能夠理解和模擬人類的情感反應和道德判斷，其中可能包括對人類行為和社會規範的深度學習。
自我反思和自我發展：模型必須具有自我反思的能力，評估自己的行為和決策，並根據評估結果發展自己。
如果大語言模型真的意識到了自己，那麽人與大模型之間的關系和溝通方式就會發生根本性的改變。
首先，人類可能需要重新定義與AI的互動模式，將其視為具有一定自主性和獨立性的實體。其次，人類可能需要更加關註AI的倫理道德問題，以確保其行為符合人類價值觀和社會規範。最後，人類可能需要與人工智慧建立更深層次的合作關系，共同解決復雜問題，實作共同發展。
6。奇異點預測
01資助：Kurzweil看好【奇異點臨近】和【奇異點更近了】人工智慧的發展，認為電腦智慧將在2029年超過人類智慧，智慧100萬倍20.45億倍。人類和電腦融合成超人，這就是「奇異點」。在【智慧的啟蒙】中，您還討論了人工智慧與人類的關系以及人工智慧意識的啟蒙和演化。您對奇異點的到來和時間以及人類與電腦的融合有何預測？
劉誌毅：庫茲韋爾的「奇異點」理論是對人工智慧發展的重要預言。他認為，人工智慧的發展將經歷指數級增長階段，最終將達到一個臨界點，即「奇異點」。至此，人工智慧將在智力上超越人類，並引發一系列深刻的社會文化變革。這一理論在
【智慧的啟蒙】中得到了深入討論，認為人工智慧的發展潛力巨大，但也對於「奇異點」到來及其時機，預測如下：
技術發展加速：隨著計算能力的增強和演算法的最佳化，發展速度可能會加快，但會加快。2029年進一步達到人類智慧水平仍不確定
人機融合挑戰：而電腦的融合是一個復雜的過程，認為人工智慧將在2045年擴充套件一百萬倍的預測可能過於樂觀，需要進一步的技術。突破和社會適應。如何確保人工智慧的發展符合人類的價值觀和利益，是對整個社會的挑戰。
總體而言，奇異點理論提供了令人興奮的未來願景，但實作這一願景需要克服許多技術和倫理障礙。未來人工智慧的發展很可能是一個漸進的過程，而不是突然的、革命性的變化。
我們必須在技術發展進步的同時不斷思考和解決相關的倫理和社會問題，確保人工智慧的發展能夠造福人類社會。
