新京報貝殼財經訊(記者韋英姿)2月21日,在2024亞布力中國企業家論壇年會開幕式上,中國工程院院士、清華大學智能科學講席教授、智能產業研究院院長張亞勤表示,transformer、stable diffusion等現有演算法在未來5年都會改變。「現在演算法看起來很聰明,但如果把能耗和整個效率算進去,它們的效率比起人類大腦至少要低1千倍。」
此外,他認為多模態、自主智能、邊緣智能、物理智能(或稱具身智能)、生物智能也是未來AI的技術發展方向。「達沃斯最新預測,到2030年,數碼經濟將達到20萬億美元,其中大約10%將由新的AI所創造。」
「人工智能大模型也存在很多風險。」張亞勤說。他認為,第一種風險是資訊風險,「它一直存在」;第二種風險情況是當資訊智能拓展到物理世界時,如果失控或被壞人利用,將造成很大風險,尤其作為作業系統工具運用於金融、軍事、決策等系統後,風險會植入性增加;第三種風險情況是可能帶來跟核武器、流行病一樣的生存風險。
如何防範上述風險?張亞勤對此提出三個建議:一是建立分級體系,特別是監管前沿大模型,對其場景等方面進行約束和評估;二是實體對映,例如標識AI生成內容或智能體需要存在可以追溯的主體;三是前沿大模型公司、國家基金會、科技機構等主體將制作大模型10%的投資用於AI風險研究,包括政策、學術、技術等方面。「從事技術的人必須現在開始研究,如此研究人員、企業和政府才能共同前進。」
校對 楊許麗