新京报贝壳财经讯(记者韦英姿)2月21日,在2024亚布力中国企业家论坛年会开幕式上,中国工程院院士、清华大学智能科学讲席教授、智能产业研究院院长张亚勤表示,transformer、stable diffusion等现有算法在未来5年都会改变。「现在算法看起来很聪明,但如果把能耗和整个效率算进去,它们的效率比起人类大脑至少要低1千倍。」
此外,他认为多模态、自主智能、边缘智能、物理智能(或称具身智能)、生物智能也是未来AI的技术发展方向。「达沃斯最新预测,到2030年,数字经济将达到20万亿美元,其中大约10%将由新的AI所创造。」
「人工智能大模型也存在很多风险。」张亚勤说。他认为,第一种风险是信息风险,「它一直存在」;第二种风险情况是当信息智能拓展到物理世界时,如果失控或被坏人利用,将造成很大风险,尤其作为操作系统工具运用于金融、军事、决策等系统后,风险会植入性增加;第三种风险情况是可能带来跟核武器、流行病一样的生存风险。
如何防范上述风险?张亚勤对此提出三个建议:一是建立分级体系,特别是监管前沿大模型,对其场景等方面进行约束和评估;二是实体映射,例如标识AI生成内容或智能体需要存在可以追溯的主体;三是前沿大模型公司、国家基金会、科技机构等主体将制作大模型10%的投资用于AI风险研究,包括政策、学术、技术等方面。「从事技术的人必须现在开始研究,如此研究人员、企业和政府才能共同前进。」
校对 杨许丽