AI狂飙突进引发警报，科技巨头呼吁急刹车审视发展风险
现在人工智能（AI）发展如日中天，被视为科技进步的新显学时，一股要求对其进行紧急暂停的声浪却在科技界内部兴起。
这并非杞人忧天，而是由一群深具远见的科技人士发出的严肃警告，他们担心AI的发展速度可能超出我们的控制范围。
【生命未来研究所】，这个以降低核战风险和改善AI治理为使命的非营利组织，上周向全社会发出了一封公开信。
信中强烈呼吁所有AI实验室暂停比GPT-4更强大的AI系统的训练，至少为期6个月。他们坚持认为，这种暂停必须是公开和可验证的，并且需要所有关键参与者的共同遵守。如果行业内部无法迅速达成这一共识，那么政府就应该介入并强制执行这一暂停。
这封公开信得到了超过1100人的签名支持，其中包括了科技界的重量级人物，如特斯拉的创始人埃隆·马斯克、苹果的联合创始人史蒂夫·伍兹尼亚克等。他们并非反对AI的发展，而是担心在追求技术进步的道路上，我们可能忽视了安全、透明度和道德等重要因素。
马斯克一直对OpenAI的发展方向表示担忧。他认为，OpenAI已经从一个开源、非营利性的公司转变为一个由微软有效控制、追求利润最大化的闭源公司。这种转变不仅违背了公司成立的初衷，也可能导致AI技术的滥用和失控。
事实上，就连OpenAI的CEO亚特曼也在最近的对话中承认，AI已经出现了一些无法解释的推理能力。这无疑加剧了人们对AI可能失控的担忧。在这种背景下，「AI杀死人类」这样的极端情况虽然看似遥不可及，但也不能完全排除其可能性。
这份担忧并非空穴来风。在微软发布Bing聊天机器人之后，一份名为「立即拔掉邪恶的AI」的请愿书在网络上迅速传播开来。这反映出公众对于AI技术的快速发展既充满期待又深感不安。
总的来说，AI的发展无疑为人类带来了前所未有的机会和挑战。但是，在追求技术进步的同时，我们也必须时刻警惕其可能带来的风险。科技巨头们的这次呼吁不仅是对AI发展的一次急刹车，更是对我们未来发展方向的一次深刻反思。
