AI狂飆突進引發警報，科技巨頭呼籲急剎車審視發展風險
現在人工智能（AI）發展如日中天，被視為科技進步的新顯學時，一股要求對其進行緊急暫停的聲浪卻在科技界內部興起。
這並非杞人憂天，而是由一群深具遠見的科技人士發出的嚴肅警告，他們擔心AI的發展速度可能超出我們的控制範圍。
【生命未來研究所】，這個以降低核戰風險和改善AI治理為使命的非營利組織，上周向全社會發出了一封公開信。
信中強烈呼籲所有AI實驗室暫停比GPT-4更強大的AI系統的訓練，至少為期6個月。他們堅持認為，這種暫停必須是公開和可驗證的，並且需要所有關鍵參與者的共同遵守。如果行業內部無法迅速達成這一共識，那麽政府就應該介入並強制執行這一暫停。
這封公開信得到了超過1100人的簽名支持，其中包括了科技界的重量級人物，如特斯拉的創始人埃隆·馬斯克、蘋果的聯合創始人史蒂夫·伍茲尼亞克等。他們並非反對AI的發展，而是擔心在追求技術進步的道路上，我們可能忽視了安全、透明度和道德等重要因素。
馬斯克一直對OpenAI的發展方向表示擔憂。他認為，OpenAI已經從一個開源、非營利性的公司轉變為一個由微軟有效控制、追求利潤最大化的閉源公司。這種轉變不僅違背了公司成立的初衷，也可能導致AI技術的濫用和失控。
事實上，就連OpenAI的CEO亞特曼也在最近的對話中承認，AI已經出現了一些無法解釋的推理能力。這無疑加劇了人們對AI可能失控的擔憂。在這種背景下，「AI殺死人類」這樣的極端情況雖然看似遙不可及，但也不能完全排除其可能性。
這份擔憂並非電洞來風。在微軟釋出Bing聊天機器人之後，一份名為「立即拔掉邪惡的AI」的請願書在網絡上迅速傳播開來。這反映出公眾對於AI技術的快速發展既充滿期待又深感不安。
總的來說，AI的發展無疑為人類帶來了前所未有的機會和挑戰。但是，在追求技術進步的同時，我們也必須時刻警惕其可能帶來的風險。科技巨頭們的這次呼籲不僅是對AI發展的一次急剎車，更是對我們未來發展方向的一次深刻反思。
