加州議會議長_加州議員中文名_
聰明的東西
編譯：楊瑞玲
編輯：
據【紐約時報】報道，周三，美國加利福尼亞州的立法者透過了一項有爭議的法案，旨在對人工智慧 （AI） 施加新的限制，以確保 AI 技術兼具創新性、安全性和可靠性。
SB-1047 是「 AI Model Act」。其目的是為花費超過 1 億美元或具有一定計算能力來保護大規模 AI 模型的開發人員建立安全準則。
據悉，本周需要再進行一次程式性投票，最後是美國加利福尼亞州州長 Gavin ·（Gavin） 將在 9 月 30 日之前決定是簽署還是拒絕它。
盡管歐盟已經頒布了一項人工智慧法案，但美國尚未透過限制使用高風險技術的法律，例如限制使用面部辨識軟體。
首先，美國要求 AI 公司進行安全測試
SB-1047 由美國加利福尼亞州立法機構批準，要求大型 AI 公司在向公眾釋出其系統之前對其進行安全測試。
據路透社報道，SB-1047 還要求開發人員聘請第三方審計師來評估其安全實踐，並為公開反對 AI 濫用的舉報人提供額外保護。
此外，【加州人工智慧法案】允許州總檢察長對造成重大傷害事故（例如死亡或財產損失）的人工智慧制造商提起訴訟。
隨著類人機器人和逼真的影像和視訊生成器的引入，【加州人工智慧法案】認為，如果人工智慧的發展沒有得到人類的適當控制，該技術在未來可能會對公共安全構成新的威脅。
「議會采取了歷史性步驟，積極確保這項令人興奮的新技術在發展過程中保護公共利益，」【加州人工智慧法案】的合著者、民主黨參議員史考特在一份聲明中寫道。
然而，加州人工智慧法案自 2 月送出以來一直存在爭議。
根據
對美聯社來說，美國加利福尼亞州透過的立法引發了關於如何監管這項新技術的激烈辯論，人工智慧對其潛在的好處和危害表示廣泛關註。
本月，該法案進行了一些修改，以安撫 Meta 和谷歌等科技行業的批評者。
他取消了成立一個專註於人工智慧安全的獨立機構的提議，並降低了公司的責任標準，只有在造成實際傷害時才追究公司的責任。
一家新聞機構對 SB-1047 的摘要顯示，【加州人工智慧法案】現已在第 11 版中進行了修訂。
據【環球時報】報道，「隨著國會在 AI 監管方面陷入僵局，美國加州必須在 AI 構成可預見的風險之前采取行動，同時促進創新。」
在他看來，人工智慧安全和創新並不是相互排斥的。
2. 支持【加州人工智慧法案】：確保人工智慧發展與公共安全齊頭並進
現在，【加州人工智慧法案】的最新修訂解決了之前一些批評者的擔憂。
·埃隆馬斯克本周在他的社群網站上的一篇文章中表示，這是一個「艱難的決定」，但「考慮到所有因素」，他支持對人工智慧的監管和加州人工智慧法案的透過，因為這項技術對公眾存在潛在風險。
SB-1047 的其他支持者同意，如果沒有保護，人工智慧可能會產生災難性的後果。它可能被用於生物戰，或透過虛假資訊運動推翻民主選舉和政府。
「政府現在就如何開發和部署這些強大的 AI 系統所做的選擇可能會對當代和未來幾代人、美國、加利福尼亞人和世界各地產生深遠影響。」蒙特婁大學（ of ）的一名電腦科學教授和一名因人工智慧安全問題而從谷歌辭職的教授在給紐瑟姆的一封信中說。
第三，弊大於利：業界擔心美國【加州人工智慧法案】可能會抑制技術創新
盡管加州人工智慧法案得到了科技界一些人的支持，但它仍然面臨來自行業內部的強烈反對，呼籲保護創新和發展。
幾位國會議員，包括前眾議院議長南茜·伊利普·伊利普（Nancy ·佩洛西已致信紐森，警告他該立法可能會威脅到人工智慧的發展。他們認為，這項技術仍處於早期階段，現在知道 AI 系統是否安全還為時過早。
在上周發表的一封公開信中，佩洛西寫道：「我們國會中的許多人認為 SB-1047 本來是好的，但缺乏充分的理解。
幾天前，他還公開反對【加州人工智慧法案】。
據【環球時報】報道，首席戰略官 Jason Kwon 在一封信中寫道，SB-1047 威脅到「加州在美國作為人工智慧全球領導者的獨特地位」。「他補充說，這可能會」減緩創新的步伐，並導致世界一流的工程師和企業家離開該州，到其他地方尋找機會」。
作為回應，他認為 SB-1047 是一項非常合理的法案，要求大型 AI 實驗室測試其大型模型是否存在災難性的安全風險，「我們一整年都在努力與開源倡導者和其他組織一起完善和改進 SB-1047。
SB-1047 的反對者擔心它會扼殺創新並阻礙初創公司。他們認為，這將使科技巨頭不願意與其他企業和軟體開發商共享其 AI 的底層軟體程式碼，通常稱為「開源」。
目前，紐瑟姆尚未對這項立法表明立場。
結論：SB-1047 在美國加利福尼亞州的透過是人工智慧監管向前邁出的又一步
隨著美國加州立法機構透過 SB-1047，美國的 AI 監管進入了一個新的階段。這項立法不僅為美國加利福尼亞州設定了新的技術標準，還可能影響全球人工智慧監管政策。
立法確保技術的安全性和可靠性，有助於加強公眾對人工智慧技術的信任，促進人工智慧在更廣泛領域的套用。SB-1047 在美國加利福尼亞州的透過，不僅挑戰了現有技術的發展，也為該行業的長期健康發展奠定了基礎。
美國空軍退休中將約翰（傑克）表示，SB-1047 為公民社會和國家安全的潛在近期風險提供了務實的解決方案，同時也為科技行業與各級政府之間的進一步對話奠定了基礎。
如果加州人工智慧法案成功簽署，其具體效果和來自各方面的反饋也將成為國際社會關註的熱門話題。AI 技術的發展和監管將在全球範圍內正在進行的討論和探索中不斷發展，以尋求平衡創新與道德和安全需求。
