當前位置: 華文世界 > 科技

人工智慧公司將被要求向美國政府報告安全測試

2024-02-14科技

拜登政府決定實施新的人工智慧規定,要求所有主要人工智慧系統的開發人員向政府公開其安全測試結果。

作為這些新規定的一部份,科技公司將被要求在使用大量計算能力訓練人工智慧模型時通知政府。新規定將使美國政府能夠存取谷歌、AWS(亞馬遜網路服務)和OpenAI等公司的敏感數據。

美國國家標準與技術研究院正在負責制定標準,以確保人工智慧工具在公開釋出之前是安全可靠的。此外,商務部將釋出指南,對人工智慧生成的內容加入浮水印,以明確區分真實內容和人工智慧內容。

白宮人工智慧特別顧問Ben Buchanan在接受采訪時表示,政府希望「在向公眾釋出人工智慧系統之前知道它們是安全的——總統已經非常明確地表示,公司需要達到這個標準。」

人工智慧已經成為美國政府關註的主要經濟和國家安全問題。考慮到圍繞生成式人工智慧的炒作,以及它在市場上帶來的投資和不確定性,這並不奇怪。

美國總統在三個月前簽署了一項雄心勃勃的行政命令,以管理快速發展的技術。行政命令中的擬議規則包括對人工智慧發展的指導,包括既定的安全標準。

白宮人工智慧委員會召開會議,審查行政命令取得的進展。這包括來自廣泛的美國聯邦部門和機構的高級官員。該委員會發表聲明稱,在實作保護美國人免受人工智慧系統潛在危害的任務方面取得了「實質性進展」。拜登政府也在積極與歐盟等國際盟友合作,制定管理該技術的跨境規則和條例。

根據新規定,美國雲公司將被要求確定其外國實體是否正在存取美國數據中心以訓練人工智慧模型。美國政府周一公布了一項「了解你的客戶(KYC)」提案。該提案將要求雲端運算公司核實註冊或維護使用美國雲端運算帳戶的外國人的身份。

新規定可能會給亞馬遜(Amazon)和谷歌(Google)等美國科技公司帶來額外壓力,這些公司需要制定一套流程,收集有關其外國客戶姓名和IP地址的詳細資訊,並向聯邦政府報告任何可疑活動。這些科技公司還需要每年進行合規認證。

雖然自我報告規定可以為美國的利益提供一些保護,並鼓勵人工智慧開發者更加謹慎,但目前尚不清楚政府將如何處理那些選擇不準確報告或根本不報告的人。獲取敏感數據也存在法律和道德方面的擔憂。