當前位置: 華文世界 > 科技

你可能從未想到,人工智能有一個特別可怕的缺陷

2024-10-05科技

不要和一個 AI助手分享你的所有 資訊 。盡管有私密和安全控制,這項技術有時會 「泄露」機密。

奇怪的是 人工智能技術 它是如此的新穎和令人興奮,以至於把它包含在日常生活中仍然是有趣和新奇的,比如建立一個社交媒體貼文,或者融入日常生活 業務流程 比如生成內容或自動化枯燥的辦公室任務。

事實上,它太新了,以至於人們很容易忽略人工智能並不完美,它有許多缺陷。最近的一次 調查 報告 突顯了新使用者可能從未想到的人工智能的一個特別可怕的方面 ——它可能會將機密資訊泄露給不該接觸這些資訊的人。

而且不僅僅是任何資訊 ——關於你公司的關鍵秘密,它的計劃,它的財務,也許,你 賬目和他所有令人討厭的習慣 都可能清晰全面地泄露出去

該報告的中心是人工智能如何取代一些以前由辦公室助理完成的工作任務。這似乎是一個完美的解決方案,真的 ——數碼人工智能助理可能更可靠,他們不會休假,你也不一定要花很多錢來使用它們。

記會議筆記是一項經常委托給助理的任務,現在有一大群人工智能工具可以承擔這項工作。

一位研究員兼工程師的故事,最近 主持召開了 一次與一些投資者的放大會議。會議結束後,他 接到 了一封電子郵件,裏面有一份由人工智能生成的會議記錄,人工智能已經消化了這次聊天。這聽起來非常有用 :不需要做筆記!沒有「待辦事項」或備忘錄。

驚訝地發現,這份記錄包含了投資者在他離開會議後的聊天記錄。包括 當他提到 「戰略失敗和熟指標」的討論這個問題時,金融家們 對此提出批評 讓他 意想不到的 是, 批評導致 投資方 取消了這筆交易。

AI解釋了如何調整其私密控制來改變資訊共享的細節。

雖然這個貼文只是一個簡單的公司幕後活動,但它缺乏任何真誠的道歉。更重要的是,它強調了與現有的數碼辦公工具不同,人工智能工具可以像數碼一樣,不受監管,開放,能夠做一些讓你驚訝的事情 ——無論是積極的還是消極的。

有時,當一名領導者急於接受人工智能作為 「推動你業務的下一件大事」的例子時,他們可能對人工智能技術的風險過於天真。像 上面講的 這樣的會議轉錄服務是一種顯而易見的方式,人工智能工具可以學習機密資訊,然後以意想不到的和可能妥協的方式分享它。

但即使是聊天機器人或工具,如微軟的新人工智能 召回系統 如果你允許它根據你的數據進行自我訓練,它就會 「泄露」資訊,這一條款可能隱藏在該工具的無數條款和條件中。

在某些情況下,這些數據隨後會 「彈出」並顯示給完全不同的使用者。不僅如此,透過允許一些人工智能工具存取你的數據(如果你要求它分析和消化大量金融資訊,這可能是需要的),那麽你的資訊可能不僅僅是存放在特定工具的提供商那裏。

例如 與第三方共享使用者資訊,包括在需要時為廣告合作夥伴和執法機構提供後端支持的人工智能服務。

有一句老話是這麽說的 :「永遠不要把你奶奶看了會不舒服的東西放到網上。」也許我們可以修改這一點,以適應2024年人工智能驅動的辦公室:「永遠不要與人工智能工具分享資訊,如果你在網頁上看到這些資訊,你會感到不舒服