当前位置: 华文世界 > 科技

你可能从未想到,人工智能有一个特别可怕的缺陷

2024-10-05科技

不要和一个 AI助手分享你的所有 信息 。尽管有隐私和安全控制,这项技术有时会 「泄露」机密。

奇怪的是 人工智能技术 它是如此的新颖和令人兴奋,以至于把它包含在日常生活中仍然是有趣和新奇的,比如建立一个社交媒体帖子,或者融入日常生活 业务流程 比如生成内容或自动化枯燥的办公室任务。

事实上,它太新了,以至于人们很容易忽略人工智能并不完美,它有许多缺陷。最近的一次 调查 报告 突显了新用户可能从未想到的人工智能的一个特别可怕的方面 ——它可能会将机密信息泄露给不该接触这些信息的人。

而且不仅仅是任何信息 ——关于你公司的关键秘密,它的计划,它的财务,也许,你 账目和他所有令人讨厌的习惯 都可能清晰全面地泄露出去

该报告的中心是人工智能如何取代一些以前由办公室助理完成的工作任务。这似乎是一个完美的解决方案,真的 ——数字人工智能助理可能更可靠,他们不会休假,你也不一定要花很多钱来使用它们。

记会议笔记是一项经常委托给助理的任务,现在有一大群人工智能工具可以承担这项工作。

一位研究员兼工程师的故事,最近 主持召开了 一次与一些投资者的放大会议。会议结束后,他 接到 了一封电子邮件,里面有一份由人工智能生成的会议记录,人工智能已经消化了这次聊天。这听起来非常有用 :不需要做笔记!没有「待办事项」或备忘录。

惊讶地发现,这份记录包含了投资者在他离开会议后的聊天记录。包括 当他提到 「战略失败和熟指标」的讨论这个问题时,金融家们 对此提出批评 让他 意想不到的 是, 批评导致 投资方 取消了这笔交易。

AI解释了如何调整其隐私控制来改变信息共享的细节。

虽然这个帖子只是一个简单的公司幕后活动,但它缺乏任何真诚的道歉。更重要的是,它强调了与现有的数字办公工具不同,人工智能工具可以像数字一样,不受监管,开放,能够做一些让你惊讶的事情 ——无论是积极的还是消极的。

有时,当一名领导者急于接受人工智能作为 「推动你业务的下一件大事」的例子时,他们可能对人工智能技术的风险过于天真。像 上面讲的 这样的会议转录服务是一种显而易见的方式,人工智能工具可以学习机密信息,然后以意想不到的和可能妥协的方式分享它。

但即使是聊天机器人或工具,如微软的新人工智能 召回系统 如果你允许它根据你的数据进行自我训练,它就会 「泄露」信息,这一条款可能隐藏在该工具的无数条款和条件中。

在某些情况下,这些数据随后会 「弹出」并显示给完全不同的用户。不仅如此,通过允许一些人工智能工具访问你的数据(如果你要求它分析和消化大量金融信息,这可能是需要的),那么你的信息可能不仅仅是存放在特定工具的提供商那里。

例如 与第三方共享用户信息,包括在需要时为广告合作伙伴和执法机构提供后端支持的人工智能服务。

有一句老话是这么说的 :「永远不要把你奶奶看了会不舒服的东西放到网上。」也许我们可以修改这一点,以适应2024年人工智能驱动的办公室:「永远不要与人工智能工具分享信息,如果你在网页上看到这些信息,你会感到不舒服