一位研究人员警告说，模仿死者语言和性格的人工智能聊天机器人有可能给生者带来「数字困扰」。
一些公司已经提供「让奶奶复活」的服务，为用户提供将已故亲属的对话和数字足迹上传到聊天机器人中的机会。
这些服务可以面向父母或身患绝症的儿童，也可以面向那些希望对自己的生活进行编目并留下数字遗产的健康人。
但剑桥大学的研究人员表示，人工智能聊天机器人——被称为死亡机器人——是一种「高风险」的行为，可能会对用户造成持久的心理伤害，并从根本上不尊重死者的权利。
勒沃胡姆中心的人工智能研究员Tomasz Hollanek博士说：「至关重要的是，数字死后服务不仅要考虑到他们重建的人的权利和同意，还要考虑到那些必须与模拟互动的人。」。
「如果人们受到令人震惊的准确人工智能对他们失去的人的再现所带来的不必要的数字困扰，这些服务就有可能给他们带来巨大的痛苦。
「潜在的心理影响，尤其是在已经很困难的时候，可能是毁灭性的。」
这项发表在【哲学与技术】杂志上的研究强调了公司使用死亡机器人以逝去的亲人的方式向用户秘密宣传产品的可能性，或者通过坚持死去的父母仍然「和你在一起」来困扰孩子。
研究人员表示，当活着的人死后几乎重新注册时，由此产生的聊天机器人可能会被公司用来向幸存的家人和朋友发送关于他们提供的服务的未经请求的通知、提醒和更新，类似于被数字「跟踪」。
该研究的作者认为，即使是那些从死亡机器人那里得到最初安慰的人，也可能会因为日常互动而感到疲惫，这些互动会成为「压倒性的情感负担」，但如果他们现在去世的爱人与数字死后服务签订了一份长期合同，他们也可能无力暂停人工智能模拟。
该研究的合著者Katarzyna Nowaczyk Basinska博士说：「生成人工智能的快速发展意味着几乎任何拥有互联网接入和一些基本知识的人都可以复活已故的亲人。
「人工智能的这一领域是一个道德雷区。
「重要的是要优先考虑死者的尊严，并确保这不会受到数字死后服务的经济动机的侵犯。
「与此同时，一个人可能会留下一个人工智能模拟作为告别礼物，送给那些不准备以这种方式处理悲伤的亲人。
「数据捐赠者和与人工智能死后服务互动的人的权利都应该得到同等保护。」
根据这项研究，类似的服务也开始在中国出现。
Hollanek博士说，人们「可能会通过这种模拟建立起强大的情感纽带，这将使他们特别容易受到操纵」。
他说，应该考虑「以有尊严的方式让死亡机器人退役」，这「可能意味着一种数字葬礼」。
他补充道：「我们建议设计协议，防止死亡机器人以不尊重的方式被使用，例如用于广告或在社交媒体上活跃。」。
研究人员建议对死亡机器人进行年龄限制，并呼吁「有意义的透明度」，以确保用户始终意识到他们正在与人工智能交互。
他们还呼吁设计团队优先考虑选择退出协议，允许潜在用户以提供情感终结的方式终止与死亡机器人的关系。
Nowaczyk Basinska博士说：「我们现在需要开始思考如何减轻数字不朽的社会和心理风险，因为这项技术已经存在了。」
