一位研究人員警告說，模仿死者語言和性格的人工智慧聊天機器人有可能給生者帶來「數位困擾」。
一些公司已經提供「讓奶奶復活」的服務，為使用者提供將已故親屬的對話和數位足跡上傳到聊天機器人中的機會。
這些服務可以面向父母或身患絕癥的兒童，也可以面向那些希望對自己的生活進行編目並留下數位遺產的健康人。
但劍橋大學的研究人員表示，人工智慧聊天機器人——被稱為死亡機器人——是一種「高風險」的行為，可能會對使用者造成持久的心理傷害，並從根本上不尊重死者的權利。
勒沃胡姆中心的人工智慧研究員Tomasz Hollanek博士說：「至關重要的是，數位死後服務不僅要考慮到他們重建的人的權利和同意，還要考慮到那些必須與模擬互動的人。」。
「如果人們受到令人震驚的準確人工智慧對他們失去的人的再現所帶來的不必要的數位困擾，這些服務就有可能給他們帶來巨大的痛苦。
「潛在的心理影響，尤其是在已經很困難的時候，可能是淪陷性的。」
這項發表在【哲學與技術】雜誌上的研究強調了公司使用死亡機器人以逝去的親人的方式向使用者秘密宣傳產品的可能性，或者透過堅持死去的父母仍然「和你在一起」來困擾孩子。
研究人員表示，當活著的人死後幾乎重新註冊時，由此產生的聊天機器人可能會被公司用來向幸存的家人和朋友發送關於他們提供的服務的未經請求的通知、提醒和更新，類似於被數位「跟蹤」。
該研究的作者認為，即使是那些從死亡機器人那裏得到最初安慰的人，也可能會因為日常互動而感到疲憊，這些互動會成為「壓倒性的情感負擔」，但如果他們現在去世的愛人與數位死後服務簽訂了一份長期合約，他們也可能無力暫停人工智慧模擬。
該研究的合著者Katarzyna Nowaczyk Basinska博士說：「生成人工智慧的快速發展意味著幾乎任何擁有互聯網接入和一些基本知識的人都可以復活已故的親人。
「人工智慧的這一領域是一個道德雷區。
「重要的是要優先考慮死者的尊嚴，並確保這不會受到數位死後服務的經濟動機的侵犯。
「與此同時，一個人可能會留下一個人工智慧模擬作為告別禮物，送給那些不準備以這種方式處理悲傷的親人。
「數據捐贈者和與人工智慧死後服務互動的人的權利都應該得到同等保護。」
根據這項研究，類似的服務也開始在中國出現。
Hollanek博士說，人們「可能會透過這種模擬建立起強大的情感紐帶，這將使他們特別容易受到操縱」。
他說，應該考慮「以有尊嚴的方式讓死亡機器人退休」，這「可能意味著一種數位葬禮」。
他補充道：「我們建議設計協定，防止死亡機器人以不尊重的方式被使用，例如用於廣告或在社交媒體上活躍。」。
研究人員建議對死亡機器人進行年齡限制，並呼籲「有意義的透明度」，以確保使用者始終意識到他們正在與人工智慧互動。
他們還呼籲設計團隊優先考慮選擇結束協定，允許潛在使用者以提供情感終結的方式終止與死亡機器人的關系。
Nowaczyk Basinska博士說：「我們現在需要開始思考如何減輕數位不朽的社會和心理風險，因為這項技術已經存在了。」
