對那些粗制濫造的「AI復活」,也依舊需要保有警惕。
▲在電商平台上搜尋「AI復活」,很多相關店鋪定價最低只需10元。圖/電商平台截圖
文| 江城
一段時間以來,「AI(人工智能)復活」這門此前隱秘而小眾的生意,開始受到廣泛關註。據解放日報報道,隨著相關需求的不斷增加,「AI復活」的業務,已經開始有流水線化的傾向。
在電商平台上,此項服務的價格從5元至上萬元不等,價格越高,效果越豐富。除了提供「復活」服務,「復活師」們還在尋找學徒和代理,從而將單一的產業向更遠端延伸。
相比於此前「復活」公眾人物,人們「復活」自己的至親,似乎從倫理上更容易被接受。尤其是考慮到清明將至,人們的思念之情需要有一個寄托,此時,AI帶來一種新的解決方案,也不失為技術紅利的一個部份。
然而,人們依然要面臨的一個現實是,即現在的AI技術依然不算成熟,尤其是一些「低價AI復活」的生意,技術可能更加粗糙。因此,如果依賴粗糙的AI技術貿然「復活」出親人,很有可能會帶來情感上的二次傷害。
一個典型的案例是,在電商平台上輸入「AI復活」,就會彈出一大片商家。而在實際體驗中,很多消費者發現不少「AI復活」粗制濫造,反倒讓人倍感不適。
在媒體報道裏,有人曾花費萬元在網上「AI復活」了自己的爺爺,但稍後就從神態表情和只言片語中看出了「濃厚的AI味」,讓她「瞬間出戲」。後來她刪除了這個數碼人,並大哭了一場,突然感到有所釋懷。
這並非個例,事實上,連業內人士也承認,受限於素材不多,以及算力、成本的考量,目前很多數碼人的影片和產品看起來還是很「假」。粗糙「復活」之後,當AI產品以逝者的身份出現在親人面前時,也可能會帶來巨大的心理沖擊。
而更大的問題或許還是私密問題。由於行業發展太快,一些商家也難言資質齊全。同時,逝者資訊是否能得到妥善保護並定時清理,這些客製出來的音影片內容,是否會被濫用,人們心裏其實並沒有底。
去年,國家互聯網資訊辦公室釋出了【生成式人工智能服務管理暫行辦法】,其中提到,「提供者對使用者的輸入資訊和使用記錄應當依法履行保護義務,不得收集非必要個人資訊,不得非法留存能夠辨識使用者身份的輸入資訊和使用記錄,不得非法向他人提供使用者的輸入資訊和使用記錄」「提供者應當依法及時受理和處理個人關於查閱、復制、更正、補充、刪除其個人資訊等的請求」。
但可以想象的是,這些面向大眾市場如雨後春筍一般突然大量湧現的商家,是否履行了這些義務,消費者又是否可以核實和監督,目前尚未有非常清晰的方案。這也是「AI復活」不可回避的潛藏風險。
人們選擇「AI復活」,心情是可以理解的,不過是一種強烈的思念,一種無法割舍的親情,一種再見一面的願望,也是人之常情。死生之際,自古以來是一種困擾了無數人的哲學命題,悲傷與通透,萎頓與超越,人們永遠在尋覓一種可能的應對方案。
無法回避的事實是,天人永隔,人們依然很難看到技術跨過這道關隘的充分可能。因此,在面對技術變革所帶來的新的可能性時,也要對因技術不成熟所造成的潛在風險保有警惕,尤其是短期內面向大眾市場推出的產品。與其讓粗制濫造的「AI復活」傷害情感,公眾不妨再等等技術進步的腳步吧。
撰稿 / 江城(媒體人)
編輯 / 馬小龍
校對 / 李立軍