当前位置: 华文世界 > 科技

5元也能做,粗制滥造的「AI复活」服务不买也罢|新京报快评

2024-03-28科技
对那些粗制滥造的「AI复活」,也依旧需要保有警惕。
▲在电商平台上搜索「AI复活」,很多相关店铺定价最低只需10元。图/电商平台截图
文| 江城
一段时间以来,「AI(人工智能)复活」这门此前隐秘而小众的生意,开始受到广泛关注。据解放日报报道,随着相关需求的不断增加,「AI复活」的业务,已经开始有流水线化的倾向。
在电商平台上,此项服务的价格从5元至上万元不等,价格越高,效果越丰富。除了提供「复活」服务,「复活师」们还在寻找学徒和代理,从而将单一的产业向更远端延伸。
相比于此前「复活」公众人物,人们「复活」自己的至亲,似乎从伦理上更容易被接受。尤其是考虑到清明将至,人们的思念之情需要有一个寄托,此时,AI带来一种新的解决方案,也不失为技术红利的一个部分。
然而,人们依然要面临的一个现实是,即现在的AI技术依然不算成熟,尤其是一些「低价AI复活」的生意,技术可能更加粗糙。因此,如果依赖粗糙的AI技术贸然「复活」出亲人,很有可能会带来情感上的二次伤害。
一个典型的案例是,在电商平台上输入「AI复活」,就会弹出一大片商家。而在实际体验中,很多消费者发现不少「AI复活」粗制滥造,反倒让人倍感不适。
在媒体报道里,有人曾花费万元在网上「AI复活」了自己的爷爷,但稍后就从神态表情和只言片语中看出了「浓厚的AI味」,让她「瞬间出戏」。后来她删除了这个数字人,并大哭了一场,突然感到有所释怀。
这并非个例,事实上,连业内人士也承认,受限于素材不多,以及算力、成本的考量,目前很多数字人的视频和产品看起来还是很「假」。粗糙「复活」之后,当AI产品以逝者的身份出现在亲人面前时,也可能会带来巨大的心理冲击。
而更大的问题或许还是隐私问题。由于行业发展太快,一些商家也难言资质齐全。同时,逝者信息是否能得到妥善保护并定时清理,这些定制出来的音视频内容,是否会被滥用,人们心里其实并没有底。
去年,国家互联网信息办公室发布了【生成式人工智能服务管理暂行办法】,其中提到,「提供者对使用者的输入信息和使用记录应当依法履行保护义务,不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录」「提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求」。
但可以想象的是,这些面向大众市场如雨后春笋一般突然大量涌现的商家,是否履行了这些义务,消费者又是否可以核实和监督,目前尚未有非常清晰的方案。这也是「AI复活」不可回避的潜藏风险。
人们选择「AI复活」,心情是可以理解的,不过是一种强烈的思念,一种无法割舍的亲情,一种再见一面的愿望,也是人之常情。死生之际,自古以来是一种困扰了无数人的哲学命题,悲伤与通透,萎顿与超越,人们永远在寻觅一种可能的应对方案。
无法回避的事实是,天人永隔,人们依然很难看到技术跨过这道关隘的充分可能。因此,在面对技术变革所带来的新的可能性时,也要对因技术不成熟所造成的潜在风险保有警惕,尤其是短期内面向大众市场推出的产品。与其让粗制滥造的「AI复活」伤害情感,公众不妨再等等技术进步的脚步吧。
撰稿 / 江城(媒体人)
编辑 / 马小龙
校对 / 李立军