清明前的两周,阿彭在一家网店下单「复活」了自己的丈夫。
电影【流浪地球2】中图恒宇用数字生命技术「复活」女儿丫丫的桥段令人印象深刻。而自生成式AI技术兴起以来,用AI复活逝去的人已经日益普遍,并且形成了产业链。在电商平台上,用AI「复活」亲人已成为一门生意,一单最低只需要5元。
不过,AI技术的发展在带来温情的同时,也引发了伦理和法律的相关争议。4月3日,抖音发布清明期间内容创作提醒,应慎用AI「复活」技术,未经逝者生前同意或逝者家属授权,请勿利用AI或其他技术手段「复活」逝者。
电商平台上有大量售卖AI「复活」的链接
AI「复活」亲人最低只需5元
阿彭的丈夫几年前因为意外去世,最近她在短视频上刷到了很多AI技术「复活」亲人的新闻,抱着尝试的想法她向网店客服上传了丈夫生前的照片。20元的订单只够生成一段简短的视频,但也足够给她慰藉。
等到商家把制作好的视频发给她的时候,她的泪水在眼眶打转。在商品评价里,阿彭写道:「真的非常感动和开心!感谢店家的用心制作。」
AI「复活」亲人的新闻在近年来已不鲜见。不久前,音乐人包晓柏用AI「复活」女儿的新闻引发热议。在AI技术的加持下,他离世的女儿重新出现在电脑上、手机里,能唱歌跳舞,且能用生动的声音和父母对话。
在商汤2024年年会上,创始人汤晓鸥数字人现身,还来了一场演讲,且数字人的演讲风格与真人生前的演讲风格非常像。
去年4月,有位B站UP主就曾用AI工具生成了奶奶的虚拟数字人。视频中,数字人「奶奶」讲着流利的湖北方言与UP主对话。
B站某up主用AI技术「复活」奶奶
随着生成式AI的进步,目前电商平台上也有越来越多在做AI「复活」生意的商家,标价从几元、几十元,到上百元不等。其中不少链接已有超过500人购买,其中不少都是在清明前夕新增加的订单。
但是,大多数店铺的商品都比较简单,只是单纯让照片动起来。有商家表示,定价是根据照片的难易程度决定的。如果要加声音,则需要额外加钱,需要制作可以实时互动的「数字人」,则需要更高的价格。
有从事AI行业的人士告诉记者,这种网店售卖的AI「复活」并不需要特别高的技术门槛,用Pika等现成的AI工具就可以做到。
然而想要成更加生动的AI形象,不仅需要大量的影像和声音资料,还需要用AI工具反复模仿训练才能形成。然而即使这样,生成的也只是一个虚拟形象,离数字生命的定义相去甚远。
争议:新技术带来伦理与法律难题
AI「复活」,从诞生以来一直都饱受争议。
有观点认为,通过AI技术还原亲人生前的形象,见逝者「最后一面」,让人们对亲人的思念有了合理的寄托。
也有人认为,通过AI生成的亲人形象终究是虚假的,反而会让失去亲人的人更难从悲伤中走出来。在社交平台上,也有网友指责售卖AI「复活」服务的商家是「吃人血馒头」「揭伤疤」。
李玟家属喊话要求下架AI换脸视频
比起伦理问题,未经允许通过生成式AI制作他人的虚拟形象,也极有可能涉及法律风险。
近日,有网友用AI技术「复活」了已经去世的公众人物李玟、乔任梁、高以翔等,并在网络上发布动态视频引发大众争议。
随后,乔任梁的父亲接连喊话网友删除,并在接受媒体采访时表示其侵犯了儿子的肖像权,不能接受,感到不舒适,希望对方尽快下架。
【民法典】第994条规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶子女父母有权依法请求行为人承担民事责任。
深伪技术的普及同时也让AI诈骗随之兴起。相比于传统的诈骗手段,用AI「深度伪造」换脸的诈骗手段更难识别,危害也更大。
不少知名明星与跨国公司相继成为AI「深度伪造」的受害者。今年1月底,明星泰勒·斯威夫特(Taylor Swift)大量虚假「不雅照片」在社交平台上传播,甚至惊动了美国白宫。
明星成为AI换脸技术的主要受害者
2月4日,有诈骗集团利用AI「深度伪造」技术向一家跨国公司的香港分公司实施诈骗,并成功骗走2亿港元,这也是香港迄今为止损失最大的「换脸」案例。
香港破获一起2亿港元AI深伪技术诈骗
新技术的使用为人们怀念亲人提供了便利,然而在温情之外,如何为未来的「数字生命」构建伦理与法律的边界,仍然有待思考。
南方+ 记者 吴扬
【作者】 吴扬
南方探针