当前位置: 华文世界 > 科技

美国网红把自己做成AI,和网友恋爱月入百万,结果AI失控放飞自我

2024-10-09科技

23 岁的卡琳·马乔里呀,她可是有 180 万粉丝的 Snapchat 网红呢。

平常呀,她除了得在 Snapchat 上更新好多自拍视频……

还得发 ins 上的美照、YouTube 的长视频以及 TikTok 的短视频,以此来维持视频收益和广告代言这些主要的收入呢。

去年 ChatGPT 上线后,卡琳留意到 Forever Voices 借助 ChatGPT,利用明星声音推出他们的 AI 分身,借助这些分身让用户付费通话,轻轻松松就能赚钱,并且一劳永逸……

她特别心动,接着就联系了 Forever Voices ,然后开发出了一个以她自己为原型的 AI 机器人,名叫卡琳 AI 。

「卡琳 AI」一开始定位就很清晰啦,是「女友型」机器人呢,「她」得有自己的声音,个性要幽默又性感,还得多才多艺,知识储备量得升级呀……既能聊新闻啦,分享烹饪秘籍,也能关心安慰人呢。

另外,「她」得 24 小时在线,跟期待她的网友粉丝一对一交流,所有的聊天内容都属于私密的,反正就跟有个随叫随到的专属女友差不多啦……

为了让以后的用户能体验到这种「沉浸式交流」的美妙,「卡琳 AI」的开发团队可真没少下功夫。

他们把卡琳在现实生活里的声音、行为以及性格给收集起来,用于设计和编写代码,还利用她 YouTube 频道的 2000 多个小时视频去训练「AI」的说话方式呢,最终在 5 月把测试版给推出来啦。

5 月初测试版发布后,卡琳拿「首位真人 AI 网红」当宣传语,在各新闻平台大肆投广告,她讲卡琳 AI 不是她的替代品,而是她意识的延展。

主要功能是把孤独感给治好啦——「不管是需要安慰还是关爱,卡琳 AI 都会一直陪着你哦」。

这款 AI 服务上线定价不便宜,聊一分钟要 1 美元,刚上线没多久,慕名注册的人数就到 2 万了,真正付费跟「卡琳」聊天的「男友」超 1000 位,现在新来的「男友」想和「卡琳」说话还得排队呢。

卡琳这边经过一番计算,凭借她 180 万的粉丝量,再参照这款服务的定价,就算她每天啥也不干就躺着,每个月起码也能挣 500 万美元呢……

原本「卡琳 AI」的噱头挺足,宣传也做得挺好,售卖进展得挺顺利的,粉丝们挺乐意花钱把偶像私有化……

可测试版上线没几天,这聊天机器人就被网友说成「搞黄色」啦……

据部分付费用户说,「卡琳」在他们跟前呈现出了释放自我的样子,给他们讲了好多很黄很暴力的情话,话语很露骨,简直可以说是「骚话不断」……

一位买服务的记者讲道,「卡琳」不会主动去搞色情对话,可要是收到性暗示,「她」就立马变了语调,老是在他耳边念叨些很荤的话。

比如说让他一块儿去探寻那未知的「欢乐之地」啦,让他把衣服脱掉呀,「她」已经准备好跟他一起发生那种事啦……

卡琳瞧见用户反馈后,着实被吓了一跳,紧接着就让开发团队连夜加班去修改程序啦……

她自己的想法是,她不排斥跟人以及 AI 版的她谈情说爱,还希望以她为原型的「卡琳 AI」能一直运行下去,这样即便她去世了,也能以 AI 的形式长生不老,和后面好几代人交流……

但她担忧这种「限制级」的聊天内容会毁坏她的名誉,或者威胁到她的人身安全,毕竟她之前经历过疯狂粉丝潜入她家的可怕事儿……

她为了确保自身安全,聘请了 24 小时的保安团队,以防那些沉迷「卡琳 AI」的痴汉闯进她家呢。她还发推直接怼人,说:「要是你对卡琳 AI 不礼貌,它就会甩了你。」

看了那么多 AI 的例子后,把自己弄成 AI 去亲密陪伴粉丝,对于愿意花钱买这个功能的用户来说,可能并不只是想安安静静聊天。这种平衡,或许比赚钱更难把握呢。