当前位置: 华文世界 > 科技

国庆被「雷军」追着「骂」,全赖AI技术走「偏了」?

2024-10-14科技

最近,雷军的AI配音在社交平台爆火,不少网友戏称,国庆被雷总「追着骂」。

不过,这些语音包虽然给大家带来不少乐子,但也引发诸多争议,掀起了更深层次的讨论。

近段时间,全球各地都有AI语音或视频的危害事件。AI造假,似乎已成为一个无法关闭的潘多拉魔盒。

#01

雷军被恶搞

最近,抖音和B站出现不少「雷军骂人」视频。涉及话题广泛,有打篮球、打麻将、打游戏不爽骂两句的,也有假期过完难受的。网友们借着AI雷军之口,吐槽和锐评。

然而,其中不乏过分者脏话不断,一口一个老子、畜生,甚至用虚假信息抹黑品牌形象,比如说远程控制小米手机自爆、用小米su7撞人等。

另外,部分视频不仅没打上AI标签,配图还用真人照片,说自己就是雷军。使得一些不明真相的网友误以为这真是雷军本人。

从其微博评论区可见,这段时间不断有人留言问:「雷总,最近你怎么总骂人」「雷总真是你你吗」「雷总AI能不能管管,搞得都有点讨厌你的声音了」。

原本,雷军只在评论区回了3个愤怒表情表态,但随着事情越闹越大,他终于不忍了,10月9日正式在微博上发帖回应和澄清。

该说不说,雷军一向大度,并不介意网友玩自己的梗,入驻B站时还买下成名曲【Are you OK】的版权给大家用。

但这次的性质,显然不太一样。玩梗归玩梗,过于低俗,甚至怀揣恶意,就是在侵犯名誉权、肖像权的边缘试探了。

#02

AI侵权再惹热议

事实上,这次AI造假事件前,早就名人明星,甚至普通人中招。

往近了说,前不久三只羊就陷入「卢总录音门」风波,后据警方调查,音频内容不实,属于AI伪造。

稍远点,今年初美国知名歌星泰勒·斯威夫特的AI「不雅照」被疯传,引起巨大争议。

其团队在事后迅速发文澄清,但已有不少网友信以为真,且浏览量巨大,对它本人造成不小影响。

更恶劣的,还有前段时间的韩国Deepfake事件,数十万女性被Deepfake换脸到不雅视频中。

可以说,当普通人都可以随时随地用AI造假,没有成本地作恶,才让恶意难以遏制。

说到底,这类工具能有如此破坏性,原因在于操作太简单,几乎没有技术门槛。

不像当初让AI孙燕姿唱歌还得依靠训练模型,有点专业门槛,现在想让「某人」说什么话轻松就能完成。

比如,目前市面上有大量AI配音小程序,用户只需选择相应的人物声音并输入文字,雷军AI声就是其中一个热门选项。

虽然生成的效果有些瑕疵,但几乎实时生成,数百字字内免费,语气、语调也比较自然,使用者众多。

#03

普通人保护好隐私

当然,咱不从人性和动机上讨论为啥AI换脸换声屡禁不止,只要违法成本够低,就必然无法杜绝。

作为普通人,也难以从法律角度探讨如何打击AI造假,我们能做的只有尽量保护自己的个人隐私,不要随意上传自己的语音或视频内容。

保持低调,或许能降低被不法分子盯上的可能性。

因为无论语音包还是换脸视频,都需要利用公开音频、照片和视频等资料生成,社交平台就是他们的「素材库」。

同时,我们还要提高对AI的敏锐度。虽然技术能模拟声音和脸,但有时会存在细微的失真或不连贯。

总之,AI语音技术的迅猛发展带来了很多便利,但也暴露出一系列新风险。

这次雷军「骂人」的爆火就在提醒打击,这项技术在为娱乐和搞笑视频提供素材的同时,也可能成为坏人的武器。

技术或许中立,可使用工具的人,也该承担相应的责任。