國慶長假本是人們放松休閑的好時機，但部份網友卻利用AI技術制造了一個不同尋常的「節日氛圍」。他們透過複制雷軍的聲音吐槽不文明行為或者表達對他人的不滿，甚至出現了諸如要捐款給特定大學、用虛構的小米SU7車型撞人以及遠端控制手機爆炸等極端內容。這些影片在社交媒體上廣泛傳播，不少使用者表示自己「被AI雷軍追著罵了一個假期」。
10月7日晚間，有網友在雷軍的社交媒體留言問「雷總，最近你怎麽在罵人？」雷軍回應三個發怒的表情。
AI複制聲音技術的出現，無疑為內容創作和娛樂產業帶來了新的可能性。透過機器學習演算法，AI能夠分析並模仿特定人物的聲音特征，生成高度逼真的語音內容。同時，在現代社會文化中，惡搞文化有一定的存在空間。適度的惡搞可以是一種幽默、一種對社會現象的別樣解讀。
然而，此次AI配音惡搞雷軍事件中，部份內容已經越過了社會可接受的道德和文化界限。例如涉及暴力威脅、惡意辱罵等內容，這與積極健康的社會文化背道而馳。
從法律角度來看，未經雷軍本人同意，使用AI技術合成其聲音進行惡搞，可能侵犯了雷軍的肖像權、聲音權和名譽權。如果這些行為對雷軍的形象造成了損害，那麽惡搞者可能需要承擔侵權責任，包括停止侵權、賠禮道歉、恢復名譽、賠償損失等。更嚴重的是，如果這些內容造成了謠言的產生和社會影響，惡搞者可能還會面臨違反治安管理處罰法甚至刑法的風險，可能會被拘留罰款，甚至坐牢。
這種現象也引起了人們對AI技術濫用的擔憂。隨著AI技術的發展，造假影片和語音的難度越來越低，這導致網絡上出現了大量難以辨別真偽的內容。如果這類影片泛濫，將嚴重影響網絡內容的真實性和可信度，對平台的內容質素和使用者體驗造成損害。
此外，對於雷軍本人來說，這種惡搞行為無疑是對其個人形象的侵犯。雷軍作為小米公司的創始人，他的形象與公司品牌緊密相關。這些惡搞影片可能會對小米的商譽造成負面影響，從而影響到公司的市場表現。
對於影片平台而言，他們有責任和義務對這類內容進行監管。平台應該加強對AI生成內容的稽核，防止侵權和不實資訊的傳播，維護健康的網絡環境。
面對此次風波，各大平台紛紛采取行動，開始逐步下架涉事影片，並加強對使用者上傳內容的稽核力度。同時，這也促使業界思考如何更好地規範AI技術的套用範圍，避免類似問題再度發生。例如，加強技術研發過程中的道德教育；建立健全數據保護機制，確保個人資訊不被濫用；完善相關政策法規，為新興科技劃定清晰界限。
本文源自：金融界
作者：歸林
