當前位置: 華文世界 > 科技

AI配音惡搞惹怒雷軍!AI聲音複制公司創始人:樂見使用者「整活」,將下架違規音訊

2024-10-11科技

近日,「雷軍AI配音」的相關影片,在短影片平台上廣泛傳播。在網傳影片中,具有小米公司創始人、CEO雷軍的聲音特征的語音內容「銳評」假期堵車、遊戲等話題。由於部份影片包含「謾罵」內容,不少網友調侃稱「被雷軍整整罵了7天」。

雷軍微博回應網友相關提問。圖源 | 微博截圖

相關影片內容傳播量巨大,「雷軍AI配音」相關話題的影片內容播放量已經超過1.2億。這些配音大多並非雷軍本人「發聲」,而是短影片平台使用者使用AI工具模擬了雷軍聲音的音色,並根據設定文案內容生成了具有雷軍音色的音訊素材。

根據一些使用者釋出的「雷軍AI配音生成教程」,記者發現不少影片內容的生成工具都來源於一家名為「Reecho睿聲」的大模型網站。該網站所屬公司深圳市言域科技有限公司(簡稱「言域科技」)是一家成立僅10個月的初創公司。

在上述網站,記者也發現了其他使用者事先采集樣本制作的雷軍聲音角色。其他使用者只需要設定需要生成的文字內容,便可以直接生成具有雷軍音色的音訊。其中最熱門的一款雷軍聲音,已經被46.7萬使用者使用,累計生成了2594.7萬個字元文案的語音內容。

Reecho睿聲網站上使用者采集制作的雷軍聲音(部份已下架)。圖源 |網站截圖

言域科技創始人謝偉鐸在個人朋友圈也承認,最近火爆全網的各路雷軍AI語音基本是用他們的產品制作,最近網站DAU(日活躍使用者)已經達到了幾十萬量級。據公開資訊顯示,這位創始人是一位00後,就讀於巴黎大學電腦系,目前處於休學階段。

九派財經記者聯系到了謝偉鐸,與他對相關熱點事件的看法和技術所衍生的法律邊界和技術倫理等問題進行了對談。

謝偉鐸在奇績創壇路演日介紹團隊開發的專案。圖源 | 奇績創壇

以下是采訪實錄(有刪改):

九派財經: 對「雷軍AI語音」惡搞事件你怎麽看?

謝偉鐸:最開始出現「雷軍AI語音」大家也是覺得出於好玩,起初使用者使用我們的工具生成的內容都是比較正常的,但慢慢地出現了一些不文明的內容。對這樣的現象,我們感到非常痛心和遺憾,我們並不希望這樣的事件發生,讓AI工具生成不文明的內容有悖於我們的初衷。

九派財經:對於這起事件,小米公司法務部和你們接觸了嗎?雙方是怎麽溝通的?

謝偉鐸:小米公司有工作人員聯系到了我們,他們態度還是比較溫和,希望我們配合把相關內容進行下架,遏制不文明內容的進一步傳播。我們目前的做法是先通知使用者自行下架相關內容,2~3個工作日使用者未進行處理,我們會在後台采取直接下架措施。

九派財經:對於網站所呈現的聲音角色可能明顯涉嫌對公眾人物的侵權,您是怎麽看待的?

謝偉鐸:目前我們會在接收到權利人的投訴後,根據UGC社區的慣例,通知相關使用者對上傳的聲音角色進行下架。

對於使用者上傳了別人的聲音從而采集生成了第三人的聲音角色,我們整體還是保持一個比較開放的態度,我們認為我們的平台只是一個工具,我們不會過於去控制使用者使用工具去做什麽。最終如果生成內容在互聯網社交平台傳播,如果存在違法或侵權內容被傳播,應該更多的是傳播平台的責任。

對於使用者生成一些公眾人物或者影視角色的音訊,只要不往涉及色情、恐怖暴力的方向發展,使用者可以去生成相關音訊,如果面臨侵權我們通常會按照慣例事後通知下架。

九派財經:為什麽會開發這樣的一個AI仿真音訊工具?套用場景和市場前景是什麽?

謝偉鐸:最早我經常看到「小美」「小帥」的短影片配音很機械,我就想看著能不能生成更加自然、擬人的影片內容配音。基於這樣的興趣,我們團隊的10個人在互聯網上相識,大家開始一起開發了中文領域首個虛擬主播IP木幾萌。最後我們發現我們的技術如果只用於這款虛擬主播有點過於「浪費」,所以就和團隊成員一起開發了目前的這款Reecho睿聲擬真語音大模型套用。後來在天使投資人機構奇績創壇的投資下,今年8月我們在深圳有了辦公場地,團隊成員才聚集線上下開始工作。

由於最開始我們的套用是偏向於娛樂化的,在產品推廣的過程中期待使用者把產品生成的音訊分享在影片平台上。同時,我們也期待可以幫助一些內容創作完成有關聲音內容的創作,比如替代人聲口播去高效、便捷地完成對影片的聲音內容生成。我們的產品還可以套用在公益領域,我們曾幫助網友制作逝去親人的仿真聲音。

商業化的套用場景上,我們期待後續和一些聲優和配音員合作,為他們制作聲音角色樣本,為使用者提供高質素且便捷的可商用配音素材。目前我們的網站大部份功能還是免費的,我們正在開發一些商業化的專案,今年年內就會有比較大的進展。

九派財經:您怎麽看待AI聲音複制套用的使用邊界?

謝偉鐸:對於使用者如何去使用工具我們持開放的態度,目前,我們也已經采取了對異常行為監測和生成聲音追溯等監管功能。對於我們網站生成的音訊,盡管使用者進行了二次剪輯加工,我們依舊可以追溯到生成音訊的賬號。這項功能我們後續會開放申請鑒定渠道,協助相關機構追溯我們網站流出的違法音訊的生成源頭。

此外,我認為在此次「雷軍AI語音」事件中我們公司的產品火了,讓更多人認識到了目前AI仿真聲音技術的進步。這樣的認知提升,可以降低公眾因為擬人仿真語音被騙的風險。

九派財經記者 舒家奎

編輯 萬佩

【來源:九派新聞】

聲明:此文版權歸原作者所有,若有來源錯誤或者侵犯您的合法權益,您可透過郵箱與我們取得聯系,我們將及時進行處理。郵箱地址:[email protected]