當前位置: 華文世界 > 科技

最低只要幾十元!AI「復活」親人,清明節的新選擇?抖音發文提醒:慎用「AI復活」技術

2024-04-03科技

清明時節,人們對離世親友的思念之情最重,「AI復活親人」再次引發關註。

央視網4月3日報道,記者在某電商平台搜尋「AI復活」,可以找到大量相關商品。商家表示,利用AI「復活」的辦法很簡單——只需要一張正臉的照片和一段10秒鐘以上的音訊。

價格也並不算貴,只讓人物動起來20元,動起來+說話50元,動起來+原聲說話90元。而至於說話的內容,完全可以自定。

就在不久前, 有網友用AI生成視訊和聲音「復活」李玟,沖上微博熱搜;著名音樂人包小柏就利用AI技術「復活」已去世的女兒。

此外,近日抖音也釋出清明期間內容創作提醒,其中就包括慎用「AI復活」技術。

抖音釋出清明期間內容創作提醒:慎用「AI復活」技術

近日,抖音資訊安全中心釋出關於清明期間內容創作的提醒稱,清明是中國慎終追遠、訪春踏青的節日,許多使用者會在清明期間祭掃、出遊並透過網路與親友分享生活。抖音平台觀察到,有部份使用者釋出的內容不符合社群規則。

抖音資訊安全中心給使用者下列提醒:

1.文明過節:請勿借清明節釋出迷信、獵奇和有違公序良俗的內容,如配冥婚、鬼魂附體、墳頭蹦迪、燒「二奶」紙紮等。

2.愛護人民幣:請勿釋出焚燒人民幣的內容。故意毀壞人民幣是違法行為,可以透過其他文明、合法的方式表達對親人的緬懷。

3.尊重英烈:參觀英雄、烈士及遇難同胞紀念場所時,應保持莊重的言談舉止,切勿釋出在上述場所行銷、喧嘩或擾亂秩序的內容。在拍攝英烈雕塑、墓碑、歷史資料圖片等時,請避免使用娛樂、戲謔性特效,也不要有不適當的行為。

4.慎用「AI復活」技術:尊重逝者及其親友。未經逝者生前同意或逝者家屬授權,請勿利用AI或其他技術手段「復活」逝者。

5.安全出遊:在清明節踏青時,請勿拍攝或釋出有安全隱患的「野景點」以及封閉或受限制區域的相關內容。

有人用AI「復活」李玟

此前,有網友用AI生成視訊和聲音「復活」李玟,沖上微博熱搜。該博主自稱是因受到粉絲的請求義務做的,視訊中「李玟」坐在鏡前暖心回應粉絲關切。

據東北網3月14日訊息,「李玟」稱:「我知道你們可能會感到驚訝甚至有些不真實,但請相信我,這是一個充滿著愛和感激的時刻,因為我有機會透過這段視訊與你們相聚。

AI生成視訊截圖

在我離開這個世界的那一刻起,我一直能感受到你們無盡的愛和支持,你們熱情和信任是我音樂生涯中最寶貴的財富。我想告訴你們,我深深地感激你們每一個人。我知道有些時候生活會充滿挑戰,會有許多困難和磨難,但是請記住,在你們心中,我永遠會陪伴著你們,我們的音樂將永遠連線我們,我永遠是你們的李玟。

無論時間怎樣流逝,我希望你們能夠珍惜彼此之間的愛和友誼,用音樂和笑容去溫暖彼此的心靈。無論你們走到哪裏,默默支持著你們,感謝你們一直以來對我的支持和愛,我愛你們!」

在該條視訊評論區,不少網友咨詢該博主制作逝者視訊怎麽收費。3月14日,該博主告訴紅星新聞,制作其他逝者視訊不免費,要收取588元的費用。博主還稱,制作釋出逝者虛擬視訊,只要不用做商業用途,就不會有被逝者家人追責的風險。

著名音樂人用AI「復活」已去世的女兒

橙柿新聞2月29日報道,近日,著名音樂人包小柏在一次訪談中表示「我的女兒又回來了」,背後原因讓人淚目。

據媒體報道,2021年,包小柏22歲的女兒包容在因病去世,近日,他用AI「復活」女兒給妻子唱了生日歌。

包小柏接受采訪時表示,經過反復地嘗試訓練後,如願用AI復刻出「數位女兒」,可即時響應問話。前陣子老婆生日時,一家三口一起唱生日歌,他感慨:「AI就是寄托思念的工具,也是一種對思念的表達方式。」

有細心網友發現,包小柏最近出現在大眾視野時,一頭白發長發披肩,和以前的形象大不相同。

此前,包小柏曾表示,女兒去世後,他就再也沒有理過發了,「因為頭發有一段是曾經天天觸碰過女兒額頭的」。女兒去世後,他很難走出失去女兒的陰影,甚至不敢面對親友的問候。

為改變這一情況,包小柏從2022年開始鉆研AI技術並攻讀相關專業博士,希望重現患病去世女兒生前聲音。包小柏曾透露,女兒在離世前因氣切插管無法發聲,他誓要用科技重現女兒的聲音及影像,「我要給她一個最完美的形象、最完美的聲音,讓她在美輪美奐的數位世界,繼續生存下去。」

對此,有人問他,「你知道這不是真實的嗎?」包小柏表示,他其實不在乎,他真的很想念他女兒,所以才會做這一切。

誰在為「AI復生」買單?

早在2016年,小冰公司就開始研究AI「復生」技術。小冰CEO李笛在接受【每日經濟新聞】采訪時曾提醒,比起AI復生帶來的好處,更需要擔心其被濫用的風險。

「當大量沒有嚴格自我規範的企業進入市場時,他們可能會借助人們的情感需求進行勒索,其中包括個人私密數據以及金錢。」李笛說,對於普通公眾,「AI復生」的價格可以不貴,昂貴的地方在於一旦被濫用後產生的巨大破壞力。

一語成讖,擔憂的事情很快應驗了。在這場關於AI復活技術的倫理和法律風暴中,輿論的喧囂和爭議不斷升級。

隨著AI技術的快速發展和普及,生成視訊的成本和難度正在迅速降低。過去人們難以想象離開後還能以數位形式「復活」於這個世界,但現在這個問題已經變得不再遙遠。

圖片來源:微軟小冰供圖

誰在為「AI復生」買單?「AI復生」這門生意背後有哪些風險?

北京市京師律師事務所合夥人王榮梅、實習律師孔嘉琦(下稱「王榮梅團隊」)在接受【每日經濟新聞】記者的采訪時表示:「根據【中華人民共和國民法典】,死者肖像權等人格利益受法律保護,未經其近親屬允許,擅自使用死者人臉資訊利用AI技術制作視訊推廣盈利構成侵權,其近親屬可向侵權者主張承擔民事責任。」

王榮梅團隊還提到,【互聯網資訊服務深度合成管理規定】第14條規定,死者在生前作為其肖像權的權利人,有權同意或拒絕他人在其生前或死後對其肖像權的使用,若其明示拒絕在死後任何人以AI技術對其肖像進行使用,任何第三人包括其近親屬均無權使用AI技術對其進行「復活」。

當死者肖像權被侵害時,死者近親屬可以向人民法院提起訴訟維護死者人格利益,既可以根據【中華人民共和國民法典】第179條的規定要求行為人承擔民事賠償責任,也可以根據【民法典】第996條和【最高人民法院關於確定民事侵權精神損害賠償責任若幹問題的解釋(2020修正)】第3條的規定向行為人主張精神損害賠償。

然而,侵害權益的責任並不僅在於制造人。作為平台方,也有責任對涉嫌侵權的內容進行審查並及時下架。王榮梅團隊進一步稱,【中華人民共和國民法典】第1195條規定,網路使用者利用網路服務實施侵權行為的,權利人有權通知網路服務提供者采取刪除、遮蔽、斷開連結等必要措施。網路服務提供者接到通知後,應當及時將該通知轉送相關網路使用者,並根據構成侵權的初步證據和服務型別采取必要措施;未及時采取必要措施的,對損害的擴大部份與該網路使用者承擔連帶責任。

因此,平台作為管理者,應承擔對涉嫌侵權的內容進行審查並下架的責任。如平台未及時采取相應措施,應與侵權行為人共同承擔連帶責任。

每日經濟新聞綜合自央視網、東北網、央廣網、浙江日報、橙柿新聞、每日經濟新聞(記者:畢媛媛 宋美璐)

每日經濟新聞