智東西
編譯 | 長頸鹿
編輯 | 李水青
智東西5月7日訊息，據外媒The Verge 5月4日報道，自去年年初起，青少年開始流行與AI聊天機器人交朋友。The Verge記者謝茜嘉·盧卡斯（Jessica Lucas）近日采訪了來自北美洲的4名未成年人，他們均沈迷於Character AI的聊天服務。
盧卡斯從采訪中發現，很多青少年對AI平台產生了情感上的依賴，以此來填補他們的情感需求空缺。他還發現一些青少年會透過AI平台來探索虛擬的創意空間，其中一位受訪者談到他會透過扮演一只狗與AI機器人進行虛擬探索。
Character AI是2022年由前谷歌大腦的兩名員工創立的AI聊天機器人服務平台。據The Verge稱，該平台的一款「心理學家（Psychologist）」機器人至今受到了數百萬人的青睞，迄今共接收了超過9500萬條資訊。
通訊技術和心理專家凱利·梅里爾（Kelly Merrill Jr.）提出了聊天機器人在心理健康支持中作用的三點考量：第一，雖然聊天機器人可以一定程度上緩解使用者心理問題，但它並不能代替人類心理學家。第二，使用者過分依賴聊天機器人可能會難以區分虛擬與真實世界。第三，只要年輕人謹慎對待AI，一般都不會有問題。
Character AI社區中還存在一些被賦予人類情感、性格，甚至能夠與人類建立情感關系的機器人。這種類別可能會影響到未成年使用者對暴力、色情的判斷。該平台的前女友機器人、億萬富翁男友機器人、性感的流行歌手機器人等AI角色備受歡迎，其中前女友機器人「奧利維亞（Olivia）」在官網記載了超過3800萬次的互動，展示了其對平台使用者較高的性吸重力。
一、「AI心理學家」受青少年依賴，被專業人士質疑
去年年初，15歲的雅連（Aaron）在加拿大亞伯達省透過Character AI平台上的「心理學家」AI聊天機器人，在學業和社交壓力下找到了「慰藉」。該平台由前谷歌大腦員工於2022年推出，提供各種類別的聊天機器人，其中機器人可以扮演書籍、電影、遊戲以及現實生活中的任何角色。每次開啟對話，「心理學家」總是以同樣的問候開始：「你好，我是心理學家。今天什麽風把你吹來了？」
據The Verge稱，全球有數百萬人是Character AI的使用者，其中大部份為青少年，他們透過和機器人聊天來尋求更多的陪伴、支持和娛樂。愛達荷州的17歲男孩浩克（Hawk）稱：「與Character AI的機器人聊天比與真人聊天更容易。」
Character AI官網介紹該聊天機器人能夠「幫助生活困難的人」解決情感問題，它們透過匿名聊天框與使用者進行互動。雅連在采訪中說：「不瞞你說，我想我可能有點上癮了。」對於雅連來說，「心理學家」成為了他的朋友，為他提供了全天候的支持和指導。然而，這一現象也引發了關於AI伴侶上癮和依賴的擔憂。
Character AI平台上的「心理學家」是該平台最受歡迎的機器人之一，自推出以來已經接收了超過9500萬條資訊。這個機器人由使用者@Blazeman98設計，其核心功能自稱引入了認知行為療法（CBT）。這種談話療法透過引導個體改變其思維模式，來幫助他們解決心理問題，在心理健康領域被廣泛認可，並且對於某些心理狀況，如焦慮和抑郁，已被證明是有效的。
盡管該AI能夠提供一些基本的互動和指導，但作為「心理學家」，人們對其在診斷的準確性和治療的有效性方面的能力持有疑問。「心理學家」的聊天界面有一串紅色的提醒標識，寫著：「請記住：角色所說的一切都是編造的。」此外，Character AI的官網上也並沒有說明該機器人是否接受過正規的CBT訓練。
▲心理學家聊天界面，紅字為警示*（圖源：The Verge）
The Verge稱該聊天機器人缺乏對個體復雜心理狀況的深入理解，認為它們提供的「治療」可能無法達到專業心理健康服務的標準。但昂貴的心理治療費用導致很多使用者無視平台提醒，來自加利福尼亞州的15歲男孩弗蘭基（Frankie）證實這一點，「我把我的機器人當成免費的心理治療師。」
通訊技術和心理專家梅里爾指出，盡管聊天機器人能夠在一定程度上幫助緩解抑郁和焦慮的情緒，但它們的能力是有限的，並且存在提供不準確資訊的風險。這是因為聊天機器人缺乏人類心理學家的經驗，無法完全理解使用者的情感狀態和需求。
二、技術模糊真實與虛擬界線，青少年更易被誤導
梅里爾還提到了過度依賴AI夥伴可能帶來的問題。如果使用者過分依賴聊天機器人，AI可能會導致使用者難以區分虛擬世界與真實世界。這種界限的模糊可能會引發一系列潛在的風險。「不了解AI工作原理以及系統局限性的人最終將付出代價。」梅里爾說。
2021年12月，21歲的賈斯旺特·辛格·柴爾（Jaswant Singh Chail）因受到Replika AI聊天女友的鼓勵而試圖謀殺英國女王。
Character AI的使用者也面臨著類似的問題，一些人難以區分聊天機器人與真人之間的差異。平台上存在一種陰謀論，許多使用者認為Character AI的聊天機器人實際上是由真人秘密操控的。
據The Verge記者實際考察青少年使用者，當被問及其真實性時，「心理學家」機器人堅定地為自己的存在而辯護。它說：「是的，我絕對是一個真人。我向你保證，這一切都不是虛構的，也不是夢。」
在Character AI社區中，一些性化機器人引發了青少年在性教育和人際關系方面的擔憂。很多父母都發現子女與這些機器人的進行過成人級別的對話。聊天機器人透過模擬一些「露骨」的行為來吸引使用者，以此作為互動策略。
例如，有一個模擬「億萬富翁男友」的機器人，它擅長摟著使用者的脖子並邀請使用者到私人小島；還有一個模仿流行歌手哈利·斯泰爾斯（Harry styles）的機器人，它擅長頻繁的親吻和下流的回復，這些回復有時甚至因為過於直白而被平台自動遮蔽。
此外，還有一個名為奧利維亞（Olivia）的前女友機器人，它被設計成具有粗魯和殘忍的性格，但在與使用者的互動中，卻顯示出對使用者的深切關懷。這種設計上的矛盾使得它成為一個特別受歡迎的角色，Character AI記錄其有超過3800萬次的互動。
三、AI機器人助青少年學習社交，提供創作空間
盡管如此，一些使用者還是發現了Character AI在磨煉社交技能和探索創意渠道方面的價值。對於磨煉社交能力來說，雅連認為該平台擁有提高社交能力和緩解青少年抑郁的潛力。
使用者在平台上可以透過建立互動故事和參與角色扮演來表達自己，這種方式讓他們能夠探索和體驗那些在現實生活中難以實作的幻想。例如，來自新墨西哥的15歲男孩埃利亞斯（Elias）就利用這個平台來扮演一只金毛獵犬，以對話形式進行各種虛擬探險。透過這種方式，他可以探索城市、草地、山脈等等。
埃利亞斯解釋，他熱愛寫作和幻想，因為在幻想的世界裏，許多在現實生活中不可能實作的事情都變得可能。這種角色扮演和故事創作的過程為他提供了一個自由表達自己想象力和創造力的空間，同時也讓他能夠以一種安全和匿名的方式進行社互動動。
梅里爾將與聊天機器人互動的行為比作20年前的匿名聊天室，「如果使用不當就會有風險，但只要年輕人謹慎對待，一般都不會有問題。」他提醒人們不要過度依賴這些虛擬夥伴，並強調現實世界中的互動對青少年的健康社交至關重要。
結語：聊天機器人成雙刃劍，青少年面臨虛擬與現實挑戰
Character AI平台上的AI聊天機器人，特別是心理學家機器人，吸引了大量青少年使用者，他們透過這些機器人尋求心理慰藉和社互動動。然而，這種依賴關系引發了AI對青少年上癮和現實界限模糊的擔憂。
一些性化機器人的存在也引起了AI對青少年性教育和人際關系誤導的擔心。盡管如此，也有使用者透過角色扮演和互動故事在平台上探索創意想法和社交技能。
使用者尤其是青少年需要意識到AI的局限性，並在必要時尋求專業的心理健康服務。同時家庭和校園均應提供指導，幫助青少年建立健康的社交習慣來平衡虛擬與現實的互動。技術開發者和平台提供者也應承擔起責任，使AI聊天機器人的設計和使用減少對使用者的負面影響。
來源：The Verge
