智慧語音技術能掙錢，可也有技術出錯、身份認證被破解、資訊泄漏之類的法律風險。智慧語音技術裏有關聲音保護有法律方面的爭議，這跟聲音具有人體生物特點、聲音的法律內容存在爭議有關。聲音屬於個人的生物資訊，具有可辨識、穩定、非匿名、全向等特性。要對智慧語音技術進行法律規範，得加強對現有生物辨識資訊立法的解釋和完善；把控好復雜人際關系處理的法律規定；面對未知風險，得堅持從嚴解釋弱風險預防原則，守住發展智慧語音技術的法律底線。
在人工智慧的時代，智慧語音技術的進步推動了聲音文化的相互交流。出現了有聲閱讀、智慧音箱、語音導航這些東西，就連在新聞播報、刑事偵查、盲人問訊等公共事業方面，機器都能模仿人類的自然語言進行交流，像人一樣去傾聽和表述。
語音大數據如今已成為關鍵的資訊資源，推動了社會和經濟發展方式的改變。因為聲音復雜又多變，所以機器辨識、處理、互動和合成語音存在困難。靠聲音進行身份驗證、交流互動的情況越來越多，社會治理的風險也就跟著變大了。但是，對於順應科技進步潮流發展起來的智慧語音技術，中國還沒有專門的法律條文。
不管是政府、社群，還是企事業單位、個人，都能隨便用智慧語音技術，在沒經過授權的情況下使用他人聲音，搞深度模擬、合成、盜用這些事兒。在聲音文化的傳播裏，智慧語音技術是把雙刃劍，既推動了技術、產業、社會治理的變化，也把技術誤差、身份被破解、資訊泄露等風險給暴露出來了。
智慧語音技術靠的是聲紋辨識，和指紋、虹膜、DNA 這些人體生物特征一比，聲紋采集簡單，成本不高，穩定性強還好辨識，所以適用的領域多，收益也大。用智慧語音技術做出來的智慧家居產品可以「聽音識意」，因為是透過自然語言交流，從技術上說，使用互聯網的門檻變低了，這就讓它在兒童和老年人群體裏特別受歡迎。
憑借聲紋辨識能遠端采集、無需接觸就能辨識這類特點，能夠借助智慧語音平台展開風控管理，防控金融風險，幫助公安機關破獲電信詐騙案件，讓社會保持穩定。伴隨人工智慧和物聯網的進步，智慧語音技術越發成熟，可新的問題也來了，智慧語音技術面臨的法律風險是實打實存在的。
越來越多的學者留意到演算法的權力，針對演算法黑箱、演算法錯誤這類問題展開研究，還發出警告，要是演算法在社會治理裏變成衡量價值和利益的砝碼，人類面對的就不只是數據的單純計算以及生活的簡單建模這種問題啦。跟人臉辨識技術一比，智慧語音技術獲取聲音樣本以及進行偽造更簡單，防控風險的難度也更大。
智慧語音技術存在誤差這是肯定的，不過隨著技術越來越好，出錯的可能性也就跟著降低了。在進行語音辨識時，要是碰到聲音特別相似的情況，技術要是不行，就沒法準確辨識語音。「人工智慧技術靠的是演算法。」從自動生成的語音播報、新聞推播，再到像亞馬遜的 Alexa、蘋果的 Siri、小米的小愛同學這類智慧機器人的出現，演算法在裏頭起著關鍵作用。
演算法變得越來越普遍，都快跟人類語言差不多了。但是呢，任何技術都不是十全十美的，像那種靠生物特征來作比較和辨識的演算法，也是有出錯的可能性的。要是這種錯誤達到一定的程度，用在技術偵查、保險認證、稅務管理這些社會公共事務上，就會給普通老百姓帶來沒必要的困擾和損害。
2004 年，西班牙馬德裏火車站發生爆炸案，當地政府請美國聯邦調查局來分析，可該局沒對辨識技術做閉環式檢查，也沒仔細論證包含被告電話資訊等的證據，結果造成了錯誤逮捕。就像有學者評論說的那樣：「生物辨識的解釋沒準是錯的——會有很可怕的後果。」
就算把身份辨識系統的容錯率提上去，也可能因為系統存在不確定性，聲音又很復雜，出現錯判和漏評的情況。打算給人們打造智慧互聯網，智慧語音技術能讓「人機互動」更像「人人互動」，這會影響人們對周圍環境的感知和對世界的認知觀念，日常生活的情況會透過客製場景、個人化建模等形式展現出來。
跟傳統密碼不一樣，語音的資訊是公開的。不法分子能以比較低的成本、方便的辦法獲取別人的聲音，拿偷來的聲音去搞詐騙。雖說智慧語音技術能透過最佳化聲紋認證系統，用上資訊保安的新技術來給身份認證資訊加密保護，使得技術被破解更難了。
不過呢，因為深度偽造、合成這類技術得到運用，破解身份認證資訊存在的風險可不能小瞧。要是不對這個加以規範，技術一旦被破解，由於身份認證資訊被盜用從而引發的侵權事件就會大量增多。演算法技術具有開放性、不確定性以及去中心化的特點，使得社會治理的科層制發生了變化，變成了演算法社會的智慧推薦。
資訊收集面臨著「法定必需」和「知情同意」的矛盾。不光智慧語音技術的提供方、使用方有可能故意把資訊泄露出去，還可能因為技術有缺陷、電腦儲存系統有漏洞，或者被黑客、病毒之類的給入侵了，從而導致資訊被泄露。
人性化智慧語音的操控靠的是背後的程式設計，只要使用者提要求，大量的數據就會被收集，聲音被盜取、偽造還有暗中竊聽，個人資訊會泄露得更多。就算是被設計成可控範圍的弱人工智慧的智慧音箱，也有可能因為自我學習能獨立自動編程，甚至失控。在當下大數據分析流行的時候，個人資訊正在被深度挖掘、預測、辨識和交易。
