隨著自動駕駛汽車、ChatGPT、人形機器人等人工智慧套用的爆發，人工智慧對於現行法律的挑戰逐漸受到重視。早在2017年，國務院就印發了【新一代人工智慧發展規劃】，指出：「人工智慧是影響面廣的顛覆性技術，可能帶來改變就業結構、沖擊法律與社會倫理、侵犯個人私密、挑戰國際關系準則等問題。」
近年來，人工智慧在賦予人類新的文明契機的同時，也對現有的法律關系提出了一些破窗式挑戰，如何透過立法來規制人工智慧的運用研發已經成為一項迫在眉睫的課題。
深度偽造與刑事治理。 深度偽造依托於深度學習和大數據技術，能夠修改和自動生成影像、文字、視訊等資訊內容，極易為不法人員實施網路違法犯罪活動提供可乘之機。深度偽造可能涉及的違法行為諸如侵害國家安全、社會秩序、他人合法權益等，都和我們刑法當中大量的罪名相呼應，也進一步帶來了刑事治理風險的擴張。例如，在以「點選、瀏覽、轉發的次數」為入罪標準的犯罪認定中，現有司法解釋並未將演算法系統的自動化點選和轉發次數排除在外。同時，在深度偽造的過程當中，很多技術難題又是過去傳統的法律規範所不能加以覆蓋的，例如，由於演算法黑箱的存在，依托大規模演算法的深度偽造在定罪量刑要件的認定上存在解釋上的困難。如何順應這樣一種技術的變化來修改過去傳統的法律規則，是我們眼前必須要去解決的問題。尤其對現有的規範，在新技術背景下進行解釋進而賦予這些規範嶄新的生命力，更是我們必須要面對的問題。
自動駕駛和侵權責任。 當前自動駕駛汽車大規模商業化落地行程正在緊鑼密鼓地進行中，今年6月份，工信部、公安部以及交通運輸部等部門聯合宣布國家首批智慧網聯汽車準入和上路通行試點企業名單，標誌著自動駕駛汽車的大規模上路、上市又更進了一步。對於傳統汽車來講，車輛由人類的駕駛員控制，發生事故自然也需要由人來承擔。自動駕駛取代人工駕駛以後，車輛在沒有人介入的情況下可以自主駕駛，這個過程中如何追究事故的責任成為難題。最近有觀點認為應當追究在整個流程包括程式開發的刑事責任。不過，如何平衡技術創新和社會秩序穩定，是管理者在每個新技術的發展之初都不得不面臨的問題，所以這樣的問題在過去也可以找到參照的現象。盡管我們現在討論的是人工智慧、無人駕駛，但是過去在飛機裏也存在類似的無人駕駛，當飛機墜毀的時候我們是否需要探討追究飛機駕駛程式開發者的刑事責任？為什麽我們現在一提到人工智慧下的無人駕駛，我們甚至要特別延展地長鏈條地追究因果鏈條，並進而追究刑事責任，這是我們必須要思考的問題。我們是否對人工智慧這樣的技術產生了一個深度的恐懼，而不得不做出一些過於戒備的預防？這也是我們需要討論的問題。類似性質的問題在人工智慧其他領域的套用場景中也一定會遇見。
生成式人工智慧與智慧財產權的問題。 近年來，生成式人工智慧獲得極大的關註和發展，給智慧財產權的保護帶來一系列的復雜問題。從輸入端來看，訓練數據來源的合法合規問題十分突出，生成式人工智慧需要進行海量的閱讀和攝取，這些是否會觸及到海量數據的攝取過程當中，包括爬蟲技術本身是否涉及到著作權的問題。爬蟲技術無法辨識抓取內容的著作權問題，也無法在抓取時逐一獲得著作權授權，這一問題現在已經成為生成式人工智慧合規發展過程當中一個特別大的制約性難題，是否構成著作權合理的使用值得研究。我們過去傳統的著作權研究沒有遇到過這麽海量而龐大的「合理使用的問題」。從輸出端來看，終端使用者、模型提供者的生成內容是否具有可版權性，人工智慧服務的提供者生成的內容是否侵權，都是我們實踐當中所面臨的問題。今年廣州互聯網法院作出判決的全球AIGC侵權第一案，北京互聯網法院審理的國內首例「AI文生圖」著作權的侵權案以及前不久全國首例AI生成聲音人格權侵權案，這些案件都在生成式人工智慧領域、智慧財產權以及我們傳統意義上的人身權等問題產生了緊密的關聯，值得我們進一步深思。
人工智慧的司法套用。 人工智慧在司法領域獲得廣泛的套用，最高人民法院【關於規範和加強人工智慧司法套用的意見】專門就人工智慧司法的套用作出了部署，對於傳統的司法活動來講，它是法律和道德的統一，我們經常講要兼顧法理情，除了正確地適用司法規則以外，我們還要去要求法官具有同理心、正義感、同情心，需要對所面臨的法律現象具有正義的直覺判斷。而這些通常由人來彰顯的司法內容是無法為機器所完全替代的。因此，我們要更加關註人工智慧在司法中的套用問題。
生物的辨識與數據安全。 在我們日常生活中，人臉辨識、指紋辨識、虹膜掃描、語音辨識等，已經無處不在，這些是我們身份驗證和存取控制的強大工具，但是由此帶來的對數據安全的挑戰也不容忽視。對個人而言，收集和儲存生物辨識數據可能引發大規模的私密風險，這種具有高度敏感性的個人資訊一旦遭到泄露或者濫用，尤其是大規模地泄露或者濫用，必然會侵害主體的私密權益，甚至可能會導致更大的數據安全乃至國家安全的問題。尤其是對國家而言，數據是重要的戰略資源，數據安全又是國家安全的重要內容。因此，生物辨識技術的大規模套用，我們對此要特別謹慎、特別警惕。
人工智慧立法的現狀。 當前中國人工智慧立法呈現兩個特點：一是地方式。目前為止在國家層面，至今還沒有一部關於人工智慧的專門立法。有關人工智慧的立法具有明顯的地方式特征，強調地方政府可以根據自身的特點，結合自身發展的需求，先行先試，探索具有地方特色的人工智慧治理規則，以此來積累更多的人工智慧全國性立法經驗。比方說在自動駕駛領域，在推進人工智慧產業發展方面，上海、深圳、廣州、重慶等都就自動駕駛道路測試、示範套用、交通法規等各種相繼頒布了很多的地方條例，但是缺乏國家層面的法規。二是場景式。當前我們還沒有一部關於人工智慧的綜合性立法，相關立法仍然以地方規章制度以及國務院的行政規章為主，同時也主要是以具體的套用場景為抓手，關註不同套用場景下的人工智慧引發的法律挑戰，比如說針對生成式人工智慧出台了【生成式人工智慧服務管理暫行辦法】，針對自動駕駛汽車則出台了【智慧網聯汽車道路測試與示範套用管理規範（試行）】等；針對深度合成出台了【互聯網資訊服務深度合成管理規定】，針對人臉辨識最高院釋出了【關於審理使用人臉辨識技術處理個人資訊相關民事案件適用法律若幹問題的規定】等，但是總體上缺乏一些綜合性、一般性的規定。
人工智慧立法正當其時。 隨著人工智慧套用爆發式地增長，我們的立法現在已經明顯滯後，地方式立法、場景式立法已經遠遠無法滿足人工智慧產業發展的需求。
我們必須要抓住人工智慧立法的寶貴契機。推動人工智慧統一立法的實作，避免頭痛醫頭、腳痛醫腳。當前各國都特別重視人工智慧的立法，今年5月，歐盟理事會正式批準全球第一部【人工智慧法案】，引領人工智慧立法新浪潮。中國人工智慧的統一立法趨勢也逐漸明顯，有關部門將人工智慧法列入了立法的規劃，中國社科院等單位聯合起草的【中華人民共和國人工智慧示範法（學者建議稿）】，為制定一部統一的人工智慧法提供了很好的政策條件和寶貴經驗。
對於人工智慧法的立法而言，我們需要註意的是不僅要在人工智慧的規制、管制、立法和人工智慧技術的創新當中維持好一種平衡，還需要留足動態的介面。一部人工智慧法很難解決人工智慧所提出的所有法律問題，一方面，我們需要對智慧要素立法預留介面，2020年8月，美國安全和新興技術研究中心釋出報告【人工智慧三要素及對國家安全戰略的意義】指出：「可以用一句話來概括現代人工智慧的復雜性，即：機器學習系統使用計算能力來執行從數據中學習的演算法。」這一定義表明，實作人工智慧的關鍵在於演算法、算力和數據三要素，人工智慧立法需要與智慧要素立法相互配合。另一方面，我們也需要為智慧套用的立法預留介面，因為人工智慧本身就是一個包羅永珍的概念，它所套用的場景包括醫療、教育、金融、物流、交通等各種場景，各種人工智慧所套用的場景當中引發的法律問題並不一致，例如自動駕駛汽車關註事故責任問題，人臉辨識關註數據合規和個人資訊保護問題，生成式人工智慧則面臨著作權保護問題等等。人工智慧立法必須要考慮這些場景的特殊性。
未來，人工智慧法的立法還需要根據人工智慧快速叠代的發展來進行不斷調整。人工智慧作為當前最受矚目的新興科技，我們必須要重視由此引發的法律挑戰，透過立法為人工智慧的發展保駕護航，讓人工智慧更好地造福人類社會，服務國家發展。
來源：人民法院報·2版
作者：林維（西南政法大學校長、教授、博士生導師）
責任編輯：劉潔 | 聯系電話：（010）67550743 | 電子信箱：[email protected]
