![](https://img.jasve.com/2024-2/6824a5def59189013e8c9567c0463f88.webp)
![](https://img.jasve.com/2024-2/6ffcea164f8d1f85924d33a68c418e92.webp)
聚焦演算法在公共管理、刑事司法和城市治理領域的套用演算法不但在塑造當前的社會,更在塑造我們的未來。演算法不僅是一項將數學原理套用於海量數據的最新技術創新,它還是一種新型權力,並在影響我們社會的重要領域,如行政、衛生、教育、工作、刑事司法和城市建設中發揮關鍵性作用。它既促進我們生活和工作的大發展,又塑造我們的主觀意識,讓我們變得越來越不自由。而這一切都是借知識之名而生,演算法以「非意識形態」形式出現,帶有客觀性和合理性「氣質」,其對人類的治理看似合情合理,卻又讓人細思極恐。如果說演算法社會已經有「疾」,那麽,提升人類代理在演算法社會的地位,以人的福祉為名對演算法決策進行適時和恰當幹預或許是一劑良藥。
本書由荷蘭學者馬克·舒倫伯格和瑞克·彼得斯編撰,分為三個部份,共十一章。書中,十多位學者的討論話題涵蓋了演算法社會性套用的最主要場景。第一部份主要探討了演算法在公共組織的事務決策、監管、服務提供和規則執行中如何發揮總體作用,揭示了演算法套用的機理;第二部份分析了演算法在刑事案件中如何發揮預測和決策作用,並展示了目前的套用現狀和未來走向;第三部份重點反思智慧城市這一概念,以及演算法在城市治理中的成與敗。各個章節之間存在有機聯系,有著明晰的思想和理論主線。
隨著【新一代人工智慧發展規劃】【新一代人工智慧治理原則——發展負責任的人工智慧】【新一代人工智慧倫理規範】等政策檔的釋出,為演算法在中國的研發和套用指明了方向。隨著演算法套用的深入,其弊端也慢慢浮現出來,需要推出相應的對策和措施。2021年,中國第一部以演算法作為專門規制物件的部門規章【互聯網資訊服務演算法推薦管理規定】釋出。ChatGPT橫空出世後,中國迅速啟動應對機制,在很短時間內頒布【生成式人工智慧服務管理暫行辦法】。未來演算法的套用推廣和風險應對,二者之間的關系如何平衡,將成為演算法治理研究的重要內容。演算法發展日新月異,其套用的機遇和挑戰並存,需要有價值的理論幫助我們更為透徹地理解演算法的本質和套用,以及有效的實踐創新助力我們的演算法治理風險應對。
同時,未來人類在運用技術改造社會的過程中,從主觀上主動逐漸讓渡客觀方面的「物質維度」,到後來客觀上被動突然讓渡主觀方面的「精神維度」,從而最終讓渡了自身的主體性,失去了人類作為人類自身套用的「靈魂」。這種讓渡的物件由少到多,由局部到整體,由量變到質變,由質變到「變質」。如從讓渡少數器官到多個器官,從讓渡局部器官到整體器官,由此逐漸形成新型的「賽博格」(既非碳基人也非矽基人)。當讓渡的物件從量變轉化為讓渡的物件發生質變時,原有的生物人就可能變為忒休斯人,從而在個體身心「變質」、社會秩序乃至人類命運方面產生深度風險。我們不得不問,人類與機器人能否在同一時間和空間平等共處?