作者丨陳嘉映
【銀翼殺手】劇照
Chatgpt爆火後，有關AI的熱點新聞持續不斷。即使我們無法得知尖端企業內暗流湧動的內幕，但也能感覺到第三次技術浪潮正在進行，未來洶湧而來。「科學家們的工作是可以預測出將來會出現汽車，人文學者們的工作則是在汽車出現之前，預測出堵車。」
本文選自學者陳嘉映老師7年前關於AI的演講，時至今日，仍能有所警示。在技術主宰人類的時代，人性會如何變化，會失去什麽、得到什麽？本文的預言有相當的說服力。
今天的主題是人工智慧。這個題目，我沒做過研究，但翁菱指定我發言，我就說說我的零零星星的思考，拋磚引玉吧。
最近這些年，最火熱的技術好像是兩種：生物工程技術和人工智慧技術。這兩大門類的技術都很了得，不僅將大規模改變世界的面貌，而且將改變人自身。我常說，這是兩面夾擊，人工智慧要把機器變得越來越像人，生物工程要把人變得越來越像機器。
生物工程技術和人工智慧技術，兩廂相比，我估計，生物工程技術帶來的變化會更根本。據說，生物工程技術不用多久就能夠讓人長生不老。在很多人看來，長生不老是所有願望裏最大的願望——無論什麽願望，都得人活著才能實作。但推開一步想，人終有一死，才會去努力實作願望，真若永無死日，那還急什麽？今天、明天或任何一天，所有的日子都一樣。人想多活幾天，人有這個願望大概是事實。不過，長壽作為一種可欲的東西，在各種文化裏地位不同，好像在咱們中國擺的位置最高，在古希臘，極流行的觀念是人過完了青壯年就該去死了。我其實挺懷疑人是不是真的都願意長生不老。看著一群活蹦亂跳的孩子，大家都開心，看著年輕人旺盛生長，大家都開心，我們老年人要是都不讓出地方，孩子和青年往哪兒長呢？
不過，今天的主題是人工智慧，還是回到這個題目上來。我們街上的老百姓，說到人工智慧，首先想到的大概是科幻電影裏的電腦人。電腦真能變成人嗎？
人工智慧進步飛快，在很多特定方面已遠遠強於人類。但我以為，電腦不會成為人。人工智慧跟人的智慧有根本的區別。人類智慧是有機體的智慧，所以，人類智慧連著意識，連著欲望和感覺等等。我們需要有智慧才能制做衣裳，才能生火，而這智慧是跟感知連在一起的。我們知冷知熱，感知到降溫了，於是要添加衣服或生火。我們之所以感知到降溫了，那因為我們是恒溫動物。溫度計可以測量溫度，但它不感知冷熱。我們感知這個世界，因為我們是有機體，有血有肉，有各種各樣的欲望。所謂智慧，並不只在腦力裏，智慧體現在手和腳上，體現在人的方方面面，比如，體現在說話的聲調裏。
【機械姬】劇照
總之，計算能力這種「智慧」跟人類智慧不是一回事。人的智慧跟感知連在一起，感知跟欲望連在一起，欲望跟血肉連在一起。智慧在人身上很突出，但它仍然是人這個有機體的一個方面。
所以，我倒不像有些人那樣擔心電腦人有朝一日會統治人類。他們說，人工智慧的威脅與原子彈的威脅不同類，原子彈的危險是淪陷人類，電腦人的危險是另一種，它們將超過人類，成為一個「更高」的群體，成為人類的統治者。可機器為什麽要控制人類呢？人要控制別人，因為他要利用別人，人對人工智慧毫無用處，他幹嗎要控制人類呢？人要控制別人，因為他害怕，人工智慧沒有fear，他幹嗎要控制人類呢？電腦人控制人類，那只是科幻電影的遐想。
但機器人能不能發展出感覺、欲望、感情呢？就說自保這種欲望吧。就我們人類之為動物而言，自保是一種基本的欲望，有了這種欲望，就會生出其他多種多樣的欲望，例如，口渴了要喝水，肚子餓了要吃飯，受到侵害要奮起反抗。
也許，有朝一日，我們會為電腦也設定自保的程式。有了這個基本的程式，它也許會自己生成其他程式，電池缺電了它就設法充電，受到侵害就奮起反抗，等等。這的確是可能的。但我們仍然不可能為電腦設定總體的自保程式。或這麽說，總體上的自保根本不是設定出來的，對有機體來說，自保是構成性的，是有機體的定義的一部份，不需要設定。而對電腦來說就不是這樣，自保不是它的一部份，所謂給電腦設定自保的程式，指的本來就是設定一系列缺電了就設法充電之類的程式。
我們也授權以承認，按照我們今天所理解的欲望，電腦人不會產生這樣的東西。那我們能不能重新定義欲望？我們不可能單單重新定義欲望，為此，我們需要重新定義感知、感情、理解、理想、精神，一句話，我們需要重新定義人。
我並不是在主張有一種亙古不變的人性。今人的人性不是一萬年前智人的人性。在那時的智人看來，今人的人性已經面目全非。不過，人性的改變和技術造就的改變不是同種型別的改變——人性的改變不是設計出來的。（歷史上不止一次有政治家和思想家企圖透過設計來改變人性，但他們無一例外都失敗了。）簡單說，人性的改變坐落在人性的連續性之中，這樣的改變我們稱作生長。對這種連續性的變化，調整定義是有意義的，但對人工智慧，幹嗎非要用它來重新定義人呢？
我不怎麽擔心電腦會變成人，變成一種超級人類，然後來統治人。但我倒相信，人工智慧技術會大規模地改變現有的人類，最後變得面目皆非。
【攻殼機動隊】劇照
技術當然不是今天才有的。不過，今天的技術不同於以往的技術。粗略說來，人類技術經歷了三個大階段。最初，技術是工匠們琢磨出來的。後來，十八、十九世紀以來，技術是科學技術——現代技術不再是匠人摸索出來的，而是基於科學原理發明出來的。工業革命依賴的是這樣的技術。
人工智慧代表的是第三波技術發展。這一波與前兩波的主要區別在於它做的是「腦力勞動」。人的能力可以粗分為體力和腦力。工業革命引入了一系列新能源、新機器，它們把很多體力勞動接過去了。人工智慧將把很多腦力勞動接過去。人們預料，人工智慧將比工業革命給社會帶來更劇烈的改變。因為體力本來就不是人的特長，腦力才是，柏拉圖在【普羅泰戈拉篇】裏就說過，人沒有翅膀四足尖牙，勝過動物的只在於才智。要是腦力也用不著人了，人還能幹什麽呢？
腦力和體力的區分有時有點兒誤導。剛才我說，智慧並不只在腦力裏，我們一投手一投足，動手動腳，都體現智慧。這意味著，所謂腦力勞動不只是腦子的勞動，人類的一切活動，都有腦力在內。結果，人工智慧有可能把幾乎所有勞動都接過去。
人類發明各種技術，本來就因為技術可以代替人類勞動。但也有人擔心，人工智慧技術只有少數精英能夠掌握，大多數人參與不到其中。一方面，他們的勞動將越來越「不值錢」。另一方面，他們的生活將越來越依賴於少數精英的發明。社會結構因此會發生巨大變化，只有少數人是有用的，大多數人變成了「無用階級」。
我們也許覺得這是杞人憂天，不勞動了，還可以玩嘛。我們可以把世上的事情分成我愛幹的和我不愛幹的，有了電腦人，我們就可以把我們不愛幹的事情派他去幹，然後把時間省下來做我們愛幹的那些事，比如說打球、聽音樂會、談戀愛。談戀愛我就不派電腦人去，這麽好的事派它去幹嗎啊？
我們是可以區分哪些事是我們不得不做，哪些事是我們樂意做的，但是這種區分挺有限的。比如說帶孩子，換尿布不愛幹，逗孩子笑愛幹。但你不給孩子換尿布，逗孩子玩就沒那麽樂。好玩的事情怎麽跟有點兒苦有點兒累的事情連在一起，我們弄不大清楚，但我們大致知道，你為孩子付出了很多辛苦，你跟他的相處就會有一些不同的品質。等到把不愛幹的事情都交給機器人以後，剩下的愛幹的事情的性質也會改變，你作為一個人的品質總體上也會改變。
我們勞作得很辛苦，難免有時會希望別人做這些工作我們來享受勞動成果。不過，如伯納德·威廉士指出的，人並不是只要享受的生物，我們不僅希望獲得結果，我們也希望這些結果是親力親為的結果。馬克思認為，勞動創造了人，勞動是人的基本需求。勞動與享受割裂開來，勞動由機器完成，人單單享受結果，人的定義就改變了。
我們實際上正在經歷這個過程。我們對世界的感知越來越集中到結果這一端。我們住在樓房裏，不知道樓房是怎樣蓋起來的，開啟餐盒，裏面是大米飯，但我們沒見過水稻長在地裏是什麽樣子的。我們透過各種螢幕看到海底世界、太空、非洲的動物，世界各地的騷亂，但沒有哪樣事情是我們親歷的，沒有哪樣東西是我們親力親為的結果。不斷進步的技術把人類勞動一項一項接過去了，我們不必經歷勞動的艱辛就能夠享受勞動的成果，這讓技術樂觀主義者歡欣鼓舞——技術把苦活累活難活都幹了，我們享受成果，有何不好？但事情還有另一面，那就是，我們只享受結果，不再能感知產生結果的過程。僅僅感受結果是薄瘠的感受，而我們的感受正在變得越來越薄。
現在哲學界討論人類智慧和人工智慧的區別，很大一部份集中在人具有意識這一點上，而所謂意識，被說成是主觀體驗，是跟什麽東西都不相連的qualia。人不再是欲望、勞作和結果之間的聯系，人變成VR遊戲室裏一堆主觀體驗，當然，人的定義就變掉了。
人工智慧發展起來，不僅社會結構會發生很大變化，人自身也會發生很大變化。技術不只是我們可加以利用的東西，技術改變我們自身。有一些改變是明顯的。我們習慣了GPS定位，我們的方位感就可能退化。等我們習慣了讓電子裝置來采集關於自己身體的數據，我們對自己身體的感知很可能變得越來越遲鈍。技術改變我們與世界相處的方式，隨著與世界相處方式的改變，我們自己也在改變。
我不認為人工智慧會演變為一種新人類，但人工智慧倒是很可能把人變成新人類。
技術進步會改善人類生活，同時使未來面對更大風險。可我說的好像都是風險那一面。這並不奇怪。有人把知識人的任務設想為指導社會發展。我倒覺得，知識人從來沒有成功地指導過社會的發展。社會自行發展。知識人的任務與其說是指導社會，毋寧說在於指出這個發展過程中的危險。是啊，社會自行發展，這可不一定是朝著良好的方向發展。
海德格爾就是這樣看的，他說，技術是這個時代的存在天命，技術發展，你喜歡也罷不喜歡也罷，技術仍將征服世界。是啊，人能夠控制其他人，控制異端思想，唯獨控制不了技術的發展。如果有一天，人類只享受結果，產生的結果的過程都交給人工智慧去施行了，真到了心想事成那一天，那麽我們就不得不說，技術主宰了人。
借助技術，我們把過程和結果分離開來，我們只要得到結果就好了。這一點，在人工智慧那裏最為突出。
去年，AlphaGo戰勝了李世石。有意思的不是人工智慧贏了——這只是早晚的事兒。我覺得最有意思的是，AlphaGo的設計者並不知道它是靠什麽理路贏下來的。我跟圍棋高手下棋，不論他多高，我們兩個都是在用同樣的「圍棋語言」思考。而AlphaGo依靠的根本不是我們的思維方式，而是一種我們無法理解的思維方式——如果還叫它思維的話。
人們從各個角度思考人工智慧，怎麽提高人工智慧的水平，人工智慧會怎樣改變我們的社會，改變我們自己，等等。我自己的興趣則在另外一個方面。
我更關心的是我們已有的東西，想要更恰當地理解我們已有的東西。比如，透過對人工智慧的了解，更恰當地理解人類自己的智慧。按現在流行的看法，人工智慧的發展讓我們看到，智慧的本質是計算。我的看法正相反，透過圍棋程式的發展，我們能夠看得更加清楚，人類智慧的本質並不是計算，而是對話，是互相理解。下棋是一種對話——圍棋也叫「手談」。實際上，人的所有智慧都是一種對話，哪怕我是一個人在思考。我獨自證明了費馬大定理，最後一刻我說，我明白了；我明白了什麽？我看到了過程與結論之間的聯系。因此，我明白了，我也可以讓別人明白。然而，我們並不知道在AlphaGo那裏，過程和結論之間是個什麽聯系。在我看，這才是人類智慧和人工智慧的本質區別。
本文為2017年6月為玉河夜話「人工智慧」研討會準備的發言稿
陳嘉映｜著，文章選自【走出唯一真理觀】，上海文藝出版社，2020-05
