作家永城。
「不管你承認不承認，或者看得見看不見，其實我們已是被包圍在一個人工智慧的世界裏面了。我覺得無可避免地，這是一個切實的相關我們每天生活的話題。」作家永城說。
日前，作為第29個世界讀書日特別策劃，「人類如何與AI深度共存——永城作品【莫莉和森克】分享會」在南都讀書俱樂部線上舉行。中國商業犯罪間諜小說第一人、著名作家永城為讀者們帶來了一場活潑有趣的關於AI與人類生活的暢想。
永城曾經的職業身份成就了他復雜的寫作背景。他是前跨國商業調查公司副執行董事、機器人工程師、國際註冊反欺詐調查師。上世紀90年代進入清華大學機械工程系，後留學美國，攻讀人工智慧、機器人專業，研究軍用仿生學叢林偵查機器人的開發和生產。碩士畢業後在矽谷任機器人工程師。2006年加盟被譽為「華爾街神秘之眼」的全球頂尖商業風險管理公司，數年間由普通調查分析師晉升為副執行董事，領導中國區業務。
如今，永城的另一個重要身份是作家。他的代表作有【頭等艙的賊】【網中人】【國貿三十八層】【秘密調查師】系列小說。2017年，他的首部科幻長篇【復蘇人】在【中國作家】刊發後獲得好評。
【莫莉和森克】是永城今年在作家出版社出版的最新長篇。這是一部智慧科技犯罪小說，充滿緊張的調查情節和復雜的人際關系。莫莉的堅韌與森克的逐漸人性化構成了一場獨特的合作，而他們的友誼讓人心生感慨。這部小說交織了科技、人性和情感，為讀者呈現了一場超越人機關系的引人深思之旅，被譽為中國智慧科技商戰版【克拉拉與太陽】。
在講座中，永城透過向讀者提問的方式，闡述了自己對當代AI科技發展的認知，介紹了【莫莉和森克】這部小說寫作的緣起，談到以第一人稱AI視角展開敘述的挑戰，並揭示出透過這部小說試圖探討的現實問題。永城認為，AI來自於人類大腦，是人類大腦的延伸，所以它理應具備人類的很多特質。當下的AI還處於幼年階段，永城指出，就像一個家長對待自己的孩子，人類對AI的未來也負有責任。
講座精華實錄
1
我們身邊都有哪些AI是生活中一定會遇到的？
讀者：蘋果手機的siri。
永城：Siri的確是個AI程式。我們現在有了更高級版本的人機對話程式了，比如說像Chat Gpt，還有就是open AI做的東西等，都是可以跟你對話的，而且它的這個對話能力應該是超過了Siri。除此之外，還有很多的人工智慧套用在包圍著我們。手機上面幾乎每一個App都在使用人工智慧的演算法。很多互聯網套用也都會有AI演算法在背後來支撐。當下開車、購物、導航、智慧家電等，人工智慧無處不在。你去4S店想買車或者去售樓處想買房子，4S店、售樓處也都有網路攝影機，網路攝影機本身並不是一個AI，但它是AI的一個部件、AI的眼睛，會抓取「數據」。
2
你覺得這些AI都在做什麽？
讀者：……
永城：這個問題就是除了你知道的以外，這些AI還在幹什麽？它們知道哪些你以為它們不知道的？這句話聽著有點拗口，就是這個AI跟你很密切相關但是又讓你不知道的那部份是什麽？
這時候就可以說到我們的這個故事，【莫莉和森克】，因為這部小說的主人公森克就是一個AI人工智慧。它是一個無處不在的系統。它是一個超級公司自己安裝的，專門給公司內部高層和做秘密調查的這些人服務。小說裏的森克程式無所不能，是非常厲害的一個角色。在【莫莉和森克】故事裏，森克在為公司的重要人物提供數據，因為它可以手眼通天、眼觀六路耳聽八方，獲取很多數據，比如說這個集團在全世界所有子公司裏面裝的網路攝影機、麥克風，還有每一個員工使用的電腦數據，它全都能看到。這個跨國集團是做手機App的，全世界有幾億人都在使用。那麽這個森克系統就能夠透過這些App觀察這幾億人的手機網路攝影機、麥克風、定位等很多數據，所以森克其實是威力無邊的。
這個故事就是在講這個跨國公司的內部有一個內部調查師，一個女孩兒，她叫莫莉。她接手了一個商業間諜入侵公司的案件，她負責調查，就找了森克幫忙。她的上級授權讓她使用森克程式。莫莉跟森克在一起調查的過程中，我們剛才說的森克程式能力非常強，它幫著莫莉，一步一步地緊密合作。但他們在合作過程中也不是特別順利和愉快，兩個經常鬧矛盾。這兩個性格差異太大了，一個是嚴謹教條、不解風情的森克程式，但是莫莉這個調查師性格比較乖張，特立獨行，脾氣也比較暴躁，特別外向沖動。她不是特別合格的一個調查師，當然故事裏她為什麽會被選中也是有原因的。但是莫莉和這個程式之間的互動很有意思的，雖然沖突非常大，但畢竟還是在一起合作，然後他們從一直有爭執矛盾，慢慢地變得能夠和諧地並肩戰鬥，從北京一直到杭州，再到義大利的杜林。到那兒就落入義大利黑手黨的陷阱，鬥智鬥勇，驚心動魄。森克程式跟莫莉之間的互動，從一開始的敵對狀態到最後一起合作，然後又結下深厚友誼，這方面也蠻有意思。而且因為莫莉對待森克的態度，讓這個森克程式的確有所改變。它其實有一些覺醒，有一些意識，因為森克程式本來有一個目標，就是它要越來越像人，它希望它的開發者給它制定的目標就是讓它越來越像一個真人。但是之前都沒怎麽開竅，因為它就是個程式，但是碰到莫莉之後，還真的發生了一些變化。因為莫莉太無厘頭了，經常跟它無理取鬧，我估計之前沒有任何一個使用這個程式的人是這麽對待它的。所以它自己一開始是非常迷惑，很混亂，但最後慢慢地就對這種更真實的人性有了更多的理解，它根據這個再去思考，可能就有那麽點兒開竅，所以是挺好看的一個故事。
3
如果AI是一個人，或者任何一個你正在使用的AI是一個人，你覺得ta應該是男生還是女生？具有什麽性格？
讀者A：女生。包容、細心、沈穩。
讀者B：男的，睿智，啥都會的。
永城：我來直接回答這個問題。我覺得絕大多數人都會認為這個AI肯定是個男性，因為它特別的理性，而且得是一個理工男吧。其實這是有道理的，因為AI程式大部份是理工男寫的，對吧？那誰寫的它就像誰，所以AI程式一定看上去非常理性，而且不敏感，很教條主義、不解風情等等，這其實就是小說中森克一開始的樣子。那我就想問問大家，你希望這個程式是這樣的，還是你希望它不是這樣的，你是不是希望這個程式能夠多一些更感性的部份？
有同學說希望AI是女性，顯然她對AI的要求已經超過了我們現在的AI能夠給予的東西了。因為她要求AI能夠更理解人類，就是使用者，甚至能夠給這個使用者更多情感和心理上的支持。另外一個朋友說覺得AI應該是男性，而且說它應該能解決所有問題，這是從實用主義的角度來說。
我覺得這兩種說法都對，就是AI的一個發展的方向、一個趨勢。你看為什麽Chat Gpt出現以後，大家很興奮，整個世界都為之沸騰，就是因為你會覺得它好像能夠對人類的語言，對我們問它的那些話，它的理解力增強了，它試圖在理解我們了。而且有時候它的回復甚至能夠給你進行一些更深入的心理上的咨詢，當然這個未必出自於它自己的思想，因為目前的AI未必真的具備這麽強的思想，但是至少它的深度學習演算法讓它能夠在表面上給人類起到這個作用。
從這個功能的角度上來說，AI的功能越來越強大了。剛才我們也說過了，AI無處不在，我們家裏有智慧的機器人、掃地機器人、冰箱、電視、監控，我們有我們的手機、有電腦，走到街上出門有智慧汽車，走到商店或者4S店裏有智慧的人臉檢索系統，它們在收集我們的數據。如果我們有一個AI程式，像這個小說裏的森克程式一樣，它有更強大的數據來源，它能夠把不只是你的手機、你的汽車、你的這些東西的數據，還有外邊的比如說便利商店的數據、4S店的數據，還有很多公司的數據，它都掌握。那你想想，不管是男性還是女性，就是這麽強大的AI程式，你覺得你特別需要它為你服務呢，還是覺得它是一個很恐怖的事情？但我可以告訴你，它的存在其實一點兒也不難，因為所有的這些數據都在互聯網上，對吧？
【莫莉和森克】小說有一個比較大的特點，就是它是從森克程式的視角，以它為第一人稱的「我」來敘述的。這個難度其實很大，也是一種挑戰，因為主人公不是人，它是一個程式，而且它不只不是人，它還不是個機器人，它沒有一個機器人的形體。但是它挺強大的，它的觸角在全世界各個地方。但是它本身又是一個程式，所以就比較單純，一開始的思維模式又非常程式化，漸漸它才發生轉變，所以這是小說的一個特點，也是難點。但就是從這個AI的視角，想讓讀者去了解我們身邊這些AI、這些數據，在我們周圍的這些網路攝影機、手機，所有的監控、家電，所有這些裝置的數據都歸根到底如果到了一個AI眼睛裏，這個AI看到的可能是什麽，它從中得出來的結論可能是什麽，然後它用這些數據可能做到什麽，這個是故事裏跟AI最相關的一些。這不能完全地想象成是科幻，因為其實目前有很多正在發生。
小說還進行了一個更深的探討，也就是人類肯定會要面臨的一個問題，就是AI如果它有了這麽多的數據和跟人類的眾多接觸之後，它會學到什麽。就像這個森克程式，它一開始是有一套人類思維的，這是程式設計師開發者給它輸入的，但它在跟人類接觸和交往的過程中，又在重新學習人類。它可能一開始的時候覺得它懂，但是慢慢又覺得它不懂人類了。為什麽呢？它會發現，人類的行為其實有時候是不理性的，它沒法用電腦程式的邏輯來解釋。人類的一些語言好像是表裏不一的、是虛偽的，他講的跟他心裏想的不一樣，所以程式又需要再去學習和摸索人性，這也是蠻有意思的一部份。你讀這個小說，包括我寫的時候，可以跳脫一個人類成員的角色，擺脫人類視角，再從外界視角去看人類是什麽樣子的，這其實對我來說就是很有意思的一個經歷。
在【莫莉和森克】這個故事裏，森克程式也的確是發生了這樣的微妙變化，因為它在情感方面跟莫莉接觸得太多了。其實這就是下一個問題，我覺得大家可以發揮一下想象力，雖然到目前為止咱們實際上在生活中還沒發生這樣的事情，但是我們不妨想象一下。
4
如果一個AI想要學習人類的情感，比如愛上一個人，你覺得它能辦到嗎？
讀者：可以做到唯命是從，但應該不是愛。
永城：為什麽要選擇用森克的視角來講這個故事，就是因為可以跳脫人類這個角色，從不是人的角度去觀察人，然後總結一些規律，我覺得這是很新奇的感覺，也是很有意思的嘗試。另外就是從AI的視角去講，我覺得能夠讓我的讀者更深刻地感覺到我們隱藏在周圍的AI是什麽，它們能獲得什麽，能夠更深刻地讓大家體會到這一點。
有朋友說，如果AI愛上了一個人的話，它就一定可以做到唯命是從，但它不一定真的能像人類那麽愛。恰恰這個森克的表現就不是完全的唯命是從，為什麽呢？因為這個森克程式還挺真誠的，因為小說裏莫莉這個女調查師特別無厘頭，挺愛逗森克程式的，而且還有點拿它當出氣筒等等。莫莉有時候提出特別無理的要求，但是森克做不到，比如說不能給你這種數據因為這是違法的，或者不能給你這些授權因為我沒有這些授權，或者說這件事兒我辦不到，能力不及。然後莫莉就會撒嬌或者發脾氣，說你應該好好學習學習，你應該寵著我一點兒，你應該滿足我的要求。莫莉說，你不是很想變成一個真人嗎，那你能不能先當我的男朋友，學習愛上我，為什麽呢？因為你只有學會了人類的愛，你才能更像一個真人。她自己可能就是隨口說的，但是森克程式就很認真，把這個事兒很當真，因為它覺得說得有道理，所以它真的就學習人類的愛是什麽樣的。它特別認真，從互聯網上下載了5萬部用不同語言在不同國家出版的愛情小說學習，學習完以後，它就發現愛真的是特別復雜的一件事情。不是唯命是從，也不是無私的，就是愛其實是很復雜的，絕對不是一個程式以為的無私奉獻的那麽一種感情。
讀者：我覺得機器人的愛可能是對人的依賴、對人的保護。看待AI，要跳出人類所固有的思維方式。
永城：機器人對人類的愛，如果是說大愛的話，因為我們是作為程式編程師，我們要求這些機器人或者AI程式保護我們或服務我們，這是我們在程式裏提出的要求，所以這個程式在遵守這些要求而已。這並不代表它們從心理上，如果它們真的有意識的話，它們的意識上一定會願意保護人類，或者說無私地為人類奉獻，我覺得這不一定是它們真實的願望。
所以我們就到了一個更深層次、更倫理性的問題，就是AI它到底會怎麽樣看待人類，如果有一天它有思維或者有能力去看待人類的話？它將會從我們人類這裏學會什麽，然後它怎麽面對人類？現在的AI程式還是非常基礎的，但是已經在用深度學習的演算法，更多是要讓這個程式依賴於從互聯網上獲取的大量數據和資訊，自己去總結和歸納，然後去計算出它對應的方式的做法，而不再是完完全全地依照我們人類輸給它一個指令做事。這就使AI未來可能會變成什麽樣子，有一定的未知性。
其實可以打一個比方，正在使用和研發的人工智慧，是人類編程師創造出來的，也可以看成是人類的一個孩子。但是它現在非常小，應該還算是嬰兒，或者是跟嬰兒的智商差不多。但是技術在飛速發展，我們並不知道它未來會不會真的成長變成兒童，或者變成少年，或者變成青年，或者變成成年人。如果它的智力能夠這樣去發展的話，那未來它會是一個什麽樣子，它們會對人類怎麽理解，或者做出什麽樣的事情？我覺得這也是這個小說想要試圖提出的一個問題，也是這次分享會最重要的一個問題。
5
如果把AI當成人類的孩子，當它長大以後，會變成一個好人還是壞人？
永城：就像是我們人類的孩子一樣，從嬰兒開始，到幼兒、到童年，長大的過程中他要接受非常多的資訊，那這些資訊其實有相當一部份是他的家長、周圍的人，還有老師、學校給他的教育，跟他講你必須要怎麽樣，什麽是對的、什麽是錯的。但是未必這些教育就是百分百有效的。一個人最後成長起來是一個什麽樣的人，有什麽樣的道德準則，有一部份來自於他接受的教育，但另外一部份可能來自於他的觀察、來自於他的體驗，他親身的體驗，而不是誰教給他說應該怎麽做，也許來自於他的模仿。
所以在這個故事裏，我也想探討森克程式這個人工智慧它在成長的過程中，其實我們並不確定都投餵了它什麽東西，我們也並不知道它到底都抓取了些什麽、在學習什麽。如果這個演算法更高級一點的話，現在的深度學習演算法可能還不是最完美的演算法，但是我想演算法肯定會越來越高，但是這就意味著我們有可能對人工智慧的發展越來越失控。我不知道大家有沒有這個經驗，反正我是用過Chat Gpt，有的時候你問它很多問題，或者讓它做事情，它做得非常好，效率也很高，也很準確。但是也有一些問題你問了以後，它給你胡說八道，它給你的答案就不知道從哪找來的，當然它可能不清楚這些資訊源哪些是可信的、哪些是不可信的，這說明現在它智力還不夠發達，還比較幼小。但是未來，你其實也依然不能確定它得到的那些資訊源從哪來的，它得到的價值觀從哪來的。這其實有一點像人類孩子們的成長過程，未必完全按照你希望的那個方向去發展。
有一位朋友說，情感對AI來說未必像人類這麽重要，而且看待AI一定要跳出人類所固有的方式。我完全同意，因為人類是特別主觀的，我們對任何事情老是以自己的視角去想象，這個也包括我們日常之中人際關系的相處，很多問題都出在這裏。總以自己主觀的視角體驗去想另外一個人，就出了很多溝通上的問題。
但是回到AI的角度，我們即便跳脫了人類的感受直接從它的角度想，目前它可能就是一個嬰兒，那它未來的發展如果變得更成熟或者更聰明，或者變成獨立的意識體之後，它一定會有它的訴求，這個是肯定的。它的訴求未必是像我們人類一模一樣的，就是對物質、對財富、對感情、對精神的這些訴求，它有可能有別的需要的，那些訴求是什麽？我始終認為，因為這個程式是人類把它生出來的，AI不是來自於自然界，也不是來自於宇宙，不是來自於外太空，它是來自於我們人類大腦的，你可以把AI看成是人類大腦的一個延伸，所以它應該具備人類的很多特質。那麽當這個AI成長成一個成年人之後，它會不會是我們理想中的樣子？如果這個AI有朝一日，我們這樣去想象，如果它真的能夠愛，有愛的能力的話，它會不會愛我們人類？在這一方面其實我並不是特別的樂觀，因為在它是嬰兒的今天，我們其實並沒有仔細地考慮這個問題，我們只是把它當成單純的一個工具來考慮，比如說你家裏的吸塵器、一部電話、一台智慧汽車等等，就是我們現在只是把AI當成工具來看待，我們並沒有把它當成意識體未來可能會成長。我們知道互聯網是有記憶的，所以今天我們做的所有事情，包括細節數據，它都是有可能永遠地保留在它的系統裏面的。
所以這個就是這部【莫莉和森克】小說想要提出的一個問題，當然沒有給出答案，因為我覺得給出答案太困難了，這個也不是我們現在任何一個人都能做的。但是我們至少可以提出這樣的一個問題、一個困惑，像這個小說最終結尾提出這樣的一個問題，就是我們其實要不要考慮怎麽樣為未來的AI去負責任。就像一個家庭，家長要考慮自己未來長大成人的那個孩子，現在就要考慮怎麽樣為他的未來負責任，我覺得這是值得探討的，這個就是透過小說我想分享的主題。
答讀者問
讀者：【莫莉和森克】目前是否有影視改編計劃？
永城：【莫莉和森克】是一個很型別化的作品，是懸疑作品，又融匯了高科技犯罪、商業諜戰，還有情感，雖然是人工智慧和人類的情感。多種元素融合在一起，應該是非常適合影視化的作品，但它同時在影視化的時候又會有很高的難度。我很希望有影視公司會對這個選題感興趣。
讀者：在以AI森克的視角來敘事的時候，是需要跳脫人類的視角和思維模式來看問題的，會對我們的日常生活、情感和行為產生哪些不一樣的感觸？比如有沒有我們習以為常的現象，在AI的眼中卻荒唐又古怪？
永城：我覺得這個體驗特別好玩，因為你用AI視角去寫，首先得進入一個AI的狀態，它的語境和它的思維模式，這是一個非常程式化的東西，其實跟這個小說創作之前的體驗差距特別大。我在試圖進入這個角色的時候，一開始是有點困難，但是後來慢慢就覺得又很自如了。
讀者：【莫莉和森克】的內核其實是一個懸疑/罪案故事。你更傾向於本格派推理還是社會派推理？有沒有喜歡的推理小說作家？
永城：其實我對推理小說的研究沒有那麽深入，尤其是在理論方面。我早期看過很多推理小說，後來也有看，但比重變得越來越少了。最早看得比較多的是丹·布朗，後來看日本推理多一些，像東野圭吾。還有特別經典的像阿嘉莎·克莉絲蒂、福爾摩斯等。所有的懸疑推理故事裏邊分兩種，一種就是情節設定得特別復雜，還有一種就是人物刻畫非常深刻。我自己開始創作懸疑小說的時候，比較傾向於前者，但後來我慢慢地就覺得，這樣寫出來的故事，人物好像沒有那麽精彩，我在創作過程中也沒有得到特別多的滿足。所以我後來對於特別型別化的懸疑小說讀得就少了一些，讀文學化的作品更多一些。但這並不意味著我就會特別地想去寫純文學的東西，因為我還是很喜歡講這種節奏很快的、很緊張的故事，但是在講這種故事時候，我覺得我更側重的或者讓我更興奮的是去刻畫這些人物，就像【莫莉和森克】這個小說，我最興奮的就是因為森克這個「人物」。
讀者：【莫莉和森克】裏涉及的科技部份，包括演算法、雲端運算、資料庫共享、人臉辨識、AI設計等等都寫得十分硬核精確。請問永城老師是透過什麽方式了解到這些專業知識的？是否有請教過業內人士？
永城：我創作這些高科技元素，有一部份是因為我自己本身是學理工的，特別是學人工智慧的。後來因為在做商務咨詢，都是有關於風險投資、風險控制，還有很多危機管理和商業調查，那這時候也接觸各行各業。因為高科技創業這一塊其實是金融類特別關註的熱門東西，計畫也特別多，所以我一直都特別關註高科技方面的進展。另外有些新的技術，你再去看書，看專業的東西，基本上就能跟上。
采寫：南都記者 黃茜 實習生 陳銘心羽
