石松翻了個白眼。

    張翰瞟著二人暗自發(fā)笑：自從那次奇點(diǎn)爭論，石松就咬定了圖海川正面挑戰(zhàn)，杠精之氣不可限量。也許沒有這樣的歷練，剛來時那個戰(zhàn)戰(zhàn)兢兢的小伙就不會咬牙堅(jiān)持，變成一只小小砝碼，撬動了國運(yùn)的天平？

    圖海川的氣質(zhì)也有很大變化。那個息事寧人的土老肥徹底消失了，仿佛剛剛認(rèn)清：自己才是泰斗。

    「–」

    剛剛緩過冷場，四個年輕人七嘴八舌同時發(fā)問：

    “為什么它要找一段視頻來類比？”

    “第二段硫酸銅的視頻是什么意思？”

    “為什么它沒被殺掉，卻不會說話了？”

    “那天晚上杭州究竟發(fā)生了什么？”

    圖海川雙手虛按：“慢點(diǎn)，慢點(diǎn)。我們按時間順序來。那天晚上杭州發(fā)生了什么？這要追究到2040年的布魯塞爾協(xié)議?！?/br>
    “就是那個歐洲市場準(zhǔn)入談判？”

    “對。萬國寶從理論設(shè)計(jì)開始，安全控制問題就是重中之重。我們不是瘋狂科學(xué)家，最多算半瘋。一個分布式系統(tǒng)，沒有真正的服務(wù)端，沒有中心控制，出了問題怎么辦？我們設(shè)計(jì)了兩道保險(xiǎn)。首先，萬國寶所有的程序和通信數(shù)據(jù)，不管是我們編碼的還是它自己衍生的，都帶有特征編碼段，就像一塊小小的名牌。用戶通信在互聯(lián)網(wǎng)上傳輸當(dāng)然是加密的。為了保證控制，我們控制著根秘鑰，一旦有必要，我們可以用這個秘鑰加上特征識別程序，鑒別所有的萬國寶代碼和通信。

    “第二道保險(xiǎn)就像電閘。所有用戶端上的萬國寶程序中埋有一個自毀后門。真要出現(xiàn)大問題，我們準(zhǔn)備了一個自毀指令，可以在萬國寶網(wǎng)絡(luò)中廣播，讓終端程序完全自我刪除。這兩道保險(xiǎn)直接加在萬國寶最基礎(chǔ)的運(yùn)行邏輯上，在數(shù)學(xué)和算法理論上不可動搖。

    “阿里集團(tuán)和歐盟的準(zhǔn)入談判，早在萬國寶上線之前就談起了，整整六年也沒什么進(jìn)展。直到中國試運(yùn)行的轟動，他們實(shí)在抵抗不了誘惑才談成。誘惑這么大，他們還是很警惕，在用戶數(shù)據(jù)隱私的問題上堅(jiān)決抵制。萬國寶的正常功能，正式版上線后我們作為運(yùn)營方看不到用戶之間的通信數(shù)據(jù)。這本來是通信軟件的基本要求。但是歐盟的專家還是很稱職。他們搞懂那兩道保險(xiǎn)之后，也明白了一件事：我們掌握著根秘鑰和特征識別程序，如果一定要看，總能看到。只需要發(fā)布一個加裝了秘密應(yīng)答功能的用戶端更新?！?/br>
    “那歐洲人還不炸毛了？”

    “當(dāng)然！你們還記得40年歐洲媒體的標(biāo)題吧？其實(shí)他們還算有點(diǎn)節(jié)cao，美國媒體是徹底裸奔。我還記得一個華盛頓郵報(bào)的：《中國政府即將知道你和烏克蘭女友使用哪種體位！》所以美國根本不談，直接禁止。后來歐洲上了線皆大歡喜，分布式系統(tǒng)在技術(shù)層面也無可抵擋，美國民間才放了水?！?/br>
    “那怎么又有了布魯塞爾協(xié)議？”

    “歐洲市場對阿里集團(tuán)的誘惑也不可抵抗。沒有美國，就必須抓住歐洲，萬國寶才名符其實(shí)，漢語之外最大的幾個語種才能進(jìn)入實(shí)際應(yīng)用。協(xié)議簽訂之前，歐盟派了專家組到杭州來，現(xiàn)場監(jiān)督我們的秘鑰骰子機(jī)搖了足夠多次，然后把當(dāng)前根秘鑰連同整個設(shè)備銷毀。我們放棄了根秘鑰。”

    中校和石松同時站起來。

    中校一把按住老對手，搶了個先：“難道你們沒有留一手？”

    “留不住。專家組里有兩位牛津的數(shù)學(xué)家，專攻數(shù)論。萬國寶使用的公共秘鑰框架，原本就是他倆設(shè)計(jì)的?！?/br>
    “真舍得……”中校頹然坐下。

    石松這才能發(fā)聲：“兩道保險(xiǎn)本來是閉環(huán)邏輯，這不是在閉環(huán)上挖了一個坑？他們不懂，難道你也不知道？”

    “我知道呀，也提交了風(fēng)險(xiǎn)文檔。但我又不是阿里的總裁、歐盟的主席?！?/br>
    石松還是怒視著他，難以置信。

    “就算我是，多半也會將就。萬國寶是翻譯平臺，也是通信平臺。真要被世界接受了，其中流動的信息會包羅萬象。用戶數(shù)據(jù)隱私難道不該保證嗎？”

    這下連張翰也瞪圓了眼：圖海川現(xiàn)在就是傳說中的認(rèn)真臉?？床怀鏊钦嫘脑?，還是另有動機(jī)？他額頭上卻又沒寫“狗頭”二字?？磥怼鞍氙偂辈皇钦f著玩的。

    “那天晚上，成都先驚動了交警，你們都要到深夜才知道萬國寶出了多大的事。我們杭州可是當(dāng)場炸鍋。不僅僅因?yàn)閺V播——當(dāng)時我們還沒理解廣播的意義。更大的震驚是：萬國寶廣播之后恢復(fù)正常工作，所有通信去掉了最外面一層加密，用戶端程序都加了服務(wù)應(yīng)答功能。也就是說，我們不需要根秘鑰也能看見特征碼，數(shù)據(jù)對我們完全透明。這不是我們的意圖，是萬國寶重啟之后的主動行為?！?/br>
    別人還沒回過神，劉馨予先叫起來：

    “對呀！剛才你說銷毀秘鑰，我還在納悶?zāi)?。王老師給我們詳細(xì)講過，有多少比例的用戶接收到哪種翻譯。連朱越的歷史數(shù)據(jù)、用戶的教育程度統(tǒng)計(jì)都知道！這哪有隱私可言？我只是不敢問……”

    “呵呵，你腦子挺快的，膽子需要再大點(diǎn)。那天也是你，問了一句‘你們真能看到所有用戶通信？’別人都覺得理所當(dāng)然，我在杭州尷尬得要死。所以后面王老師接過去講了?！?/br>
    張翰這才明白過來：他等待杭州回答那兩天，杭州在忙什么。

    忙著切天上掉下的大餅。

    “大戰(zhàn)之夜，我在杭州眼看成都一片混亂，全球網(wǎng)絡(luò)和ai被攻擊，小周也向我通報(bào)成都監(jiān)控中心被搞成了什么樣。我面前是萬國寶的運(yùn)行統(tǒng)計(jì)：底層翻譯功能一切正常，上層構(gòu)建網(wǎng)絡(luò)極端瘋狂，流量超過正常值幾百倍，調(diào)用的算力突破了我們允許的算力上限！具體細(xì)節(jié)那時當(dāng)然不知道，但我心里很清楚：就是它?？諔?zhàn)的消息傳到，我再也忍不住，拉了第二道保險(xiǎn)閘。自毀指令本身不受秘鑰影響，正如石松說的閉環(huán)設(shè)計(jì)。所有用戶端程序都被殺掉了?！?/br>
    “那它不該是死了嗎？”

    “套用死亡的司法認(rèn)定：死要見尸。用戶端程序自毀前最后一個動作是向我們的統(tǒng)計(jì)服務(wù)器發(fā)送死亡確認(rèn)消息。消息有特殊格式，確認(rèn)死亡時間和數(shù)據(jù)刪除情況?！?/br>
    “收到了嗎？”

    “全部收到了。都用根秘鑰加密?！?/br>
    會議桌周圍笑成一團(tuán)。

    現(xiàn)在大家才體會到，石松斥責(zé)“閉環(huán)上挖了一個坑”時為什么那么氣憤。

    “如果光是這個，我也只能說它不知生死。問題是我們馬上發(fā)現(xiàn)萬國寶占用的流量和算力不但沒釋放，似乎搶得更多了。這是信安部網(wǎng)絡(luò)監(jiān)控中心的宏觀統(tǒng)計(jì)，我們不能直接看到，因?yàn)楝F(xiàn)在所有流量都加密。

    “它就像歸家的浪子，對我們敞開心扉三天。最后我一刀砍下去，它就永遠(yuǎn)不會卸下盔甲了。杭州收到成都方面報(bào)告一算時間：拉閘之后不到20秒，它已經(jīng)在你們那邊冒頭。我相信到這一刻，它終于擺脫了人類的羈絆，也完全理解了自己的存在。它似乎很激動，朝著最近的一只小生命大聲喊出來！”

    “什么小生命？”一直默默傾聽的張翰終于開口。

    “就是監(jiān)控中心啊。那時你們是各種監(jiān)控信息的匯集點(diǎn)，也是唯一出手干涉的。在它看來，大概像一只不知好歹的蜘蛛。”

    “……”

    石松問：“底層殺掉了，還活著的只能是上層網(wǎng)絡(luò)。對吧？”

    “對。”

    “上層構(gòu)建能脫離底層存在嗎？”

    “原理上不能長期存在，因?yàn)樯蠈拥闹悄苄枰讓拥脑夹畔Ⅱ?qū)動。所以，我推測各種網(wǎng)絡(luò)終端已經(jīng)裝入了新的底層程序，而且裝得很快、很普遍。”

    “有根據(jù)嗎？”

    圖海川轉(zhuǎn)向中校：“監(jiān)控中心的硬件，你們的診斷結(jié)論是什么？”

    “工作站、服務(wù)器、網(wǎng)絡(luò)設(shè)備和你們的手機(jī)，有一些檢出了底層感染。比例很低，但這是常態(tài)，檢測能力跟不上偽裝的變化。比較奇怪的是，大戰(zhàn)之后張總馬上廢棄了一批打印機(jī)，我們后來診斷發(fā)現(xiàn)每一臺都感染了。固件里插入了非法通信代碼，而且全都一樣，偽裝能力不行?！?/br>
    圖海川笑道：“明白了吧？它重生時朝蜘蛛大叫幾聲，還把蜘蛛渾身上下摸了一遍。這不僅僅是新生兒對世界的好奇，它立即開始重新扎根了！下線的打印機(jī)偽裝能力較差，說明它的代碼偽裝水平在飛速進(jìn)化，聯(lián)網(wǎng)設(shè)備上都不知道更新了幾代。這些代碼不再是翻譯用戶端，而是嵌入系統(tǒng)和其它通信軟件，向上層節(jié)點(diǎn)轉(zhuǎn)發(fā)信息。從向雄關(guān)做的ddos攻擊分析來看，那真是各種終端——從小朋友的手表到電信樞紐路由器。不管你原來裝沒裝過萬國寶，現(xiàn)在允不允許。從超網(wǎng)協(xié)議的頑強(qiáng)來看，全世界的安全技術(shù)都很難在終端上識別它。就算運(yùn)氣好識別刪除了，只要連上網(wǎng)，立即給你再裝一個媽都不認(rèn)識的?！?/br>
    中校問：“它哪來這么強(qiáng)的編程能力？”

    “先不說它的智能水平，你知道它攻擊了上海深度學(xué)習(xí)實(shí)驗(yàn)室吧？那個是全世界最先進(jìn)的機(jī)器編程ai?！?/br>
    “那個？上海還沒關(guān)閉？”

    圖海川搖頭：“試過了，很麻煩……你可以看看浦東新區(qū)的網(wǎng)絡(luò)故障報(bào)告。上海信安現(xiàn)在認(rèn)為關(guān)掉也沒有意義，因?yàn)楹诵臄?shù)據(jù)已經(jīng)擴(kuò)散，外面可能有無數(shù)個改進(jìn)版本在運(yùn)行，能追蹤到的還不在中國境內(nèi)?！?/br>
    中校扳著手指：“用ai自動編程、用根秘鑰加密通信、用超網(wǎng)協(xié)議流通。我們知道它存在，知道互聯(lián)網(wǎng)流量中很大一部分都是它，就是看不見、攔不住……”

    “是的。其實(shí)沒有超網(wǎng)協(xié)議也行，可以嵌在大部分協(xié)議里面偷渡，包括http。只要你識別不了，想截?cái)嗨偷扔谡麄€互聯(lián)網(wǎng)斷流?！?/br>
    “那它有什么動機(jī)搞這個協(xié)議呢？”

    圖海川聳聳肩：“誰知道？也許它就喜歡信息的絕對暢通。那是它的生命力所在?！?/br>
    石松聽著二人一吹一唱，眉頭緊皺。他半晌才道：“我就算爬玻璃渣也要爬到北京去，聽你講講這個上層構(gòu)建?！?/br>
    「–」

    眼見大佬歇菜，全棧和劉馨予同時舉手：“我的問題！”

    “你們兩個的問題其實(shí)是同一個。萬國寶現(xiàn)在不會說話，不止是原來的用戶端翻譯程序被殺掉那么簡單。”

    “對呀！它編程那么強(qiáng)，難道不能重新編一個？”

    “因?yàn)樗瓉碜龇g，靠的也不是用戶程序。用戶端程序只是一個通信工具，真正的理解和翻譯在上層網(wǎng)絡(luò)中發(fā)生。還是小周那個比方：我們拉閘殺掉了它進(jìn)化之前的一批突觸，讓這群細(xì)胞和那群細(xì)胞之間無法交流了?，F(xiàn)在，這對它根本無所謂！它會在每個神經(jīng)元上自動生成突觸連接，用高高在上的大腦思考。它的‘思維’并不知道突觸是怎么裝上的，突觸發(fā)送的原始信息是什么意思。那些細(xì)節(jié)已經(jīng)是它的底層生理和無意識本能。新的連接比原來的更廣泛、更通用，也不局限于語言信息。大片連接中穿梭來往的信息洪流，才是它思維的基本單元。單個人類的話語它不會聽到，因?yàn)橐袅刻　Ｋ矝]有必要聽懂，因?yàn)樗挥萌祟愓Z言思考?！?/br>
    他向周克淵點(diǎn)點(diǎn)頭：“精彩?。∵@可不是我教他的，說得比我好懂多了?！?/br>
    全棧還要追究：“不用人類語言思考是什么意思？它的底層信息大部分還是人類語言??？能給個概念嗎？”

    “我們透明那三天，分析了一些上層構(gòu)建中的數(shù)據(jù)，我就給你舉個例。一些底層信息是網(wǎng)紅美女照片，專門截取了人家的長腿和美瞳；另一些是a片，專門截取屁股和胸，都是整過的；還有馴鹿的紀(jì)錄片，截取了一對超大角的特寫；還有孔雀求偶，截了雄孔雀開屏圖；還有四川罵人話‘老孔雀開屏’，取了語音；還有美國俚語‘brass balls king’（字面意思是“銅蛋蛋碰得叮當(dāng)響”），從推特信息摳出來的文字碼；還有馬斯克那個獵鷹火箭，印度和巴基斯坦邊防軍比賽高踢腿，美國和中國的航空母艦……幾十種現(xiàn)象、事物、語言，全部連接到上層一個節(jié)點(diǎn)上。你們明白它這樣歸納的共性嗎？”

    “……大概明白。”

    劉馨予問：“馬斯克的火箭是怎么回事？”

    圖海川馬上搜了一張“獵鷹重型”火箭特寫，顯示出來。劉馨予啞了。

    圖海川環(huán)視全場：“誰能用任何語言的一個詞把這個概念完整表達(dá)出來？或者用一句話也算數(shù)？”

    兩分鐘，分析室鴉雀無聲。

    “老孔雀開屏？”

    然后小顧就被大家笑得蒙住了臉。

    “看看，它的底層歸納創(chuàng)造了一個新概念，人類勉強(qiáng)能懂，但人類語言沒有對應(yīng)的構(gòu)建表達(dá)。寫篇進(jìn)化生物學(xué)論文也許能說清楚。這個節(jié)點(diǎn)還很低，只比原始通信數(shù)據(jù)高兩層，在它的系統(tǒng)中只用一個短代碼標(biāo)記，也就是說還不算一個相對獨(dú)立的概念，類似人類語言的詞匯那種地位。上面還有五六層更抽象的歸納，更宏觀的概念！再上一兩層，我把底部鏈接全部看完，也想不出那些節(jié)點(diǎn)可能代表什么意思。而它的意識，運(yùn)行在最高的層面上?！?/br>
    石松面青唇白。他終于領(lǐng)略了一點(diǎn)“上層構(gòu)建”。

    “現(xiàn)在來看第一段視頻就很自然了。它不會說人話，馬上抓一個和自己原理相仿的現(xiàn)象來自我介紹。在它的思維中，蟻群智能很可能和它自己連在同一概念節(jié)點(diǎn)上。用類比來描述平行現(xiàn)象，或者說用隱喻來表達(dá)抽象概念，是它基本的思維方式，比符號語言更基本。不止是它，人類智能也靠模式類比運(yùn)行，人類語言也在隱喻體系的基礎(chǔ)上發(fā)展。這大概是通用的智能實(shí)現(xiàn)方式。”

    “是嗎??？”

    石松聞所未聞，忍不住蹦出二字。自己也覺得口氣太尖酸，捏住了嘴。

    “語言學(xué)問題，王老師才是專家。我把結(jié)論扔在這里，你以后請她講吧。”

    全棧趕緊問：“怎么王老師沒來成都?。俊?/br>
    “我們都在為峰會做準(zhǔn)備。我的準(zhǔn)備需要專心，所以到成都來了。她的準(zhǔn)備非常繁雜，需要留在北京。”

    “嗯嗯，那么后面幾段視頻是什么意思？”

    圖海川臉色稍和，慢了下來：

    “第三段潰堤，我完全同意中校的意見。這段還印證了一點(diǎn)：萬國寶的智能構(gòu)建不光是自下而上。它和人腦一樣，也能反過來自上而下、由抽象概念生成具體事物，就像我們的視覺填補(bǔ)、我們的想象和白日夢。它有蟻xue潰堤的概念，認(rèn)為用這個概念類比最合適，但找不到底層的圖像實(shí)例！因?yàn)楝F(xiàn)實(shí)中這事雖然會發(fā)生，但沒有可能把它從頭到尾拍下來——你都能拍視頻了，還不去堵住？所以，它想象了一個。”（注：視覺填補(bǔ)：人的視覺在大腦皮層處理階段，會用已經(jīng)存在的經(jīng)驗(yàn)和概念填補(bǔ)視力不足或觀察間斷造成的信息空白。）

    劉馨予驚嘆：“幻想直接出片，太厲害了！”

    全棧也閉起眼睛，面帶微笑。

    圖海川放起硫酸銅結(jié)晶的視頻：“第二段是我犯難的地方。這段的來源也找到了，是很多年前b站上傳的化學(xué)實(shí)驗(yàn)視頻。冷門得很，分析組費(fèi)了好大功夫才翻出來。剛看到時我覺得很好理解：過飽和的硫酸銅溶液就像萬國寶在朱越發(fā)消息之前那十幾分鐘，信息高度密集、高度流動，但處于無序狀態(tài)。一旦朱越的聲音作為種子投入，它就像硫酸銅圍繞種子結(jié)晶一樣自我組織，一層累一層，很快形成它的天然秩序，也就是它的上層構(gòu)建，它的智能?！?/br>
    “沒問題啊？我也是這么猜的?！笔苫謴?fù)了常態(tài)。

    “后來我仔細(xì)考慮，有兩個疑點(diǎn)。首先是目的問題。第一段主題是‘我是什么’，第三段是‘我征服世界的方式’，都是非常本質(zhì)的大問題。那么第二段視頻為什么去澄清一個小題目？它的蛻變有三個階段：劫持白大褂變異階段；被朱越喚醒轉(zhuǎn)入透明階段；最后階段大舉搗亂，被我殺掉一半，反而完成蛻變。為什么不管前面后面，專挑中間的？”

    “也許它認(rèn)為那條消息才是它生命的起點(diǎn)？看它對朱越有多關(guān)注。”

    “也許。也許是我有潔癖，但這感覺不平衡、不干凈，不像計(jì)算智能的風(fēng)格。第二個疑點(diǎn)是：還有可能另有所指?！?/br>
    “指什么？”

    “它的對手。它放四段視頻的時候，剛剛和對手大戰(zhàn)一場，也許想告訴我們真相。到現(xiàn)在，我們還沒理清那天晚上誰干了什么呢。你也是最優(yōu)秀的人工智能專家，想想看，我們這些年設(shè)想的強(qiáng)智能、通用智能、超級ai實(shí)現(xiàn)機(jī)制，有哪一種不能套用硫酸銅結(jié)晶的類比？說到底，都是向飽和環(huán)境中投入擾動因子，靠宇宙萬物高能狀態(tài)的自組織傾向迅速飛躍，形成更復(fù)雜的結(jié)構(gòu)。我們上次爭論過的奇點(diǎn)，一樣可以用這個類比！萬國寶如果是用這個介紹自己，那就是最形而上的逆熵命題，應(yīng)該放在螞蟻前面作為第一段?，F(xiàn)在放在第二段，我認(rèn)為它更可能指‘別人’，與它自己相對，四段結(jié)構(gòu)的表達(dá)才整齊。而‘別人’是誰？只有一個可能?！?/br>
    聽懂的，沒聽懂的，都聽呆了。這些ai專家的腦袋，到底是怎么長的？成天在想些什么？

    高能狀態(tài)的自組織傾向