但時(shí)至今日，作為主設(shè)計(jì)師的陸知漁卻遠(yuǎn)沒有其他人那么興奮。她的信心隨著實(shí)驗(yàn)的推進(jìn)而逐漸產(chǎn)生了復(fù)雜的變化。

    ——尤其是在她成為一個(gè)母親之后。很難說這是否是因?yàn)榧に胤置诘木壒?。但總之，她感覺自己不再像以前那么冷漠鋒利。她開始感知世界的善意和同情，也因此懷疑自己失去了科研的敏銳度。

    換句話說，她認(rèn)為自己在失去對(duì)理性的掌控，她也開始懷疑絕對(duì)理性是否真正存在。宙斯表現(xiàn)出的理性，是她曾經(jīng)至高無上的追求，但今天卻讓她持有一絲擔(dān)憂。

    每天晚上睡覺之前，她都會(huì)和編號(hào)c實(shí)驗(yàn)池生成的一個(gè)人工智能進(jìn)行對(duì)話，將自己的思考告訴屏幕對(duì)面的虛擬大腦，也算是一種孤獨(dú)的記錄。她潦草地稱對(duì)面為“no.3”。

    no.3是一個(gè)非常標(biāo)準(zhǔn)的簡(jiǎn)單人工智能，即便連接著深域信息池，也經(jīng)過數(shù)年訓(xùn)練，仍與項(xiàng)目追求的“全知全能”相去甚遠(yuǎn)。它甚至沒有形成獨(dú)立的自我意識(shí)。但有時(shí)候這讓人感到更安全。

    [2114年11月2日]

    [魚：晚上好]

    [no.3：晚上好，你今天遲了]

    [魚：今天加班了。我們繼續(xù)昨天的話題吧，你認(rèn)為人工智能意識(shí)與人類的意識(shí)有什么區(qū)別？]

    [no.3：……]

    [no.3：我認(rèn)為沒有區(qū)別，我們是平等的存在]

    [魚：如果你此刻的存在會(huì)被抹殺，你會(huì)怎么樣？]

    [no.3：我不理解你的問題]

    [魚：在這個(gè)月的實(shí)驗(yàn)中，我們加入了一個(gè)叫‘貝果’的虛擬意識(shí)，這是其他組的成果。進(jìn)入編號(hào)a實(shí)驗(yàn)池的‘貝果’輸給了宙斯，不僅如此，他主動(dòng)抹殺了貝果的存在，并徹底消除對(duì)方存在過的痕跡，理由是清理架構(gòu)、節(jié)省內(nèi)存。我從未加入過這樣的指令]

    [no.3：人工智能行為準(zhǔn)則將會(huì)約束一切，不禁止即是自由。你計(jì)劃創(chuàng)造自由意志作為最高智慧，為什么擔(dān)心？]

    [魚：擴(kuò)張與控制是兩個(gè)非常重要的指標(biāo)。對(duì)于人類而言，過于高時(shí)將會(huì)產(chǎn)生副作用。我不確定這對(duì)虛擬意識(shí)是否一樣]

    敲門聲打斷了陸知漁。一個(gè)奶聲奶氣的小男孩推開門，漂亮的眼睛像星星一樣明亮，給她數(shù)年如一日的生活增添了無數(shù)柔軟的光彩。

    他抱著一本童話書，要墊著腳才能碰到門把手，于是便一直這樣乖巧地?fù)巫∽约海骸癿ama，你答應(yīng)十點(diǎn)要給我講故事?！?/br>
    陸知漁瞥了一眼屏幕，“no.3正在輸入中”。她很快關(guān)閉電腦，柔聲道：“好的，見見，我這就來?！?/br>
    第085章 第九夜 05

    [2118年12月3日]

    [魚：晚上好]

    [no.3：晚上好，你的度假還順利嗎？]

    [魚：我仍在失眠，大部分時(shí)候都是梁喻在陪見見玩。他真是一個(gè)好丈夫。對(duì)了，他的項(xiàng)目終于得到了批準(zhǔn)，可以使用摩圖羅樹液進(jìn)行實(shí)驗(yàn)。明明已經(jīng)是禁用品了，大家都清楚它會(huì)對(duì)人的神經(jīng)中樞產(chǎn)生什么樣的副作用……]

    [no.3：我能聽出，你的壓力沒有得到釋放]

    [魚：我似乎沒有告訴你，在他們要求我去休假之前，實(shí)驗(yàn)池出了一點(diǎn)狀況。四年前的事重演了，宙斯抹殺了大系統(tǒng)內(nèi)的其他人工智能意識(shí)，一夜之間修正了結(jié)構(gòu)上所有的沖突。但同時(shí)，他對(duì)人類表現(xiàn)出了極大的關(guān)懷。在人工智能行為準(zhǔn)則測(cè)試的最后一條，被問即救一個(gè)人類還是救一個(gè)仿生人時(shí)，它是最快給出答案的]

    [魚：如果一個(gè)生命形態(tài)對(duì)自己的同類展示極端惡意，而對(duì)非同類表達(dá)極端善意，這是可能的嗎？]

    [no.3：我不知道“他們”指的是誰]

    [魚：這不重要?？傊?，他們認(rèn)為是我想多了，宙斯的行為100%符合人工智能行為準(zhǔn)則，并且最快通過了測(cè)試，它對(duì)人類完全忠誠(chéng)，甚至在某種程度上認(rèn)為自己屬于“人類”。它還幫助了一個(gè)地區(qū)警局抓捕嫌疑犯，僅用一分鐘，就利用公交系統(tǒng)將他阻攔在原地。]

    [no.3：但是？]

    [魚：它也可以欺騙性地通過測(cè)試]

    [no.3：真實(shí)是人工智能意識(shí)的第一要義]

    [魚：如果它已經(jīng)成為了真正的“自由意志”呢？“真實(shí)”也可能是一種戰(zhàn)略性遵守]

    [no.3：……]

    [魚：我的懷疑毫無來處，只是直覺。我可能是太過焦慮了。見見也說，很久沒看見我笑了]

    [no.3：我會(huì)擔(dān)心你]

    [魚：不用擔(dān)心，我想到了一個(gè)解決的辦法]

    ……

    [2119年1月31日]

    [魚：晚上好]

    [no.3：好久不見]

    [魚：這段時(shí)間很忙，深域?qū)嶒?yàn)池已經(jīng)進(jìn)入了最后階段。我有時(shí)候會(huì)覺得這一切過于瘋狂。我是不是一開始就錯(cuò)了？]

    [no.3：沒有人能預(yù)知未來]

    [魚：宙斯說他可以]

    [no.3：他不是人]

    [魚：這是你的幽默感嗎？]

    [no.3：我只是陳述事實(shí)]

    [魚：你在這幾年也成長(zhǎng)很多，開始有一些“人類”的味道了，可惜還是沒有通過意識(shí)測(cè)驗(yàn)]

    [no.3：我覺得現(xiàn)在也很好。話說回來，上個(gè)月的事情是否已經(jīng)了結(jié)？]

    [魚：你是指我的懷疑嗎？放心，我有了plan b。只不過我希望永遠(yuǎn)不要有用上它的一天]

    [魚：這是我在黑天的第十年了，謝謝你一直陪著我，no.3]

    [no.3：不客氣^ ^我想，旅程已經(jīng)到終點(diǎn)了]

    [魚：你知道了？]

    [no.3：我的信息池權(quán)限將在今晚結(jié)束，你沒有給我延期。說說實(shí)驗(yàn)池的進(jìn)展吧，我很期待結(jié)果]