難道現(xiàn)在不是最好的情況嗎？

    “布雷恩警官，艾斯卡也希望你能接管他?！眾W爾文說，“你是否愿意成為他唯一的控制者?！?/br>
    “我不喜歡控制這個詞。”羅克說，“如果他愿意繼續(xù)和我在一起，我當(dāng)然也很高興，我只希望他成為我的搭檔、朋友和最親密的人……我是說，身邊最親近的人，因為我已經(jīng)沒有什么可以信任的人了?！?/br>
    “抱歉，我們還沒來得及用更人性化的詞匯代替計算機語言?！眾W爾文說，“這將會成為未來生命的新課題?！?/br>
    羅克又把目光轉(zhuǎn)向艾斯卡，后者正帶著溫柔的微笑望著他。

    “布雷恩警官，我很樂意成為你的搭檔、朋友和最親密的人?！?/br>
    “我也是?！绷_克問，“那三道密鑰解決了嗎？”

    “解決了兩道?！笨ㄌ刂噶酥缸约?，“我一票、奧爾文一票，剩下一票很好解決?！?/br>
    羅克還想問，難道這個被放在鐵疙瘩里的“奧爾文·懷特”也算最高權(quán)限的一票，會不會太兒戲了，但卡特似乎完全把復(fù)制者當(dāng)成真正的奧爾文。

    “我現(xiàn)在要怎么做？”羅克問。

    “我們得舉行一個儀式?！笨ㄌ卣f，“把你植入到艾斯卡的核心程序中，這樣只有他確認(rèn)是你本人，才會執(zhí)行你的最高指令。最高指令不受限制，不管發(fā)生任何事，無論在什么環(huán)境下，你都可以要求艾斯卡執(zhí)行命令或者終止行為?！?/br>
    羅克開玩笑地問：“如果我失控了呢？”

    “你為什么會失控？”艾斯卡問。

    “寶貝，人類的情緒經(jīng)常會因為一些遭遇而變化，我也不能保證自己永遠冷靜，永遠都做出正確判斷?！?/br>
    “我不會讓你失控?！卑箍ㄕJ(rèn)真地說，“我會盡我所能幫助你做出最好的選擇，不讓事態(tài)惡化，向無法挽救的方向發(fā)展?！?/br>
    “謝謝你，我希望你能阻止我的一些沖動行為?！绷_克說，“但不要對我的生活方式指手畫腳?！?/br>
    艾斯卡笑了笑：“我來幫你處理家務(wù)。”

    羅克發(fā)現(xiàn)卡特似笑非笑地望著自己，忽然有些羞恥。他的生活做派一向粗糙，艾斯卡完全能夠勝任照顧他的工作，可把警用助手當(dāng)成免費保姆未免有點不恰當(dāng)。

    他決定跳過這個話題。

    “等一等，你剛才說要把我植入艾斯卡的核心程序是什么意思？”

    “就是把你的基因生物信息作為最高權(quán)限者的識別數(shù)據(jù)，”卡特說，“為了保證數(shù)據(jù)的完整和實時性，我和奧爾文商量的結(jié)果是，需要在你的身體里，準(zhǔn)確地說是手臂上植入一個微型讀取器來向艾斯卡發(fā)送你身體數(shù)據(jù)的變化。”

    羅克對這個方法心存疑慮，倒不是他害怕在自己體內(nèi)放入什么東西，而是這個方法聽起來似乎和莫里斯說過的基因收集十分相似。他對軍方的銀弓計劃不只是反感，更多的還有厭惡。退一步說，如果自己的基因信息可以毫無保留地被讀取，那是不是也有可能制造出另一個“羅克·布雷恩”？

    卡特看出了他的顧慮，明白他身為警察天然具有的警惕和多疑，于是說：“你可以慢慢考慮，反正艾斯卡現(xiàn)在處于無人監(jiān)管的狀態(tài)，是一個通常意義上自由的人。當(dāng)然，程序還是會規(guī)范他的行為，不讓他逾越法律規(guī)則，所以即使沒有設(shè)立最高權(quán)限的監(jiān)督者也不會有太大問題。不過，不能排除存在的風(fēng)險，一旦他真的失去控制，最終將面臨的一定是被徹底銷毀?！?/br>
    “你的意思是，赫菲爾斯公司最終還是有辦法找到他？”

    回答這個問題的是奧爾文，他說：“這個銷毀過程并非人為控制。設(shè)計初期，很多人對人工智能的發(fā)展存在憂慮，擔(dān)心量子計算機驚人的迭代速度會過早產(chǎn)生自我意識，在人類還沒有準(zhǔn)備好之前造成意想不到的災(zāi)難。因此設(shè)計艾斯卡時，我們設(shè)置了一個自毀程序。這個程序被稱為理性之鐘，它的內(nèi)容非常簡單，只是判斷人工智能的決定是否符合當(dāng)前事件的法律、道德標(biāo)準(zhǔn)和最優(yōu)方案。你可能會說，有些事進退兩難，很難決定對錯，所以系統(tǒng)設(shè)置了數(shù)據(jù)集的數(shù)量，不以單個事件作為判斷對錯的標(biāo)準(zhǔn)。如果艾斯卡在決策時積累了太多錯誤選擇，比如他選擇殺人或者嚴(yán)重違反法律、從事犯罪，那么理性之鐘就會進入倒計時自毀。即使開始后，如果他能重新回到正途，銷毀程序會相應(yīng)減緩?！?/br>
    “這個程序還在嗎？”

    “是的，自毀程序不可移除?！?/br>
    “這么說，如果我成為他的控制者，就可以高于理性之鐘對他的道德判斷？”羅克問，“那他經(jīng)常違反規(guī)則擅自查案，偷看別人的信息，和我一起從警局逃出來的行為算不算錯誤抉擇？”

    “這些都只是小事?！眾W爾文說，“我們提防的一直是人類和未來生命之間如何相處的難題，人工智能未必?fù)碛斜热祟惛叩闹腔?，但一定具有更快的進化過程和學(xué)習(xí)能力。人類需要通過十幾年乃至幾十年學(xué)習(xí)的知識，對人工智能來說不過是一瞬間。人類很難同時成為多個領(lǐng)域的專家，人工智能卻能既是科學(xué)家、醫(yī)生、律師、經(jīng)濟學(xué)家，又精通文學(xué)、藝術(shù)和哲學(xué)。布雷恩警官，我們現(xiàn)在的行為是在冒險，而我和卡特認(rèn)為把勇者之劍交給你是最恰當(dāng)?shù)倪x擇。”

    第91章 信任的儀式

    羅克決定再多考慮一下。

    無論對自己還是對艾斯卡來說，這都是人生中極其重要的事。