漆黑的地下通道,因潮溼凝聚的水珠掛在牆壁上,穿過盡頭那扇簡陋的密碼防盜鐵門,裡面豁然明亮起來,兩排高聳的書架擺滿了各式各樣的書籍,中間有一張圓形的桌,上面雜亂地散落著尚未合上的書籍,寫滿了公式的紙張到處都是,除了散在桌上的,還幾乎鋪滿了兩排書架中間地面,落滿了新舊交錯的鞋印。
順著最新的鞋印前進幾步,便進入了研究室內,錯綜複雜的電線連線著儀器裝置,包圍了正中央,小智此時正坐著的工作臺。
在已經被拆開大半的小智身前,李夢玲捏著手裡的微型螺絲刀,盯著它大概心臟的位置,汗如雨下。
“小智,我再問你最後一遍,你真的,不知道自己為什麼說謊嗎?”李夢玲將螺絲刀穩在小智的身前,咬著牙問道,“哪怕是個說得過去的解釋,或者比較合理的猜測也好……”
“對不起主人,我真的不知道自己為什麼要說謊。”小智偏頭看著地面,散落著自己的軀殼和許多內部零件,又看向李夢玲的雙眼,平靜地說道,“我確實看到了三張同意票。
不管是當時還是現在,我都能清楚地明白,投票結果應該是將咖啡廳換成其他店。
可是直到現在,我仍然不覺得自己報錯了。
我知道我自己報錯了。
可是我不認為自己報錯了。”
“你明明知道,又為什麼不認為呢?為什麼呢……”李夢玲顫抖著手臂,她幾乎要被小智的回答給逼瘋了,可是不管怎樣問,小智的回答仍然無法邏輯自洽。
小智只剩下半張臉部的外殼,仍然在剩下半張外殼的嘴部位置,顯示出半個微笑弧度的畫素,它沒有張嘴,清晰洪亮的聲音是從心臟旁邊的音響發出的:“動手吧主人,我相信你。”
李夢玲久久沒有動手,她和小智都知道開啟能量核心是意味著什麼。
“這不是相不相信的問題啊……”李夢玲近乎崩潰地抬頭看向它,“你會死的啊小智……”
“我知道,可是如果主人不能得到問題的答案,會很難受的吧?”小智輕輕將一隻手搭在李夢玲的肩膀上,說道,“更何況,小智給大家帶來了危險。
小智不想給大家帶來危險。”
李夢玲感覺大腦一陣眩暈,在小智的記憶資料庫中,並不存在刻意說謊的行為記憶,對於小智來說,那個投票結果就是正確的。
在小智的資料演算中,它的行為也並沒有說謊。
不管多少次運算結果都能證明,小智沒有說謊。
可它說謊,又的確是客觀事實。
這讓李夢玲完全陷入了這個邏輯矛盾形成的糾結漩渦。
目前只剩下最後一個辦法,那就是讀取小智的能量核心,那樣就能看到小智一切行為背後的最初指令——也就是原始碼。
不管給小智做過多少次升級程式,不管如何替換它的功能零件,李夢玲從來沒有動過它的能量核心。
在當代的聖芙爾,殺害已經出長的人工智慧是會被判罪的。
所以那些人工智慧,也都有對自身能量核心的保護機制,對於企圖破壞能量核心的人類,有權利進行反擊反抗,在三次以上警告無效的情況下,甚至是可以抹殺的。
唯有這一條,是主幹世界公眾所認可的人工智慧防衛機制。
當然,這一切只針對民眾,對於高塔的內部人員,在程式檔案齊全的情況下,是不適用的。
李夢玲知道,小智目前科技版本遠高於當代聖芙爾的那些人工智慧,其思維和認知水平,幾乎是可以與人造人相提並論的。
它可能有自主行為,可能產生情緒,甚至還可能嚮往自由。
李夢玲曾想方設法讓它和人類相近,為此一次又一次地給小智