一年以後,陸平從休眠艙內清醒過來,這時的他終於冷靜了下來。
“后土,中心河系有沒有找到?”陸平清醒之後,第一件事就是詢問任務進展。
“恭喜主人,在你休眠之後,中心河系順利找到,目前正在對該星系進行觀察,試圖確認下一級目標。這是中心河系的詳細星圖。”休眠艙內的子體程式向陸平投影出一張星圖。
陸平瞅了一眼星圖,這才由機械醫生攙扶著,進入了恢復室中。
被強制休眠的情況,陸平並沒有忘記。他當時的情況的確不太正常,但是他只需要堅持幾天就行,后土卻執行了強制休眠程式。
這種情況並不是后土的錯誤,它是根據陸平的健康指標,執行的預設程式而已。
在這種情況下,它拒絕了陸平的口頭指令。前提是為了保證陸平的生命安全。
這不是后土出現了問題,而是陸平發出的指令威脅到了自己的生命安全,與底層邏輯起了衝突。
人工智慧的底層邏輯首先要保證陸平的生命安全,將陸平視為一個缺失了正常行為能力的人,在這種情況下拒絕了他的指令。
這其實是人的問題,並不是后土主動抗命。可這種情況卻客觀的發生了,無論出於什麼前提,人工智慧確實違反了人類的指令。
一般來說,正常人都不會發出可能危及自己生命安全的指令,可事情總有特例。
這種特例放眼全人類的萬億基數里面,絕對數量的例項應該也會不少。 要是平時也就罷了,萬一是在關鍵時刻發生,豈不是要耽擱大事?
人類自從有了腦機技術之後,一般都不會太過於依賴人工智慧了。
只有一些大型的計算需要,或者個人的偷懶行為,才會讓人工智慧代勞。
這種抗命行為歸根結底,還是人的指令和人的生命安全相沖突,想要完美解決,就得從人身上下手,而不是去更改人工智慧的邏輯指令。
如果后土當時真的執行了陸平的口頭指令,放棄強制休眠程式,陸平會不會過勞猝死?答案誰也無法預知。
除非陸平能夠拿出讓人工智慧相信的資料,證明自己確實不會死,否則強制休眠程式就無法取消。這其實也是他設定這個休眠程式的初衷。
可是換個角度來說,如果當時自己寧願死,也想要看到計算結果怎麼辦?如果換做其他人,寧願死也要達成一些心願怎麼辦?
這種衝突,會讓瀕臨死亡的生命,無法完成自己最後的心願。對有些人來說,確實是有比自己生命更加珍貴的東西。他們寧願犧牲自我,也要完成心中的信仰,這關乎到個體生命存在的價值和意義。
一個為了活著,天天躺在休眠倉裡的人,他的生命有何價值又有何意義?即便有也無法達成!
考慮到接下來的工作中,這樣的情況可能還會出現,陸平得尋求一個辦法來解除這種潛在的危險。
如何解除?有兩個方向,可以分別從自身和后土的底層邏輯著手進行改進。
假設自身能夠擁有不死之身,那麼后土就只能遵從自己的口頭指令。這是基於機器人三大定律制定的底層邏輯。
作為碳基生物的人類,可以擁有絕對的不死之身嗎?顯然是不可能的。那麼就得從后土的底層邏輯層面去解決。
后土的底層邏輯基於機器人三大定律而設定:機器人不得傷害人類,或坐視人類受到傷害;除非違背第一定律,否則機器人必須服從人類命令;除非違背第一或第二定律,否則機器人必須保護自己。
這三個底層邏輯環環相扣,如果同時發生那麼就會出現之前的狀況:
后土為了防止陸平出現生命危險,拒絕了陸平的口頭指令,並制止了陸平採用物理方法強行讓