小說吧 > 科幻靈異 > 星際穿越鋼琴曲 > 第265章 機器人三定律缺陷

第265章 機器人三定律缺陷 (第1/2頁)

推薦閱讀: 折斷的龍骨

一年以後,陸平從休眠艙內清醒過來,這時的他終於冷靜了下來。

“后土,中心河系有沒有找到?”陸平清醒之後,第一件事就是詢問任務進展。

“恭喜主人,在你休眠之後,中心河系順利找到,目前正在對該星系進行觀察,試圖確認下一級目標。這是中心河系的詳細星圖。”休眠艙內的子體程式向陸平投影出一張星圖。

陸平瞅了一眼星圖,這才由機械醫生攙扶著,進入了恢復室中。

被強制休眠的情況,陸平並沒有忘記。他當時的情況的確不太正常,但是他只需要堅持幾天就行,后土卻執行了強制休眠程式。

這種情況並不是后土的錯誤,它是根據陸平的健康指標,執行的預設程式而已。

在這種情況下,它拒絕了陸平的口頭指令。前提是為了保證陸平的生命安全。

這不是后土出現了問題,而是陸平發出的指令威脅到了自己的生命安全,與底層邏輯起了衝突。

人工智慧的底層邏輯首先要保證陸平的生命安全,將陸平視為一個缺失了正常行為能力的人,在這種情況下拒絕了他的指令。

這其實是人的問題,並不是后土主動抗命。可這種情況卻客觀的發生了,無論出於什麼前提,人工智慧確實違反了人類的指令。

一般來說,正常人都不會發出可能危及自己生命安全的指令,可事情總有特例。

這種特例放眼全人類的萬億基數里面,絕對數量的例項應該也會不少。 要是平時也就罷了,萬一是在關鍵時刻發生,豈不是要耽擱大事?

人類自從有了腦機技術之後,一般都不會太過於依賴人工智慧了。

只有一些大型的計算需要,或者個人的偷懶行為,才會讓人工智慧代勞。

這種抗命行為歸根結底,還是人的指令和人的生命安全相沖突,想要完美解決,就得從人身上下手,而不是去更改人工智慧的邏輯指令。

如果后土當時真的執行了陸平的口頭指令,放棄強制休眠程式,陸平會不會過勞猝死?答案誰也無法預知。

除非陸平能夠拿出讓人工智慧相信的資料,證明自己確實不會死,否則強制休眠程式就無法取消。這其實也是他設定這個休眠程式的初衷。

可是換個角度來說,如果當時自己寧願死,也想要看到計算結果怎麼辦?如果換做其他人,寧願死也要達成一些心願怎麼辦?

這種衝突,會讓瀕臨死亡的生命,無法完成自己最後的心願。對有些人來說,確實是有比自己生命更加珍貴的東西。他們寧願犧牲自我,也要完成心中的信仰,這關乎到個體生命存在的價值和意義。

一個為了活著,天天躺在休眠倉裡的人,他的生命有何價值又有何意義?即便有也無法達成!

考慮到接下來的工作中,這樣的情況可能還會出現,陸平得尋求一個辦法來解除這種潛在的危險。

如何解除?有兩個方向,可以分別從自身和后土的底層邏輯著手進行改進。

假設自身能夠擁有不死之身,那麼后土就只能遵從自己的口頭指令。這是基於機器人三大定律制定的底層邏輯。

作為碳基生物的人類,可以擁有絕對的不死之身嗎?顯然是不可能的。那麼就得從后土的底層邏輯層面去解決。

后土的底層邏輯基於機器人三大定律而設定:機器人不得傷害人類,或坐視人類受到傷害;除非違背第一定律,否則機器人必須服從人類命令;除非違背第一或第二定律,否則機器人必須保護自己。

這三個底層邏輯環環相扣,如果同時發生那麼就會出現之前的狀況:

后土為了防止陸平出現生命危險,拒絕了陸平的口頭指令,並制止了陸平採用物理方法強行讓

最新小說: 失去記憶成為獵殺者 當普通人獲得外掛 生化末日之孤魂 穿越:從高達SEED開始做選擇 讓你墮胎,怎麼生出來絕世大凶 華夏謎案錄 別人逃生她度假,瘋批大佬泰褲辣 從小人物幹到創世神 宇宙星際文明爭霸 以智破靈 開局收哭漂亮國,我在末世囤女神 四季末日,我有座無限物資避難所 建築師的末日奇妙之旅 星際之救贖 墨爺的小嬌妻是喪屍 陰年初見 末日劇本,我給你們整個大活 末世重生,從奪回空間開始! 末世殺戮:無限空間之異能王者 末日:喪屍世界倖存者們