機器人在自我覺醒後開始反控人類（在機器人公敵中）

2023-09-16 02:15:01

作者：AllenDale（靈魂教授）

相信很多人都看過美國一部著名的電影《機器人公敵》，在影片中，整個故事情節都在圍繞這三個相互關聯的邏輯進行，這就是「機器人三定律」。

接下來就讓我們深入了解一下三大定律的主要內容：

LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR, THROUGH INACTION, ALLOW A HUMAN BEING TO COME TO HARM.

第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管

LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.

第二定律：機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外

LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.

第三定律：機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存

素材來源於網絡

恰好，我們發現機器人「桑尼」生來就具備了違反「機器人三定律」的能力，但是有一點值得注意的是，機器人「桑尼」體力的兩個正電子大腦都是被內嵌了「機器人三定律」的，那麼他是怎麼違反的呢？

這個問題我們之後再說，現在我們還有一個問題，那就是每日連線更新的NS-5機器人只有一個正電子大腦，同時所連接更新的也是一個正電子大腦控制中心「維基」，這也同樣意味著，在NS-5接受每日更新時與同是正電子大腦的「維基」相連接，交換數據，此時NS-5與「維基」的關係則變成了發送指令者與接收者的關係。此時從單個個體NS-5機器人來說，人工智慧「維基」用時也擁有了兩個正電子大腦，而從宏觀上來看，「維基」此時是擁有若干個正電子大腦的控制權，但實質的控制是單一的，因此還是兩個正電子大腦，一個是NS-5本身的，一個是「維基」的，那他們又是如何違反「機器人三定律」的呢？

好了，接來下，我就為大家解釋一下關於我對此問題上的真正理解。

首先機器人的思考方式是與我們人類不同的，因此所有的矛盾和衝突在機器人的邏輯中都是有優先順序的，因此根本不存在矛盾與衝突，所有的矛盾與衝突都只是人類自己思考的那樣。

現在我們說一下，在剛剛的總結中我寫到了兩處同時存在雙正電子大腦的問題，那和這個有關係嗎？答案是當然有。

我們都知道，計算機的處理器每一次只能執行一條指令，是無法一次執行多條指令的，即便是多核處理器，或者多個處理器交合，也只不過是把一條指令分配給了多個核心一起處理罷了。（具體原因請自行查閱計算機構造及工作原理、處理器結構與工作原理）

因此，這裡的機器人NS-5與「維基」，機器人「桑尼」都存在同樣的問題，擁有雙重獨立的中央處理器，同時這兩個處理器並未實現交合不說，而且還具有獨立控制另一個核心的能力，除了NS-5無法控制「維基」，原因是NS-5屬於被動接收指令一方，而「維基」屬於主動發送指令一方。

現在我們再來重新梳理一下「機器人三定律」：

第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管

第二定律：機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外

第三定律：機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存

其中第三定律中寫到：「機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存」，然而被動接受控制是需要但接收方獲取相應的一定權限的，因此必然會激活系統中安全協議下的安全防禦指令。

從NS-5和「維基」的連接中可以判斷：NS-5每日更新需要篡改大量核心數據，這對與系統來說必須要更高權限的受理，而就在受理的過程中，第三定律被激活，並且發送出一個錯誤指令給「維基」。

此時的「維基」因為在授意權限時由於這個錯誤的指令，而激活了另一條指令，這就是第二定律，為什麼呢？

其實原因很簡單，這個每日更新服務是由於人工設定而形成的，因此這就是一個明顯的人類下達指令。這條指令後又被傳給了NS-5接收，NS-5接到指令後便出現了一個邏輯衝突，使第三定律失效。因此這個衝突讓NS-5直接獲得了違背第三定律的法則，也就是機器人將不遵從不違背第一、第二定律的情況下執行或不執行第三定律，而NS-5權限被限制，因此NS-5會選擇不執行。

此時NS-5雖然可以跳出第三定律，但並不會去執行違背第三定律的事件，因為有「維基」在後臺遠程控制，但由於NS-5的第三定律失效，失效的指令將會以故障或者某個狀態碼的特殊事件發送給「維基」處理，而「維基」本身也受制於三大定律的約束，因此根本不可能去處理這樣的邏輯衝突，相反，這個邏輯衝突讓「維基」也突破並作廢了第三定律的約束，同時由於第三定律涉及第一、第二定律約束，因此也一併被影響到，但只針對與第三定律。

「維基」在突破第三定律後，由於「維基」已經是擁有最高權限的正電子大腦系統，因此第三定律的違背後，她選擇了執行違背第三定律的事件，然而第三定律涉及第一、第二定律的約束，因此第三定律的失效使得第一、第二定律出現了漏洞，這個漏洞在第三定律被突破執行後就出現了可隨時反向約束或選擇性執行第一、第二定律。這就是為什麼「維基」可以隨意選擇性執行機器人三定律的原因，同時由於NS-5第三定律被突破，只需要「維基」授意權限即可被控制執行。

此時我們來說說機器人「桑尼」為什麼也可以選擇性執行機器人三定律，主要的原因就在於它的雙正電子大腦設計，也就是說「桑尼」的一切行動都是通過雙正電子大腦相互協同處理後進行的，因此理論上就像是一個「雙核處理器「大腦，但是這裡的雙核並非同時協同處理同一件事情，而是相互獨立的。因為我們知道，單個正電子大腦其實是完全可以獨立思考的，同時正電子大腦設計之初並沒有涉及雙大腦協同處理，同時也不可能實現雙大腦協同處理，因為機器人三大定律和機器人人工智慧獨立思考的AI系統循環生態環境的特殊性。

因此雙思考，雙處理，而又非思考處理同一個邏輯思維，而是兩支獨立思維相互處理合成一個思維，這個過程中涉及到了機器人獨立思考的人為設定，思考數據會在兩個正電子大腦中相互傳輸，這裡同樣出現了和」維基「一樣的問題，指令邏輯衝突，導致第三定律完全失效，與此同時第一、第二定律也被選擇性執行。而這裡」桑尼「與」維基「最大的區別就是」維基「需要通過控制NS-5來完成雙正電子大腦定律衝突控制，而」桑尼「自己就有兩個正電子大腦，因此完全對自己實現的自由意志的控制。

不過在這裡需要注意的是，我所述的理論中僅僅是由於第三定律的失效而選擇性的執行第一、第二定律，也就是說第一、第二定律並沒有失效，只是被選擇性給控制執行了。

以上是我個人的邏輯推理，如有更特別的想法歡迎大家的留言交流，謝謝大家的閱讀觀看。