關於機械人三大定律的設想

著名的科幻**大師阿西莫夫曾制定出著名的機械人三大定律，即

一.機械人不得傷害人，也不得見人受到傷害而袖手旁觀

二.機械人應服從人的一切命令，但不得違反第一定律

三.機械人應保護自身的安全，但不得違反第

一、第二定律

這三條規定由於嚴密的邏輯保證和充乎人性的關懷而得到廣泛認同，時至今日已成為一切討論機械人問題的避不開的話題。此後，圍繞這三大定律的遵守和違反，科幻作家們寫出了許多精彩的故事，也使得關於這三大定律的討論不斷深化。

後來又出現了補充的「機械人零定律」：機械人必須保護人類的整體利益不受傷害，其它三條定律都是在這一前提下才能成立。這一定律確保機械人不會因為第一定律的制約而保護罪犯。

除此，另乙個科幻大師羅傑·克拉克在一篇**中還指出了三條潛在的定律：

元定律：機械人可以什麼也不做，除非它的行動符合機械人學定律。此定律置於第零、第

一、第二、第三定律之前。

第四定律：機械人必須履行內建程式所賦予的責任，除非這與其他高階的定律衝突。

繁殖定律：機械人不得參與機械人的設計和製造，除非新的機械人的行動服從機械人學定律

然而，我想到的乙個問題是：僅僅依靠上述幾條規定就能確保機械人不違反人的需要麼？

很明顯，關於機械人的乙個設想就是它具有了人工智慧，也就是說它具有修改自身程式或者說自我學習的可能性。那麼，我的問題是如何才能確保機械人不會修改這三大定律呢？我們可以設想以下乙個情況：

機械人r由於某個原因試圖修改內置於程式的的機械人三大定律，那麼這個行為並不違反機械人三大定律，因為他不會直接導致任何人的直接受到傷害也沒有違反命令，更不會導致自己受傷。而一旦修改後，機械人r就可以違反機械人三大定律行事了。

當然我們可以明確一下第一定律，即凡事有可能導致人受傷害的行為都不可以執行，但這樣的定義也就將因為過於寬泛而將導致許多平時的工作都無法執行。那麼我們是否可以加上另一條命令呢，即：不得修改機械人三大定律。

然而，我們可以馬上想到的是修改新加的這條命令本身並沒有被禁止。因此，我們還必須加一條命令來確保這條命令不可以被修改，但這樣一來我們就得無限的規定下去了。

因此，我想到是否可以製造出乙個自指的規定。即：指令o：機械人不得修改機械人三大定律和指令o。

但這樣的乙個規定在邏輯上是否可能呢？乙個自指的描述是否能被機械人理解並執行呢？

但到這裡，我又想到另乙個問題。即機械人第二定律本

身是否已經包含了不可修改的指令呢？

機械人必須服從人的命令是否能合乎邏輯地推出機械人不允許修改人給他下的指令呢？