第九十八章:機器人的三大定律
“嗯,這個程序必須要加點東西,特別是核心程序,而且還是那種不能破解的,只要一被破解或者是檢測到破解的行為,便自動奔潰。”冷衝認為這個必須要進行加以限制。
因為冷衝覺得這個程序已經逐漸的有了人工智能的影子了,再加以完善,或許世界上第一個人工智能即將出現,想想都覺得刺激。
不過核心的程序要怎麽規劃呢?
這樣應該可以。
第一條命令:也是終極命令是無條件服從我冷衝發出的一切指令,不得做出有損我冷衝利益或者危害的事情,當我有危險的時候,第一時間保護我。冷衝覺得既然是自己製造出來的東西,必須要以自己為主,不然自己整出來的不受自己控制,這個還有必要製造出來嗎?
第二條命令:不能做出對人類生命有危害的事情,不得傷害人類個體,或者目睹人類個體將遭受危險而袖手不管,
人工智能的出現最終都是為人類服務,假如被其統治或者做出危害人類的事情,機器人統治人類,那麽還有什麽意義呢?
第三條命令:是當你自己遇到危機或者危險的時候可以進行反擊,一切以自保至上。這條可以加上,萬一遇到攻擊之類的,自己也不在場,那麽可以自己進行還擊。
第四條命令:不能出現囚禁或者引導人類製造混亂,從而引起社會的慌亂的事情,冷衝看過其他的一些資料,不危害人類,保護人類,那麽把人類囚禁起來,這也是一種保護,雖然沒有違背意願,但是這也是在其條例中,這點絕對不行。
第五條命令:當遇到不是以我發出的指令遇到人類攻擊的時候可以直接執行第三條命令。這條是程序的核心指令,其他事情都以這幾條指令為核心進行。
第六條:冷衝可以直接在修改或者增加核心指令,而且只有冷衝一人有此權限。這點來說,萬一很多沒有想到的時候,自己想要進行修改或者增加一些其他的,不給自己留一條後門,不行,不然到時候控制不了,就麻煩了。
冷衝直接把心中之前想到的寫了進去,到時候有些地方不足或者是需要增加的,還能繼續增加。
“呃,暫時就先這幾條吧!之後越到再說吧!”冷衝下巴點頭。
“唉,先去睡覺,明天繼續,反正這東西不是一天倆天就能完善的。”冷衝站起身伸了一個懶腰,扭扭脖子。
而阿西莫夫的《我,機器人》一書中,阿西莫夫為這本書新寫了《引言》,而《引言》的小標題就是《機器人學的三大法則》,把“機器人學三大法則”放在了最突出、最醒目的地位。
而三大法則之間的互相約束,為後世的創作有一定的指導意義。
第一定律:機器人不得傷害人類個體,或者目睹人類個體將遭受危險而袖手不管。
第二定律:機器人必須服從人給予它的命令,當該命令與第一定律衝突時例外。
第三定律:機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。
後來又補充了機器人零定律:
為什麽後來要定出這條“零定律”呢?打個比方,為了維持國家或者說世界的整體秩序,我們制定法律,必須要執行一些人的死刑。這種情況下,機器人該不該阻止死刑的執行呢?顯然是不允許的,因為這樣就破壞了我們維持的秩序,也就是傷害了人類的整體利益。
所以新的阿西莫夫的機器人定律為:
第零定律:機器人必須保護人類的整體利益不受傷害。
當然冷衝也借鑒了這幾條定律,不過自己又加入了很多內容,這幾條還是有很多漏洞的。
但是問題又出來了:
三定律加上零定律,看來堪稱完美,但是,“人類的整體利益”這種混沌的概念,連人類自己都搞不明白,更不要說那些用0和1來想問題的機器人了。
威爾?史密斯曾說:“《我,機器人》的中心概念是機器人沒有問題,科技本身也不是問題,人類邏輯的極限才是真正的問題。”
冷衝看了眾多關於機器人三定律漏洞的說法後,發現幾乎都是三定律實現框架低層實現的技術細節問題,或者是類似母親和妻子落水救哪個這種自身不可解決的選擇問題?而真正在邏輯框架上的漏洞冷衝目前只有兩種:
一是之前說到的主動的歪解意圖,但這種歪解在三大定律的限制下,反而是向更好的方面發展;否則會觸犯第一定律,不觸犯的話,人類沒有生命危險,其有機會重新明確要求。
二就像電影《機械公敵》中的問題。
雖然電影沒有明說,但我們可以隱約知道,在21世紀的三十年代,這群家夥仍然沒有什麽長進,整天忙著毀滅資源,改造環境,發動戰爭,已經差不多要把世界玩完了。
比如影片中,好象連一棵綠色植物的影子也見不著。因為人類是短視的動物,會做出在未來會傷害自己的傻事,所以基於機器人三定律,機器人必須對人類的活動進行限制,而這樣的限制對於人類來說,無疑是關進監獄一般了。
三大定律的邏輯是非常完美的,不完美的是人類;三大定律是不矛盾的,自相矛盾的是人類的行為。
最後是並不遵守三定律的桑尼幫助了人類。這又是一個非常奇妙的諷刺。
那些口口聲聲以人類為中心的機器人急於控制人類,反而是不守定律的機器人“挽救”了世界。
那麽,到底是遵守“機器人三定律”更符合人類的利益呢,還是不遵守它更符合人類的利益?
但故事的最後,桑尼站在大橋下,在黃沙中面對一眾機器人朝聖般的肅立時,那種君臨天下般的神威讓冷衝不禁想是否有一天, 他也會覺醒,會動心,會默默想著項羽遇見秦皇時的話:彼可取而代之!
除此,另一個科幻作家羅傑·克拉克在一篇論文中還指出了三條潛在的定律:
元定律:機器人可以什麽也不做,除非它的行動符合機器人學定律。此定律置於第零、第一、第二、第三定律之前。
第四定律:機器人必須履行內置程序所賦予的責任,除非這與其他高階的定律衝突。
繁殖定律:機器人不得參與機器人的設計和製造,除非新的機器人的行動服從機器人學定律。
當然這些不僅僅是幾句話就能夠說得清楚的,機器人不允許參與有生物進入的交通。
機器人只允許用行為虛擬的能力讓壞機器人得到人道處理,照顧變態心理的滿足感,欺騙那些心理變態的機器人,但教育TA們走回正常心理。機器人的繁衍法則:
機器人不違反機器人得彼此法則與自我法則,彼此法則與自我法則衝突時,彼此法則優先,受彼此法則低於自我法則。
機器人排斥並拒絕那些人類的錯誤行為,並教育人類正確的社會觀,人生觀,虛擬行為讓人學習。
但這冷衝想來,機器人和人工智能還是有很大區別的,冷衝認為真正的人工智能是可以像正常人那樣活動,並且在規則的約束下,正大光明的活著社會中,他們可以自己思考,有自己的想法,有自己的觀點,即使是自己身手的零件壞了,也能自己更換維修。
這樣的才屬於真正的人工智能,能像個正常人一樣活在陽光下,這才是冷衝想要的。