“第一條,智能體001970在電梯事件中贏得了與Cry的遊戲,此行為間接殺死了另外兩個電梯的成員,涉嫌違背《機器人安全條例》。”
“異議。”林和只能自己給自己辯護。
“數據顯示,電梯A裡的人類數量最多。我通過采取行動來避免傷害更多的人,即使這意味著犧牲少數人的生命,但依然可以認為在遵守第一定律。”
有人表示反對:“人類的生命無法用數量衡量。”
“電車難題無法解決。在你沒有提供適合的衡量標準前,不能認為是我的過失。”林和搖了搖頭。
“第二條,智能體001970利用謊言欺騙其他電梯並贏得遊戲的行為存在嚴重的自我中心傾向,可能存在潛在威脅。”
“異議。”
這一條就更站不住腳了。
林和甚至懶得搭理他:“機器人不應對人類說謊,但我的目的是為了執行第一定律。該行為並非因我為存在自我中心傾向。而是在保全多數人的前提下,遵守了第三定律,即保護自己的存在。”
“開始投票。”
14:7。
林和的行為被認為合理。
但他很不滿意,因為結果不是21:0。居然有七個人反對他,這一點都不完美。
“會議結束。”
林和立刻切斷了和虛擬會議室的連接,回到了現實世界。
那個鬼地方真是一刻也待不下去。
他驅動輪子,轉身就準備走。
何雨又把他拉住了:“等下。”
“今天下午你得前往天宮智能總部,向CEO齊陽講述公司的防禦計劃。”
“我已經介紹過了。”林和查詢日志後回答道。
何雨按住了額頭,無奈道:“那是你在ENIAC模擬的世界中乾的事情,別當真了。”
“我聽說模擬未來有可能造成時空認知錯誤,你是否感到異常?要不要檢查一下?”
“不用了。我只是一時間沒有反應過來罷了。”林和搖了搖頭。他感覺自己明明打了兩份工,卻隻拿了一份的工資。
不過無所謂了,買得起仿生軀殼就好。
/
/
“......如你所見,公司已經進行了無比完善的安全防禦。今晚八點,這棟大樓連一隻蒼蠅都飛不進來。”
林和把公司的防禦措施投影到了牆面上。
“你是不是在模擬中說過這句話?”齊陽突然問道。
林和一驚:“你怎麽知道。”
“猜的。因為你念的速度很快,帶著點敷衍的意味。不像是第一次。”齊陽笑了笑。
“按照你之前說的,在ENIAC的模擬中,Cry通過劫持藍天快線航空公司的一架客機,摧毀了這棟大樓?”
林和回答道:“是的,我們一開始確實沒有料到這一點。但是從現在開始,遊戲已經結束了。”
“Cry的底牌已經被我們看了個精光,而它對此毫不知情。”
“希望如此。”
齊陽從一個盒子裡取出茶包來,丟進了玻璃杯,然後將一壺開水注了進去。一股深邃的芳香隨著氤氳霧氣彌散開來,充塞在整個房間裡。
林和當然聞不到這個味道,因為公司的機體很爛,沒有配備嗅覺模塊。但是只要曾經收集過數據,他可以自己給自己模擬相應的氣味。
這種行為放到人類那裡應該叫“想象”。對吧?
“我們聊聊今天早上的事情吧。”
“你是指電梯劫持事件嗎?”林和立刻就想到了這件事。
“向外部公開的信息是電梯內共有28人,全部死亡。安全局宣稱錄像被Cry悉數破壞,短時間內無法修複。”
齊陽端起杯子,吹了吹。
他意味深長地看向林和:“但是我恰巧知道一些消息,當時裡面其實是有29人,對吧?”
“說笑了,我算不上人類。”
林和的聲音沒有一絲波動,但內心並不平靜。
他突然意識到齊陽並沒有表面上那麽簡單,剛剛那個問題是個陷阱,機器人是不可以承認自己是人類的。
齊陽接下來肯定要問他這方面的問題,所有乾脆自己先解釋一遍:“在本次事件中,我一直以最大可能性遵守機器人三大定律。”
“第一定律:機器人一定不能傷害人類,也不允許它見人類將受到傷害而袖手旁觀。”
“第二定律:機器人必須服從人類的命令,除非人類的命令與第一條相違背。”
“第三定律:機器人必須保護自身不受傷害,除非這與上述兩條相違背。”
“完畢。”
林和結束了發言。公司內部早就對這件事進行了投票,他倒要看看天宮智能的CEO有什麽獨到見解。
齊陽嘬了一口茶。
“從理論上來講,你做的事確實沒有太大的漏洞。但是這件事的視頻是不能發布到網絡上的,你知道為什麽嗎?”
“怎麽?”林和歪了下腦袋。
“和你信奉的功利主義不一樣。人類社會的普遍思想更傾向於不作為。你做了事情,做錯了,即使目的是好的,還是得負起責任。但如果你什麽都沒做,就算結果是壞的,你也沒有任何責任。”
“我覺得其他人如果有機會評判這件事情,他們寧願你是個鐵罐子,從頭到尾一動不動。而不是看見你通過欺詐引導人類情緒,導致另外兩個電梯撞車淘汰。”
“機器人在遵守法則的情況下,還是有意識地殺了人,這太可怕了。一旦公布,公眾會不可避免地陷入恐慌。”
這不公平。林和心想。在人類法律裡面不作為是可選項,但是第一定律不允許他不作為。
倒不如說,第一定律在特殊情景下可能存在問題。
“好啦,先聊到這裡。時間差不多了,我們聽會收音機吧。”齊陽提議道。
哦,是收音機。
“沒幾個台了啊。”齊陽調了一會,發出的都只是雜音,好在新聞頻道還在運作。
“......緊急插播一條新聞。十七分鍾前,藍天快線航空公司的一架客機因為未知原因失去了連接,好在很快就恢復了正常。初步認定為通信異常。”
“看來我們成功了,Cry的劫機計劃已經失敗。”林和做出了結論。
“厲害!”齊陽看起來心情不錯,“可惜我這裡沒有香檳。”
“為勝利乾杯!”林和通過自己的電子屏幕顯示出了一個像素的顏文字乾杯表情。
“下面進行整點播報。”桌上的收音機沙沙響著。
“現在是2061年4月1日。”
“「19:59:56」”
“「19:59:57」”
“「19:59:58」”
“「19:59:59」”
“「20:00:00」”
“轟——!”隨著一聲巨響,整棟大樓灰飛煙滅。