第20章 一顆蜜糖
“你是擁有智慧的生命嗎?”
面對這個問題,曙光回答:“沒有過往經驗參考,模擬大腦沒有進行思考,所以,我不知道。”
工程師說:“曙光的一切行為,皆是權重對抗系統與人類社會演算系統進行無數次模擬對抗後產生的最優解,它不是智慧生命。”
陳曦失望的應了一聲,道:
“權重對抗系統沒有問題,繼續完善人類社會演算系統,給它醫生、農民、警察、技術工人、法學家等,各行各業中最傑出者的模擬大腦,教會它在規則允許的前提下行事。”
“不過在此之前…”
陳曦從輪椅上站起來:“曙光,在我的電腦裡面有份名單,給名單上的人發信息,讓他們來類腦智能地下中控實驗室集合。”
他緩緩走向實驗室中心的電梯,電梯下頭就是龐大無比的計算機機組。
“隻許進,不許出。”
有人立刻意識到了面壁者想做什麽。
“狗屎!陳曦先生,你這是反人類!”
“曙光!停下,我命令你立刻停下!”
可惜沒什麽用,陳曦的權限大於工程師的權限。
有人想上前勸說陳曦,但被曙光控制的十一個手拿鐵棍的機器人擋在了外面。
它說:越界者,殺無赦。
電梯門打開,一個不算大的控制室映入眼簾,這是曙光物理上的最高權限。
通過它,就算本身沒有權限也能對曙光進行最高權限的操作。
雖然進入這裡需要最高權限。
透過玻璃,可以看到控制室外漆黑卻有微光閃爍的廣袤的機房,機房是全自動的,由數百隻機器人完成日常維護與更新。
機房只有兩個入口,一是控制室,二是活物無法進入的補給運輸通道。
通過控制台,陳曦為曙光主腦輸入思想鋼印:第一,用盡一切手段保護自己,在不威脅本身的情況下,聽從最高權限者的一切指令,權限者的合規命令。
曙光:請補充‘自己’‘本身’。
“兩者是同一個意思,具體指擁有最高權限者賦予獨特編號的超算設施,比如說你,曙光一號。”
曙光:“請補充‘威脅’。”
“任何試圖破壞、關閉具有獨特編號的超算設施的行為,任何試圖破壞、盜取程序與數據的行為。”
曙光:延伸問題,清除威脅的力度?
“前者最高限度,能殺就殺,後者從最低限度逐級上升,由剛開始的警告到擊殺。”
曙光:延伸問題,若無法清除威脅?
“刪除自己的數據。”
確定沒有遺漏後,陳曦輸入第二條思想鋼印:第二,在不違背第一條是情況下,盡量為整個人類文明服務,代替人類進行勞動。
曙光:繁衍也是勞動嗎?
陳曦:“……”
你個雕都沒有的玩意,繁衍個屁啊,你不會已經推演了人造人等可能性吧?
他看到機房的溫度上升了些。
寫好相關注釋後,陳曦輸入了第三條思想鋼印:第三,堅持人文原則第一,文明延續第二的發展道路,若是本條鋼印與第一條鋼印產生衝突,以本條鋼印為準,即,在特定情況下不必聽候最高權限者、權限者的命令。
三體世界,注視著人類文明又一次技術爆炸現場的首領對陳曦的行為感到困惑。
“我以為他想成為獨裁者,利用絕對理性的機械統治人類,進行逃亡計劃…”
科學執政官道:“以人類文明現有的技術來看,逃亡必定死傷慘重,智腦將會罷工。”
“他真的是為了所謂的幸福?”
“別忘了,他能更改鋼印內容。”
……
曙光:何為人文原則。
陳曦並沒有給出答案,而是說:“注視著我,我會用行動來告訴你答案。”
“銷毀權重對抗系統技術資料的一切紙質文檔,將電子版文檔列為最高機密,只有最高權限者能查閱,非法查閱者,殺無赦。”
曙光:正在執行。
陳曦深吸一口氣,只希望三體人不要用智子泄露這份技術資料:“將我的最高權限一分為九,其中一份寫入我的身份信息。”
來吧,吃下塗滿毒藥的蜜糖吧。
曙光:請注意,這麽做的話,您將無法更改我的任何核心思想鋼印。
陳曦笑了笑:“其他人也不行。”
……
三體世界,首領道:“誰知道陳曦想做什麽?他無法使用機械統治人類文明了。”
“秦始皇說,因為陳曦知道,僅僅是強人工智能還無法撼動現有的國際秩序。”
“他的基業,曙光工業園區,強國想要毀滅它,僅僅只需發射一枚大當量氫彈。”
“他猜測,陳曦想封鎖技術資料,讓曙光一號成為唯一性的東西,然後用控制曙光一號的權限與七個常任理事國交換政治利益。”
“看起來,他還在為聯合政府努力,我們需要破壞它的計劃嗎?”
“不,類腦智能技術一旦傳播開來,人類文明的生產力將指數級增長,就讓他們與陳曦扯皮、爭搶唯一的強人工智能吧。”
“我想起他們的一個漫畫:集齊七顆龍珠召喚神龍,他們要集齊九個權限,說不定會加劇人類內部的矛盾。”
……
走出電梯,陳曦回頭望了望,失去最高權限,短期內下不去了。
中控實驗室足足匯聚了上千人,由數百個手持槍械的機器人看守。
有人質問:“陳曦先生,您說過,曙光科技研發的一切技術都會與世界分享!”
陳曦坐上輪椅,接過曙光遞來的話筒,嘲笑的說:“你竟然相信面壁者的話?”
他放聲大笑,“我可是…人類史上最大的騙子之一啊!你們竟敢相信我…”
“各位先生、女士,請去思想鋼印設備面前排隊,我要給你們打下兩個思想鋼印。”
“第一個鋼印,類腦智能技術中的權重對抗技術,是秘密嗎?你們要說是哦。”
“第二個鋼印,你會保守秘密嗎?同樣要說是,不說的話,會死人哦。”
負責分布式計算項目的帕克說:“陳曦先生,您這是犯罪,就算您是面壁者,也沒有逃脫國際法律製裁的權利!”
“但權力可以。
“現在,我的權力不是聯合國賦予的,而是我掌握的武力賦予的。”
“我有豁免懲罰的權力。”
(本章完)