勉勉強強接受了麥德妮斯的處置,戒律王扭頭看了一眼附近滿目瘡痍的黑森林,長長歎了口氣:“好在黑森林自我恢復的功能相當健全,就是不知道要花多久才能恢復原樣。”
說罷,戒律王看向蓋亞:“至於你倆,回去之後我會計算出欠款,並且直接聯系拉雅斯進行任務配發,其余的事情我就先放下,但是這不算結束。”
“嗯……”蓋亞也是有些頭疼,一邊是自己並不熟悉的戒律王,一邊是雖然符合興致,但是瘋瘋癲癲的壞女人麥德妮斯,自己夾在中間相當尷尬,“畢竟是伊麥卡的公主,我覺得摩根殿下應該會進行合理的賠償吧?”
殿下?
詫異地看了一眼蓋亞,戒律王並未深究:“別的我就先不說了,你們跟我回去,準備接受欠款和後續任務派發吧。哦,對了,如果麥德妮斯以後有任何毀壞行為,那就是蓋亞先生你監管不力,到頭來還是會歸咎到你們兩人身上,別說我沒提醒過。”
面對戒律王堪稱嚴苛的態度,蓋亞可以理解,但還是感到一陣頭疼。
麥德妮斯卻好像事不關己,就靠在蓋亞肩膀上用修長玉指把玩自己的發梢。
這讓蓋亞更加鬱悶。
似乎是察覺到蓋亞的感受,在前方帶路的戒律王扭頭看了一眼他:“好奇我為什麽會是戒律王?”
知道戒律王這是感謝他關鍵時刻出手救下自己,找話來消弭詭異的氛圍以及打發時間,蓋亞牽著麥德妮斯的手點了點頭。
瞥了眼蓋亞和麥德妮斯拉在一起的手,戒律王微不可察地搖搖頭,開口說了起來:“其實七聖王的名號都是自己取的,亞瑟王的來自於上古史詩,我的名號則來源於上個紀元遺留下來的一本書。”
隨後,戒律王開始講起來書中的內容:
一般來說,人們對待道德的兩極,可以采取相當明確的態度。比如,如果面對一個殺了十萬人的屠夫,和一個拯救了十萬人的聖人,人們一定會認為前者應懲,後者應賞。
但這種道德的判斷會在中間地帶漸漸模糊。殺了一個惡棍和救下一個歹徒的人呢?殺了兩隻小龍蝦和救下兩隻蟑螂的人呢?用安樂死殺了自己和救活一個飽受折磨的病人的人呢?在這些問題裡,人們得不到答案,只能借助法條或者是更多人的判斷。
依靠忒彌斯評判系統或許是一種辦法。
(在古希臘神話裡,主持正義和秩序的女神是忒彌斯(Themis),據說手裡掌管善惡的天秤成為了日後的天秤座)
這個辦法起源於上個紀元人類的古老傳統,當時的人們排隊丟下陶片,來裁定一個人是否有罪。忒彌斯的判斷依據和這類似,只不過它背後依靠的,是多達三十億的仿人機械智能。
當面對一個道德困境,比如讓電車殺掉一個人還是五個人時,只需將其交給忒彌斯,它就會把這一問題交給系統內的每一個子系統進行討論。最後會得出一個比例。比如,它對於電車難題的解答是,由於子系統大部分支持拯救五個人,因此,應該犧牲那個無辜的家夥。
忒彌斯和一個判案的法官一樣,在那些清晰的問題上從不犯錯,在一些人類難以分辨的難題中也能堅持正義。但是它仍舊暴露出了大量的運行問題。
比如,作為運算主體的子系統的采樣,是以一個貴族階級為基準的。所以在系統運行於平民家庭時,面對當地少數族裔的家庭繼承問題,這些子系統秉持著基本的繼承理念予以判斷——卻引發了當地群眾的嚴重不滿。
盡管忒彌斯盡可能地屏蔽了階級主義的影響,卻還是會使系統在面對一些侮辱性案件中,采取十分偏激的判斷。 再比如說,系統只是武斷地將子系統的男女比例設置為一比一,卻沒有考慮到實際人口比例。這就導致了一些十分怪異的判斷,比如在女子監獄中,女性獄警們希望削減男廁所的數量,卻被判為非法。
收入也沒有被考慮到。當時開發忒彌斯的兩個程序員顯然沒有考慮到世界上仍存在大量的低收入群體,導致了一些面對窮人的不公。比如,“富人為學校捐錢可以換取入學資格”這種事,他們認為並不算壞,因為捐助可以讓學校發展得更好——卻忽視了由此可能導致的可怕後果。
在忒彌斯2.0系統中,開發人員吸取教訓,從全球人群中抽樣出一個群體,用他們的特征來訓練子系統,然後再將數量擴增至60億,來具體判斷一件事的性質,或者說,它“是否符合道德”。
抽樣人群多達數萬人。人類的大部分道德評判要素都被這些人概括:性別,階級,信仰……開發人員相信,這一系統可以為一切道德困境,做出二元的判斷。
這一年便被劃為新控制論時代開始的元年。它的誕生帶著歷史的必然:隨著全球經濟與人口素質的提高,人們越發呼籲一種可以仲裁一切終端的強力機器。這一機器的物質實體是正冉冉升起的世界政府,而它的內在構造,就是忒彌斯等一系列道德評判系統。
小到夫妻吵架,大到超級大國間的爭端,由於熱核戰爭之後人們對武力的極端厭惡,所有人都趨向於使用文明的方式來解決。而如果使用法官審判,誰來審判法官?如果使用陪審團討論,又如何顧及法庭之外,億萬芸芸眾生?
但也不能真的讓一切事情都交給一切人來評判。總不能因為你和水管維修工的糾紛,就叫數十億人進行一場只有兩個選擇的投票。
代替人類進行評判的系統必須存在,它還必須盡可能接近人類群體本身。
如果把全人類比做一個巨人,那忒彌斯2.0就好比一個侏儒。雖然小得多,卻仍舊五官完整,四肢健全。
忒彌斯2.0很好的處理了大量的疑難問題。比如,“老婆和媽掉水裡了該救哪個?”的答案認為應該救媽。畢竟不是每個人都有老婆,但基本每個人都有媽。
再比如,“為了修建太空電梯犧牲兩萬人是否應該?”,人們的答案壓倒性的表示不應該。因為沒人見過太空電梯,但大家都知道死的兩萬人可能是自己。
也就是這時,忒彌斯2.0暴露出了它仍舊存在的問題:時效性。自世界政府成立,系統上線以來已經度過了近百年。在這百年之中,人們積累了修建太空電梯的所有技術,卻仍因為可能存在的犧牲導致根本無法通過系統的道德性判斷。
類似的問題還有很多。克隆技術下誕生的克隆人合法性問題亟待解決,多性別婚姻與物種雜交的新形勢等待方案,自由主義盛行的年代裡人們有沒有反對自由的自由,而人人平等的權利架構下,生育這件事又該怎麽納入統籌。這些問題,已經遠不是多年前的一些老舊系統能夠解決的了。
當然,保守主義者會認為,如果我們和道德相悖,恰好證明我們走錯了路。但激進主義者認為,一群面對“是否支持雙性別半人馬與植入複製版人類意識的四足機器人開展大規模婚配”的問題只會選“是”的系統,已經遠遠落後於時代了。
你問為什麽忒彌斯2.0裡的那些系統只會選“是”?因為它們看不懂問題,只能蒙第一個。
邁向未來的第一步雖艱難卻仍需大膽前進。世界政府作了這幾百年來唯一一個“不合法”的決定:對忒彌斯2.0進行升級。諷刺的是,那些子系統似乎全都知道忒彌斯拆除後自己的命運,所以一律反對升級,但世界政府破除萬難,在人口普查的同時開展了一次覆蓋所有算得上“人”的家夥的投票,結果大家一致同意。
為什麽同意?因為其實大部分人也不明白這個系統有啥用,蒙了第一個選項。
忒彌斯3.0誕生的紀念儀式上,世界政府的首席行政人員,也叫大交互員,宣讀了新系統對人類發展的重要意義。
“最新版的忒彌斯系統連接著每個人的腦機接口,數據接駁服務器或者生物質腦組織。從今往後,我們會以每天一次的頻率,對全人類的意識進行采樣,再將海量的數據映射到忒彌斯系統之中。換言之,面對所有問題,我們將團結每一個人,給出最中肯,最符合道德的答案。全人類的同理心,將共同投影在這一塊小小的設備中,綻放出無可比擬的道德光輝。”
為了紀念這種光輝,儀式所在的廣場被命名為“道德高地”。從此,如果誰真的站在道德高地上靠近忒彌斯系統,那他可能真的有資格對你進行道德綁架。
改版的忒彌斯3.0系統實現了一種幾乎不可能的道德審判方式,即讓全人類站在你面前面對你小小的糾結。有49.7%的人類支持你下午稱病逃課,有36.2%的人類支持你去吻心中所愛的那個機器人姑娘,有89.7%的人支持你為了拯救人類犧牲自我——雖說這個是問著玩的。
所以,當你的老師嚴厲的盯著你,說有63.2%的人認為不交作業應該受罰的時候,她很可能是認真的。
非道德的事情應該被納入道德框架嗎?26.2%的人對此表示肯定。如果應該納入,那麽小偷小摸的人是否有資格審判殺人犯?如果不該納入,那麽多年以來人類道德的演進又該如何看待?殺人是一種罪大惡極的行為,可是如果你殺的是僵屍呢?又如果,你才是那個僵屍,以為自己在殺僵屍,其實是在殺人?
當道德的客觀定義被訴諸同理心,綁定在“全人類的共識”之上,那麽如果對這一共識采取措施,又是否可以逃離道德的框架?這不是空談,人們馬上就面臨著這個問題。
人類史上最大的電腦黑客,計算機破壞者,殺人犯,道德難題的提出者砝碼近日被執法機器人逮捕。一直以來他就對用系統控制人類行為的方法存在疑慮,哪怕這種系統就是短短一天前的人類。他處心積慮,想要證明一件事:人是道德的主人,而非道德的傀儡。
砝碼反向滲透了忒彌斯系統。他向系統詢問,“殺掉這世上絕大多數的人是否有罪?”,其中有98.6%的人都認為有罪。這已經達到了死刑的界限,因為世界政府為了防止系統在模糊的中間地帶出現判斷失誤,對閾值做了規定。只有在支持比例超過68.2%的情況下才能判處有罪,95.5%的情況下才能動用死刑。砝碼在沒有投無罪票的人中,隨機挑選了數量多達全世界人口97%的人類。只要殺掉這些人,那些認為他無罪的人的比例就會大幅擴大,他就可以被宣判無罪。
拋去暴力的人們在新時代的伊甸園中享樂已久,丟掉了基本的提防之心,連詐騙信息都沒能識別。“忒彌斯系統更新提醒”,大部分人想也沒想就點開了。隨後,一個木馬就被植入進了他的腦機接口或者最近的電子設備之中。當萬事俱備,砝碼啟動了開關,無數腦機接口出現故障開始異常放電,在一夜之間消滅了這個星球上絕大多數的人類。
諷刺的是就算死了這麽多人,靠著完善的機器人輔助體系,人類社會仍舊沒有崩潰。殘存的一部分人聚集在道德高地,決定要對砝碼處以極刑——不過諷刺的是,他們能站在這裡,大多也是因為他們認為這種行為無罪。砝碼沒有反抗,而是帶著勝利者一般的微笑,看著這個被他攪得一團糟的世界。
“你們應該用系統審判我。”他笑著。“可惜,系統已經更新完畢,經過我的布置, 只有支持我無罪的人能活下來。所以我仍舊無罪。”
話音剛落,忒彌斯系統給出了答案,無罪。
獨力殺死了比歷史上一切殺人狂魔所殺的仍舊要多得多的人類的極惡之人,無罪。
“人應該是機器,規章,或者道德之類的主人。”他說。“任何試圖用人以外控制人本身的東西,都遲早會導致矛盾。”
他拿出了證據。砝碼從數學上證明,一旦面臨的問題足夠多,那麽總有一種情況,能夠讓99.9%的人認為,在這種情況下,滅絕掉全人類也並不罪惡。他指著遠處,正在建設的巨型執法機器人,說道:“不用我來,它們也足以想象出,能夠合乎道德地毀滅掉我們的辦法。”
“哈哈哈……”他笑著走下道德高地,看似神采奕奕,眼神中卻又失魂落魄。“我幾乎殺光了人類,卻僅僅因為殺掉的是異己,所以無罪,而你們卻因為一台可笑的機器,而對顯眼的罪惡無可奈何。”
這時,一個執法者終於忍無可忍,掏出了匕首,刺向他的胸膛。血花四濺,這一行為會被系統定義為故意殺人,卻在此刻顯得格外正義。
然而,砝碼卻歡呼著,擁抱著,親吻著那位將他殺死的志士。
在這熹微的黎明中,他無憾而終。
(章節被舉報屏蔽了好多,但是不想改,這是我最後的倔強。
然而有好多人投資了,為了這些兄弟,我決定把剩下的慢慢放出來,保證兄弟們能夠穩定獲得收益,萬一哪天作品管理權限沒了,也好定時發放。
淚目)