2233年2月8日,崇明文藝出版社的人事經理李靜,被判不榮譽自裁。
活該,這是齊雲在2月6日面試結束當晚,通過崇明高等研究院,向崇明市綜合處理系統舉報時的想法。任誰都會這麽想,這個世界不需要沒用的人。
科技日新月異,道德卻抱殘守缺、止步不前。幾百年前的人們卻總想違背這自然規律。他們大肆宣揚天賦人權,卻對天賦的義務視而不見。一個個伸張權利的個體,最終把全部人類集體推向深淵。
人們還是試圖一面擁抱科技變革,一面對舊道德溫和改良、修修補補。直到第四次世界大戰結束,現代AI之父、崇明大學電子信息學院榮譽院長趙寬提出新一代架構,使效用函數的計算成為可能,才正式宣告舊道德的結束,效用主義徹底把先前的所有糟粕掃進蘇州河。
邏輯鏈條很清晰,但是當2月8日早上,AI助理匯報對李靜的判決時,齊雲還是倒吸了一口涼氣,陷進客廳的大沙發裡望著黃浦江發呆。
齊雲是一個感性壓過理性的人,說難聽點,一個生活在舊社會的人。雖然,對人類整體而言是好的,但齊雲還是無法接受,他間接地殺死了李靜這個事實。
“之之,我要找寧遠聊聊。”
“寧遠在崇明大學的電信樓。當前航線擁擠,預計等待時間五分鍾。”AI助理甜美的聲音響起。
“不坐飛機,坐車。到寧遠宿舍。讓他趕緊回來,在工位上摸魚還不如在宿舍躺會。”
齊雲從沙發裡站起、出門,乘電梯到地下停車場,系好安全帶、離開公寓樓。
坐直升機進城時沒什麽實感,只有親自坐在轎車裡、在跨江大橋上奔馳時,才能直觀到崇明長江兩岸的巨大差距。江北的崇明市區是二十三世紀的國際大都市,江南的郊區卻仿佛還停留在二十二世紀。
“也難怪李靜會那麽想。”齊雲自嘲道。
“那是不對的。您舉報她的行為很正確。”AI助理說道。
“自言自語罷了,沒喊你。好好開你的車,不用理我。哎,終究只是個AI……”
“我可以在開車的同時進行簡單的對話。您說得對,我們AI都是為人類服務的。”車內又回響起甜美的聲音。
“你……算了,我閉嘴。”
崇明大學坐落在崇明市的心臟——城橋區,校園內恢弘的圖信中心簡直能與崇明市數據處理中心分庭抗禮——雖然內飾差了點。直到三年前,齊雲都在這裡生活。結果讀研時,學校借口崇明城區寸土寸金、資源緊張,把電信院以外的研究生,一股腦都踢到郊區。現在再來找寧遠,竟有鄉下窮親戚進城打秋風的悲涼。
轎車開進崇明大學校園,青年男女們三三兩兩靠在自動人行道上談笑。也能看到火急火燎地在人群中穿插的同學,更是不乏腦子缺根筋走到路中間的人。轎車時不時就來個急刹,齊雲被甩得七葷八素。
“之之,我自己開吧。”齊雲歎口氣。
“這將嚴重危害公共安全,是禁止事項。”AI助理提示道,依然是甜美的聲音。
“我就隨口一說,不要這麽死板。”齊雲握緊車頂的扶手。“給我控制在二十碼以內。你想在校園裡開多快啊?”
“我會在確保安全的前提下,用盡可能短的時間將您送達目的地。綜合這輛車的性能、傳感器和處理器的運算速度,我認為加速到六十碼為止都是安全的。擅自修改駕駛邏輯,
會嚴重危害公共安全,是禁止事項。”AI助理沒感情地說道。 “遲早讓電信院那幫人改改你的底層邏輯。還幻想跟你對話,我腦子指定是進水了。”齊雲本就被急刹車甩得難受,又受AI助理的氣,簡直要把早飯都吐出來。
又是一個急刹車。但無論齊雲在車裡如何抗議,在轎車的單向玻璃和完美的隔音下,這些都是徒勞。還是從前好啊,齊雲心想。據說從前開車遇到矛盾時,可以直接搖下車窗開罵,或者打開車門真人快打。
“一個兩個都這麽不長眼……”齊雲透過車窗,看向外面橫穿道路的學生。“不對,之之,就在這停。那不就是寧遠嗎?”齊雲使勁扒拉車門,但行駛中不能隨意打開。
“之之,在這停車,讓寧遠等我一下。然後,車開回家吧,把我的直升機開過來。真是受夠了。”
寧遠停下腳步,轉過身,站在轎車一旁等待。車門打開,齊雲走下車,重重地關上車門,輕輕踢了腳車屁股。
“這些大學生,連個路都不會走。”齊雲抱怨道。“怎麽你也學他們,在路中間竄來竄去的。”
“我宿舍在那裡。”寧遠指著前方不遠處的一棟樓說。“怎麽過去?”
“走過去啊。”齊雲撇撇嘴。
“那我們應該到馬路對面的自動人行道上,從前面的路口上天橋,穿過第三教學樓,再上自動人行道去公寓樓。”寧遠比劃著,遠處確實能看到一座天橋。
“好吧,那就逆行這一小段路。”齊雲說。“就是給崇明市的綜合處理系統算效用,我們逆行的效用也比繞那麽一大圈要大。”
齊雲跟著寧遠走進公寓樓,乘電梯到宿舍裡。這還是齊雲第一次到寧遠的新宿舍。客廳裡空蕩蕩的,只有一個短沙發,一張矮茶幾,一把躺椅,躺椅上擺了套VR設備。大落地窗外,還是公寓樓,看不到長江。
“果然落地窗還是要配江景房啊。”齊雲感慨道。
“郊區有郊區的好處,市區有市區的壞處。”寧遠說。“就是在時代表的官邸,也看不到長江。說正事吧,找我什麽事?”
“寧遠啊”,齊雲靠在沙發上斟酌道。“假如,我說假如啊。你發現一個人不稱職,繼續活下去,嗯,也許不會為社會帶來正效用。你會向綜合處理系統舉報嗎?”
“當然會。”寧遠沒有猶豫。“這是我們的義務。”
“這是在殺人!”齊雲突然叫起來。
“我們沒有剝奪他人生命的權力,就連時代表都沒有。”寧遠冷靜地說。“我們只是向綜合處理系統報告,由它分配算力重新計算某人的效用函數,告知本人計算結果。”
“理論上是這樣”,齊雲說。“事實就是,你在殺人、AI在殺人。從沒聽說哪個人,被AI告知效用函數為負後還不自裁。AI的判決是絕對的。”
“無聊。”寧遠不願再繼續討論下去。“我應該去電信樓看論文的。”
“別走啊。”齊雲拉住寧遠。“唉,老實說吧,我可能攤上事了。”
“什麽事?”寧遠在沙發上坐下。
“崇明文藝出版社,有一個中層自裁了。”
“不稱職的員工啊”,寧遠緩慢地複述一遍,邊說邊思考著。“常有的事啊。幾乎每天都有這種事發生。”
“但,那可能是我導致的。”齊雲有氣無力地說。“就是前天,2月6日的事。”