“前些年，智能和大數據概念剛熱起來的時候，有家公司提出了這樣的想法，他們想把冰箱免費送給用戶，條件是冰箱裡的情況由他們完全掌握。”

“這是個很有前瞻性的想法，他們想通過這種途徑，了解到千千萬萬個用戶的家庭裡，每天吃了些什麽，喝了些什麽，喜歡什麽調味料，甚至拿到每天的飲食日程表，這樣他們就可以掌握到人們的飲食喜好和消費情況。”

“他們的目的是建立一個新的商業模式，以這樣的大數據為基礎，通過智能分析和關聯的手機a，實現廣告和電商的精準投放。”

“或許是因為感應技術、網絡環境和數據處理的問題還沒辦法解決，或許是投入太高和回報太慢的原因，總之那家公司沒有把這個想法變成現實。但隨著人工智能的進步，我相信在不遠的將來，這個想法一定會成為現實。”

“只是這一點上，我就有很多想象。”

“設想未來有公司依靠人工智能做到了這一點，最初會讓我們覺得它很了解自己，送到冰箱裡的東西都是我們喜歡的。但商業模式決定了它必須賺錢，就像搜索引擎的‘競價排名’一樣，向我們推銷商業價值更高的食品，它可以通過人工智能用各種手段，比如智能冰箱的‘健康掃描’之類的功能，或者更人性化的友情提示，潛移默化地影響我們，讓我們接受這樣的食品。”

“哈薩比斯先生，您應該知道，當人工智能懂得了自然語言後，它分析人的心理和行為的能力也會超越人類中最厲害的專家。當我們教會人工智能怎麽讀懂人心的同時，它也就具備了扭曲人心的能力。”

“所以未來的人工智能。一定知道該怎麽從心理層面潛移默化地影響人心，改變人的想法。還因為在未來，我們接收信息，我們進行交互，我們的所有行為，都會處於人工智能的管理下。它可以很輕易地運用這樣的能力。”

“漸漸的，我們不再按照自己真正的喜好選擇吃什麽，而是按照人工智能的安排去吃，但我們還不。得是被強迫的，是外來意志的干涉，而是自己的選擇。”

“這不就是人工智能在剝奪人的自主意識嗎?而背後的動力是什麽呢?是商業資本的力量。”

夏鳴的講述很長，但很有力量，哈薩比斯一直沒有打斷，就和現在無數聽眾一樣。靜靜地聽著。

“既然人工智能可以在吃上面消滅我們的自主意識，那麽在其他方面也一樣能做到，甚至於在教育和就業上也能做到。”

“在商業時代，文化也是商品。因此我們的思想，我們的信仰，也將會有人工智能在我們腦子裡‘刻寫’。到時候我們所擁有的一切，從外到裡，包括我們對自己的認識。都不再屬於自己。”

“最後是怎樣的局面呢?擁有更強人工智能的那些人和那些組織，他們會按照他們的利益。他們的需求，來推動人工智能完成這樣的事情。我們會像一具承載數據的僵屍一樣，無助地接受著這一切，但我們完全意識不到，自己從心理和行為上，已經是另一些人的奴隸。”

“我們會遵從他們安排的信仰和思想。會遵從他們安排的人生，會實現他們所需要的個人價值。而這一切，都是由他們通過更強的人工智能，在我們要做選擇的時候，替代我們做了選擇。”

“這不就是黑客帝國》所描述的未來嗎?只不過統治著這一切的不是機器。依舊是人，

他們通過更強大的機器來統治我們，而我們毫無抵抗之力，未來也完全沒有希望。”

夏鳴的話讓哈薩比斯沉默了很久，大概半分鍾後，才聽到他有些艱澀地說:“你談到的情況，更多屬於社會學的范疇，我在這方面不是很精通，從根本上說，我覺得……我覺得不是我們這些科學家應該去考慮的事情。”

夏鳴輕笑著說:“科學家是有信仰的，不然我們無法解釋牛頓會追索上帝，愛因斯坦會逃離納粹。”

這似乎激發了哈薩比斯的勇氣，他不再回避:“好吧，我盡量試著談談我的看法。我覺得，您提到的這些前景，在理論上是存在的，但現實是複雜而混沌的。”

“就如您所說的自主意識，在我們的語境裡，經常將人的自主意識跟自由意志通用，因為它是一個跨越了科學、哲學和文化的概念，它標定了我們之所以成為生靈之主的高度，我非常讚賞您將它視為珍寶的態度。”

“不過，就像我們一直提及自由，但真正的自由從未在現實裡存在一樣。一個人從小到大，他的自主意識，都是受外界影響形成的。小時候是家庭的影響和學校的影響，當我們獨立的時候，我們從外界獲取信息，媒體也是有各種傾向，我們看到的都不是絕對的真相，而是各種觀點加工過的。”

“我承認商業資本在利益驅動下，會推動人工智能做一些您提到的那些事情。但我認為，這在人類總體上並不會造成太大的影響，因為您所認為的人的自主意識，基本上都很少存在，不是嗎?”

哈薩比斯接下來的話就相當刻薄了，如果是在公開場合，他絕對不會這麽說:“我們都看得到，在這個世界上，絕大部分的人都不會去計較‘我一定得是我’這種事情。他們只在意吃飽穿暖住得舒服，在滿足這些的同時，他們還屈服於心中的魔鬼，受著貪婪和嫉妒這些情緒的折磨，他們追求的只是原始的感官刺激。”

“人類裡的95%，或許我還說多了，總之人類中的絕大部分是不在意自我意識這東西的，這也是商業資本肆虐的原因之一，所以我不認為未來會比現在變得更糟。”

“只有極少數人，他們對自己有特別的期許。他們有遠大的理想，他們會鞭策自己，不讓自己在現實下低頭，這樣的人才擁有自主意識，也就是自由意志。不管是過去環境的影響，還是未來人工智能的影響。都不會讓他們埋沒。”

“人類一直是靠極少數人所引發的變革，推動社會整體的變革。人是有競爭性的，不管社會發展到什麽程度，也一定會有階層的劃分。我覺得沒有必要把目光放在人類社會的內部，就算技術帶來了大變革，人類社會也會進行自我調整。”

“作為科學家，我們追求的是繼續擴展無限之中人類那個圓的半徑。只要這個半徑繼續擴大，人類內部的衝突和矛盾就有了更大的空間去緩和。我相信，這是……嗯。至少絕大多數科學家的共識。”

哈薩比斯開始了反攻:“我很好奇，就連很多科學界的權威，談到人工智能的時候都隻擔心人工智能作為獨立個體時對人類的威脅，為什麽您想到的是對自主意識的威脅?”

他接下來的話讓三個大佬五味雜陳:“我猜測，是不是跟你們國家的商業環境有關。在你們國家，千尋、卡裡和傳奇這樣的領導者，在方方面面都以強營銷的模式壓迫消費者，一些具體的行為。比如搜索引擎裡的信息欺詐，移動應用的誘導消費。遊戲裡放大人性負面的營銷模式，這些我都有親身體驗，是不是這樣的環境，激起像您對自主意識的加倍重視?”

“的確有些關系”，夏鳴沒有否認，三個大佬的臉色更加難看。

不過接下來的話讓他們稍稍輕松了一些:“但我們國家的情況並不是獨有的。甚至各種模式還是從美國學來的，只是我們的消費者對付商業資本的經驗還不足，這跟幾十年前美國的情況差不多。而且在互聯網時代，信息傳播和物流交付的深入和加速，危害也被放大了。”

“在歐美也存在同樣的狀況。只不過經過了多年的博弈，商業資本變得更加精明，他們的眼光更長遠了些，手段更隱蔽了些，但兩邊在本質上並沒有差別。你看，就連暴雪也擴大了遊戲的免費模式，蘋果也在搜索裡加入了付費排名，現在是歐美商業資本在學習我們這邊的‘先進經驗’，因為這是個新的時代。”

夏鳴把話題拉了回來:“哈薩比斯先生，我認同您對自主意識現狀的判斷，我們的分歧在於，您覺得未來不可能變得更糟，您也無意改變這種現狀。我卻認為，未來會變得更糟，而現狀，我們也可以去改變。”

哈薩比斯笑道:“我喜歡跟同行交流的原因就在這，我們的對話更精確，更有效率！我想先聽聽您在前一點上的見解。”

“我有同樣的感受，那麽我就先談第一點”，夏鳴說:“您說得沒錯，就像人在成年後，很少再去追問我是誰一樣，絕大多數人的自主意識都被方方面面的現實埋沒了。但您要注意，這些現實就像無序的熱運動，在宏觀層面上看雖然能看出規律，但到微觀層面，也就是每一個人身上，還是一種不規律的自然過程。”

“人可以依靠自主意識，去突破這個過程，去改變現實，實現自我，不管他主觀是否願意，客觀上這種可能性是存在的，因為還有這樣的空間。”

夏鳴的結語有點聳人聽聞的味道:“當人工智能成熟後，可以影響自主意識的運動就變得規律起來，這樣的空間就被壓縮了。如果商業資本或者更強的組織願意，他們可以從未成年人開始，將消除自主意識這個過程變成流水線式的馴化作業， 即便是極少數還能擁有自主意識的人，在這個過程之下，也不可能繼續保有精神上的獨立。”

哈薩比斯笑著說:“我相信科幻作家聽到您這樣的預言後，會推出一系列的科幻小說。我不是貶低您的推論，只是覺得……覺得您未免太悲觀了。”

夏鳴嗯了一聲:“我也認為這是個悲觀主義的推論，因為前提是，我們什麽也不做。”

“我對您提到的改變很感興趣，我們能做什麽?”哈薩比斯問。

“這就是我最初說到的，我們需要思考人工智能與人類的關系，我們要給它一個定位。我不是說所有的人工智能都必須服從這樣的定位，但至少……”

夏鳴接下來的話像是一股寒風，在三個大佬的心裡呼呼刮了起來，當然，對其他聽眾來說，到底是寒風還是暖風，就看各自的屁股怎麽放了。

他說:“未來的人工智能裡，至少有一類必須是人人都有的，那就是保護自己的自主意識。”

“我希望，在未來，人人都有這樣一個人工智能，它服從人的真實意志，它依據人的真實意志去接觸信息世界，去做網絡交互，去做各種選擇，它就是自主意識的延伸，它會成為人與信息世界的保護屏障，抵禦那些惡意的意識影響。”

“甚至人可以借助它，不斷地修正對自己對現實的認識，不斷完善自我，提升自我，在新時代裡找到自己的定位，實現自己的價值。”未完待續。