“事實上，我的看法可能會有些危險。”

蘇小木謹慎的用了危險這個詞。

果然，托馬索、格羅茲、李飛飛臉上的表情略微變了變，更加嚴肅了一些。

“我個人覺得，如果想要成功走向強智能的道路，過程中應該要允許程序失控。”

“人類與程序的最本質區別，在我看來就是一點，人類無法永遠保持理智，如果讓智能作為人類智能的延伸、補充、增強，那麽，也應該允許智能的程序失控。”

“也只有這樣，智能才會最終成為智能，而不是忠實的按照既定的軌跡執行原定的程序流程，經過數以百萬次的訓練之後成品的智能，從我的角度來看，是否是強智能是有疑問的。

或者，這樣的智能，能放心的開放給人類使用嗎?比起來，我更願意去嘗試開發個不聽話的智能，至少是不會只聽話！”

蘇小木的話語落下後，托馬索、格羅茲、李飛飛都陷入了沉默。

雖然蘇小木的聲音不高不低，好聽又想聽，但蘇小木話裡面的意思卻很尖銳。

學術是包容的，另外一層解釋就是，學術並不一定是大公無私的。

相反，學術很有可能是體現一些人意志的。

“蘇，這個問題我們不討論，因為涉及太廣，而且很難是我們幾個人能夠準確定義的，就好像你說的，人類無法永遠保持理智，我們都是人類。”

托馬索率先開口道。

這一次，語氣裡面的鄭重，大家都能聽得出來。

“另外就是，我們現在想要討論的，是智能的重新定義，雖然你說的概念很籠統，但是我們看到了不同的方向，當然，疑惑也隨之而來。”

蘇小木點點頭，表示理解。

對一個未知領域的探索，疑惑是永遠伴隨著前進的方向的。

就好像，把熱武器放到最原始的冷兵器時代，大家都能知道熱武器優秀，卻無法勘透裡面的奧秘。

因為這是以無知探索未知。

李飛飛接過話頭:“就現在而言，我更關心一個問題，按照你的理論框架，智能的定義應該是怎樣的一種形式?”

“你知道的，我們現在關於智能的定義其實是有些百花齊放的，並不完全統一，但都大同小異，最終想要達到的結果是相同的。

之所以需要定義，也是為了定義結果的不同程度。”

蘇小木想了想，回答道:“事實上，我現在的理論深度、知識積累以及對生物科學、遺傳信息學、語言邏輯等等層面的了解都不夠，現在認同的最終定義很可能會跟真實的最終定義矛盾，或者相悖。”

“沒關系，我們想聽聽你的想法。”格羅茲語氣平緩的安慰道。

對於這個帶來了完全全新的思考的中國年輕人，格羅茲除了驚訝之外，竟然產生了一點點的佩服。

從她的角度來看，任何一個敢於在學術的道路上質疑並開辟新道路的人，都是值得敬佩的。

因為，他們才是未來的更多可能性。

蘇小木整理了思緒，根據從火苗中獲悉的知識資料，根據自己的親身經歷與體驗，他緩緩的道。

“智能應該是乖巧但也調皮的。”

“智能應該是包容但也自私的。”

“智能應該有放肆的一面，但也會因為自身僅為補充的緣故，而自我收斂。”

“智能應該是為了解決問題而存在的，而不是為了製造更多的問題，比如允許失控的范圍內，也不應該成為問題，作為補充存在，應該彌補人類本身性格的一些缺陷，人類可以製造問題，但智能不行。”

“……”

事實上，

有關於智能的定義，蘇小木能說上一天一夜。因為這跟常理不同。

他也不維護常理。

不過，蘇小木只是把最重要的一些定義說了說。

他的意識見過智能的朦朧印象。

“這裡面有個矛盾點，智能要被允許失控的話，怎麽能確定智能不會在失控的期間製造問題?”格羅茲立馬發問。

作為人機交互領域的大佬級人物，她其實也很想有這樣的人機交互。

就好像帶一個新的孩子?

蘇小木笑著道:“這就得靠我們設計的算法了，不管是怎樣的智能，最初，它一定是一段程序。”

“而是程序，我們就應該確定它是沒問題的！所以這是我們的責任。”

蘇小木的這種說法，讓托馬索跟李飛飛眼前一亮，格羅茲更是眉毛都跳動了起來。

應該說，他們更多的是去推動研究項目的更加深入，而往往忽略了一些很容易理解的事情。

就好像蘇小木說的。

“就算是這樣，我們要如何確定，這樣形式下的智能，跟我們人類的的價值取向保持一致， 事實上，這個疑惑我一直沒找到答案。”李飛飛道。

蘇小木笑了笑:“還是剛才的問題，我們是設計者，既然是設計者，就應該去解決這些問題，不管是什麽形式下的智能，不管是不是經歷過數以百萬次的訓練，還是別的，我們都應該用算法框架邏輯來保持智能的價值取向。”

“並不是說我們向智能輸出正能量，人類發展計劃之類的數據就是框架邏設計，而是我們要用更多的邏輯算法，讓智能像個英雄。”

“???”

“???”

“???”

三臉黑人問號。

對蘇小木這個突如其來的詞匯，托馬索、格羅茲、李飛飛都表示了不解。

“不好意思，我確定一下，蘇，你說的是英雄嗎?”英雄兩個字，李飛飛是用中文說的。

蘇小木笑著點了點頭:“當然，我個人除了喜歡計算科學在內的各種理工學領域，但我也喜歡文學，所以羅曼羅蘭說過的名言我也是聽到過的。”

“世界上只有一種真正的英雄主義，那就是認識生活的真相後依然熱愛它。”

李飛飛一開始是有些愣神的，接著眼睛就亮了。

不只是她，托馬索跟格羅茲也也眼前一亮。

“原來如此。”

良久，托馬索道。

他、她、她，都想明白了很多問題。

“年輕帥氣的小夥，初次見面，你給了我太多太多的驚喜。”格羅茲由衷的感慨道。

李飛飛也好奇的看著這個同胞後輩，優秀是毫無疑問的，天才也是毫無疑問的，關鍵是為什麽這麽年輕還能這麽天才?

-

PS:同上。