“AI融合操作系統架構靈感?”紀弘一怔:“微軟的Windows12聽說是這個方向,包括軟硬件調度、內核、驅動、應用全方位與大模型的智慧能力進行融合,而這,是下一代操作系統的標準配置。”
現階段不管是電腦系統還是手機系統,大模型更多的是作為一種額外的能力存在,大都是提供一個軟件,或者在應用層進行淺層次的結合,跟融合絕對不沾邊。
這種情況下,操作系統本身是沒辦法利用大模型的智慧能力進行線程級、硬件級的各類優化的——它在內核層面就不支持。
這也是時代所決定的——哪怕是最年輕的鴻蒙系統,設計規劃也已經有好幾年了,別說大模型了,人工智能本身那個時候都還被人戲稱為人工智障呢,當然不會有底層融合的規劃了。
不過這個時候紀弘得到的也只是架構靈感,離能落地也一樣有距離。真要搞這個,至少AI能力和操作系統本身的能力都要達標,這兩樣目前他都不具備。
但是,在開源的Linux上做做文章,以AI助手的名義起步,確實是一個不錯的切入方向,而且老婆正需要啊!
“老婆,你們公司的電腦是啥配置你知道嗎?”
AI個人助理的話,模型在雲端訓練,但部署肯定要放在端測,否則推廣一定會被受限——商業機密是很重要的一項因素。
而這樣的話,要求電腦必須有獨立顯卡或者NPU,至少要具備一定的AI算力,相當於是一個端測大模型。
“我不太懂什麽配置,但是他們買之前給我們發過單子,我找找發你。”
“這就有意思了,摩爾科技的顯卡。”看著程薈發過來的配置單,紀弘也是感歎了一句。
話說回來,摩爾科技MTT S80這顯卡光看規模其實並不小,甚至比自己現在這個英偉達RTX3060都不遑多讓。
只不過摩爾科技的顯卡,玩遊戲,遊戲驅動不完善,搞AI,AI生態也不完善,導致空有規模,但發揮不出應有的性能,顯得很雞肋。
但在紀弘這兒這都不是問題,有規模就夠了。
類思考微模型本身就是一個全新的東西,誰家也沒有生態,所以是無所謂已有生態的。
“照單配一台,回頭測試用!”紀弘當即在狗東下單了全套,不過由於配置都不算太主流,所以不能享受次日達的待遇了,需要幾天時間調貨。
……
一連兩天的時間,紀弘都是一邊忙活,在不需要深入思考的時候還給程薈喊過來跟她介紹相關的技術知識和理念,還別說,這還真是一個難得的體驗。
“老婆,我說的這些你都聽得明白?”紀弘適時的問道。
“技術不太懂,但舉得那些例子通俗易懂,肯定能明白啊,而且我喜歡聽你講,不明白也喜歡,這讓我覺得跟你越來越近了呢,以前你都不跟我講的。”
“嗯,以後都講給你聽。”說這話紀弘是有些心虛的,最初還真是抱著+1的想法來跟程薈講這些的。
但說得越多就越能體會到,溝通真的是情感升溫的橋梁,有時候一句“你不懂”就給打發了,很傷感情的。
……
“這些都是我今天突然迸發的靈感和想法,現在把他們記錄下來。這個類思考微模型,資料還得整理一下,要申請發明專利。”
說到專利,紀弘還專門翻了翻當時與公司簽的合同。
因為是並購時轉過來的勞動合同,當時,為了快速搞定這件事兒,公司並沒有過於糾結,而是按原公司合同換主體繼續執行的。
原公司並沒有簽什麽競業協議,不過著作權和專利歸屬權後來補簽了一個約定,核心條款是:
利用公司資源或完成工作需要所產生的技術成果歸公司所有,公司給予對應的獎勵和補貼。
所以,紀弘除工作之外,在自己在家用自己的電腦做的這些東西,是完全屬於他自己的。
“這就沒問題!”
確認了自己的合同沒有問題,紀弘開始整理專利申請的資料——思想和算法是不能申請專利的,需要包裝成功能模塊和產品。
而且專利申請的本質是以公開換取保護,如果確定短時間內不可能有別家做得到,很多企業也會選擇不申請專利,就是為了避免別人提供思路。
就算要申請,公開到什麽程度也是需要把握的——不可能傻啦吧唧的連細節什麽的都公開出來。
思考了許久,紀弘還是決定申請發明專利——不過,要稍微緩一緩。
僅僅只是一個類思考微模型倒也好說,關鍵是其背後的一整套東西,也有很多延展,未來也肯定會涉及專有專用的推理運算卡的設計和製造。
這樣的話,這整條路線上所涉及的技術都必須考慮先佔上,這就是先機。但現在的紀弘明顯不具備整條線全佔的能力,為避免給其他人提供思路,那就得先緩一緩。
這樣的話,對類思考模型以及相關的訓練方式方法的保密就需要加強了,一旦泄露,損失會更大。
不過,最關鍵的東西在紀弘自己腦子裡,類思考模型初期應用在《賽博女友》中的時候,基礎核心會在本地本機,還是很保險的。
……
周日傍晚的時候,初版模型正式成型,《賽博女友》這種類似玩具一樣的東西也不需要太嚴謹——本身就是搞樂子的,錯了就當個樂子也算其所。
基於此,紀弘直接就把初版模型部署應用到生產環境的小程序上去了,準備邊運營邊訓練邊測試。
“這訓練過程倒不像是小孩兒牙牙學語了,更像是青年學生去學一門外語,這要快的多了!
“小孩子牙牙學語的時候能記得住啥啊,三天不一定能記得住爸爸媽媽怎麽喊,但大模型和類思考結合,記憶可以說是無限的,只是需要登對而已。”
紀弘看著訓練成果,腦子裡對類思考微模型有一些新的認識,也是思考並總結著,不斷完善類思考微模型的理論和數據。
……
“老公,睡吧,明天周一,要上班呢還!”十點,程薈準時喊紀弘睡覺。
“嗯,馬上。”