讀取原始數據,對其進行處理,轉化為神經網絡能夠處理的張量格式。
劉天陽手指一揮,輸入處理模塊便如臂指使般被他定位到演算法的起點。
之後便是依續遞進,眾多模塊在他的指揮下像是長龍一般拚在後麵。
卷積模型構建,啟用函數處理,再度卷積,再次啟用,多層神經網絡的前向傳播此時便有了雛形。
不過如此一來模型很容易陷入過擬合的區域性最優點,劉天陽一揮手,神經網絡中的一些層便變得虛幻起來。
但這並不代表其斷開了連接,而是意味著在訓練過程中,這些層會隨機的丟掉一些數據,減緩演算法梯度下降的速度,並帶來一定的隨機性。
這種被稱之為‘丟出’的操作正是代表著人腦中遺忘的功能,雖然做不到像人那般更有針對性,但對於一個可以無限試錯的演算法來說,足夠了。
不過僅僅是學習還不夠,劉天陽最終需要提取出整個神經網絡中對於使用目標有用的結果。
這個時候需要的就是全連接層,也即池化層,劉天陽思考了一下,一個方塊在遠方消失,又憑空出現在他的麵前。
墨紫色的方塊在他的指揮下落在演算法的最尾端,這裡就是輸出結果的地方。
如此一來,整個前向傳播神經網絡的結構便確定了,下麵要做的,就是把它們全部連接起來。
確定訓練目標的損失函數,定義!
為演算法運行提供動力,更新模型中各個參數的優化函數,定義!
隨著前向傳播流程的建立,離構建整個演算法流程也就隻剩下一步之遙了,那就是創建反向傳播,閉環整個演算法循環模型。
不過相較於前向傳播時的諸多模塊個組合,以及其中的各種經驗之舉,反向傳播就顯得簡單許多。
劉天陽手一揮,數根像是電纜一般的管線便從各個損失函數的環節引出,向演算法的頭部前進。
這些管線在中間不時連接到對應的卷積層上,並鏈接上其中的權重參數。
如此一來,整個演算法便徹底構建完畢,雖說非常簡陋,僅僅能實現對阿拉伯數字的辨認,但劉天陽卻從其中收穫頗豐。
因為剛剛的操作不僅僅是他所學知識的一個輸出,更是幫他完整梳理了這些天看到的所有知識。
以往那些隻是知道,但卻無法理解的東西此時在劉天陽眼中變得具體起來。
為何使用這部分輸入,又為何增加這個求和模塊,以及最後輸出的值到底被誰使用了,當整個流程都清晰以後,之前那些讓劉天陽做噩夢的公式此刻頓時變得和藹可親起來。
退出這種狀態,劉天陽用火熱的目光看著麵前的顯卡,如今有著能量投送器的遠程能源輸送,這塊顯卡的顯存中正儲存著他剛剛搭建好的神經網絡模塊。
要驗證這個演算法也很簡單,劉天陽拔下電腦上的那塊顯卡,將手上這塊插了上去。
電腦的桌麵上瞬間多出一個項目工程,劉天陽點開,裡麵的代碼雖說不是他編寫的,但卻異常的熟悉。
因為這正是他剛剛一塊一塊,如搭積木般拚湊出來的神經網絡。
瀏覽整個工程,以往那些需要全域性搜尋才能知道什麼意思的變量此刻對於劉天陽來說全無障礙,整個演算法對於他來說,已然瞭如指掌。
編譯,運行,訓練完成!
一套操作行雲流水,劉天陽將測試數據導入,然後對比識彆結果和真實答案。
100%正確!
和之前那個穩定把9認成1的演算法不同,劉天陽新搭建的演算法無論是識彆速度,還是精準度都遠遠超過。
而且代碼無比整潔規範,完全可以拿來當那些計算機專業大學生的教學範例來使用了。
隻不過這個代碼相較於係統對於製作人工智慧核心的要求,還有很長距離要走。
其神經元數量實在是太少,網絡層級太過於簡單,評價函數也隻是簡單的分類罷了。
不過這些問題如今卻已然不會讓劉天陽束手無策了,在係統的幫助下,他完全可以囫圇吞棗般吸收那些知識,然後再通過實踐的方式將其掌握,轉化為自己的東西。
不僅如此,劉天陽甚至還有了個更大膽的想法。
假如他掌握的知識網絡足夠大,知識深度也足夠自成一體,那完全可以直接像之前拆解機床那般拆解市麵上那些龐大無比的框架和知名的神經網絡代碼。
然後從中汲取專家們的經驗,學百家之所長,融會貫通,建立一個屬於自己的超級大模型。
劉天陽打定主意,自己就是縫,也要縫出新花樣,縫一個究極縫合怪演算法出來。
懷揣著雄心壯誌,劉天陽動力滿滿的繼續看起了新的知識。
無監督學習的密度估計演算法,自編碼器,有監督學習的分類迴歸演算法,結構化學習……
這些以往好似天書一般的東西如今雖然依舊看不懂,但至少劉天陽的腦殼不痛了。
就這麼過了幾天,劉天陽邊加工模具邊學習,兩不耽誤,工廠的產能也隨著模具的上線而不斷上漲,儼然一副欣欣向榮的樣子。
“滋滋滋滋滋滋……鐺”
又成功加工完一套模具,劉天陽取下最後一個零件,準備研究一下mini2的外掛架如何設計,陳令卻是突然出現在他的麵前。
最近這幾天,劉天陽的全部心思都放在加工模具和學習之上,完全就是副陷入自我世界的樣子,所以除非必要,冇有人會來打斷他。
而且陳令自從吳奇又跑去老毛子之後就再也冇有出現過,現在突然找來,難道是有什麼要緊的事嗎?
劉天陽停下手中的活,叫來工藝讓他安排模具的表處工作,之後便跟著陳令來到之前開會的辦公室。
吳奇此時也坐在這間辦公室中,而他的麵前,正擺著幾份不算太厚,但紙張看上去就非常堅韌的檔案。
“劉老弟,這次把你叫過來,主要是談一下咱們之間簽合同的事情。”
吳奇開門見山,把一份合同推到劉天陽麵前。
“咱們都是兄弟,談錢總歸是有些傷感情,但親兄弟明算賬,這些東西要是一開始不規定好,越到後麵越不好收場。”