我是如何學習深度學習中的數學的?

Yanwei Liu
5 min readAug 1, 2020

--

[0] 從論文中學習

在寫完這篇文章的10個月後,我重新回顧了自己的學習方法。我發現,對我來說,最好的數學學習方式是從我們閱讀的論文去學習。

有些論文會有許多的數學式,我不可能第一次看到就全部理解。也因此,我們可以利用這些數學式來學習,補足自己缺乏的知識。

這就像是直接練習大學考試的歷屆試題,從題目中學習。因為其實大部份論文所使用到的數學其實都八九不離十,也因此,閱讀論文數學式來學習也是一個不錯的方式。

[1] 深度學習的數學地圖:用 Python 實作神經網路的數學模型

這是我認真學習「數學」的第一本書,我覺得內容寫的相當淺顯易懂,我相信只要有高中數學基礎、修改大學微積分的人,即使多年沒碰數學,還是能透過本書重新找回對數學的認識。我相當推薦

[2] 深度學習

這本花書被公認為深度學習經典教科書,我覺得讀起來相當有難度,不太適合新手入門。不過,在本書的第二至第五章節當中,有針對DL使用到的數學,作概括性的介紹,但是依舊不適合新手入門。

我的想法是:先讀完深度學習的數學地圖這本書後,可以透過本書的數學相關章節,進行一個完整全貌的認識,後續再透過其他補充知識,將完整的知識體系補起來。

[ 3 ] Math for Deep Learning

一篇相當優異的部落格文章,讀起來覺得難度不是太高,但是內容卻相當的詳細。

[ 4 ] Activation Functions & Optimizers

Math for Deep Learning都是同一個作者,該文介紹了激活函數和優化器的數學內容。

[ 5 ] 机器学习中的基本数学知识 — SNYang — 博客园

寫的也相當優異,跟[3]相比最大的優點是舉例更詳細,也有Python程式碼實作。

[ 6 ] 機器學習的數學基礎 : AI、深度學習打底必讀

內容真的是由淺入深,從國中難度的數學到大學程度的微積分、線性代數、統計學.....等內容,相當推薦讀完「深度學習的數學地圖」再來讀這一本,會覺得特別有感覺。

原因是深度學習的數學地圖這本書的內容比較像是一個Overview,而機器學習的數學基礎則是針對每個不同單元,都有一定程度的深入介紹,兩本互相參考,會對數學越來越有信心。

[ 7 ] 深度學習的數學:用數學開啟深度學習的大門

這本書適合一般具有高中數學程度的讀者閱讀,用來了解深度學習還算是不錯的書籍。日文翻譯書讀起來總帶有一些日本文章的風格存在,整理來說不會太難,但也不到太簡單。程式的部分使用Excel實作,算是市面上比較少見的,這樣的設計,更容易讓商管背景或是原本就曾用過Excel的讀者去體驗深度學習的「感覺」。

[8] The Roadmap of Mathematics for Deep Learning

--

--