白話深度學習與TensorFlow

PART 1 基礎篇
chapter 01 機器學習是什麼
chapter 02 深度學習是什麼
chapter 03 TensorFlow 框架特性與安裝

PART 2 原理與實踐篇
chapter 04 前饋神經網路
chapter 05 手寫板功能
chapter 06 卷積神經網路
chapter 07 綜合問題
chapter 08 循環神經網路

PART 3 擴展篇
chapter 09 深度殘差網路
chapter 10 受限玻爾茲曼機
chapter 11 強化學習
chapter 12 對抗學習
chapter 13 有趣的深度學習應用

附錄 A VMware Workstation 的安裝
附錄 B Ubuntu 虛擬機的安裝
附錄 C Python 語言簡介
附錄 D 安裝 Theano
附錄 E 安裝 Keras
附錄 F 安裝 CUDA
附錄 G 參考文獻
 

序

為什麼要寫這本書

　　近年來，伴隨著電腦運算能力的不斷升級，很多原來只有在科幻電影裡才出現的情境都已經逐漸實現了，並給了我們更多的想像空間與期待。

　　在2016年，人工智慧界最令人矚目的事情莫過於Google的AlphaGo 以4:1的懸殊比分輕鬆擊敗韓國著名九段圍棋大師李世石。之後化名「Master」的AlphaGo更是一路大開殺戒，在對弈網站「弈城」和「騰訊圍棋」先後打敗了柯潔九段、朴廷桓九段、陳耀燁九段以及創造日本大滿貫傳奇的井山裕太和亞洲盃冠軍李欽誠等世界一流高手，取得了50 勝0 負的戰績。當然了，「玩不起」的人類最終覺得讓AlphaGo在國際圍棋網站排名上佔一個坑來碾壓人類是非常「不公平」的事情，最終把人家給拉黑了。

　　人類這麼做是不是有違人工智慧研究的初衷暫且不討論，畢竟我們的眼光還是應該更多地投向那些「更有趣」的領域。除此之外，還有很多非常有趣的人工智慧專案也經常在網路影片中帶給我們驚喜，比如Google的機械狗、無人駕駛汽車等。這種機械狗很有趣，除了能夠彼此之間互相協調進行編隊行進以外，還能像真的狗一樣在被踢了一腳之後迅速調整重心，並在短暫的踉蹌後站穩，然後繼續先前作業，不過怎麼踢都不會來咬你。而無人駕駛汽車也有著非常優異的能力，到2015年11月底為止，根據Google提交給機動車輛管理局的報告，Google的無人駕駛汽車在自動模式下已經完成了130多萬英里的里程。

　　可以說，這些事情都在鼓舞著我們這些對未來世界充滿渴望的人投入更多的精力去研究AI 帶來的新驚喜，而人工智慧這一領域中最為核心的內容之一就是深度學習。深度學習現在於全世界範圍內都有著眾多的專業工作者和業餘愛好者在進行著研究，並且每個月都有不少新的落地產品問世。應該說，深度學習是目前世界上最熱門的研究領域之一，而且也是未來幾十年最熱門的研究方向之一。

　　深度學習由於其本身的複雜性，使得很多有著濃厚興趣的愛好者望而卻步，我認為主要的門檻來自於兩個方面。一方面，深度學習是非常典型的運算密集型的應用領域，家用PC 通常是無法有效勝任一個完整而可靠的深度學習應用的（作為初級實驗或者「玩具」的除外）。不過現在隨著CPU 的運算速度逐步加快，以及GPU 應用的不斷普及，這方面的門檻在慢慢地降低。另一方面，深度學習從其解決問題的根本理論方面需要比較深厚和紮實的數學基礎，尤其是高等數學、線性代數、泛函分析及其延伸學科的基礎，這就使得很多高等數學相關基礎不好的朋友學習起來非常吃力。當然，這一方面目前可以走的捷徑也不是沒有，我們可以透過現成的框架（比如TensorFlow、Torch、Caffe或Theano 等）來建置環境，並用簡單的程式碼或模型描述文件來組建一個相對完整的神經網路進行學習和分類應用。

　　除此之外，像Caffe還有一個叫做Model Zoo的共享社群（這是一個讓大家把已經訓練好的模型放在上面做共享的社群）。在模型訓練中，前面大量耗時的分析和建模工作以及訓練後得到的最寶貴的模型成果就可以濃縮並沉澱為一個可下載的模型描述文件，裡面是網路的節點權重和拓撲結構信息。這種社群化的方式會讓很多原本沒有太好訓練條件的朋友有了可以學習和借鑑的對象，也有了可以遊樂和嘗試的空間。這些模型需要在其各自的授權使用協議下合理使用，有的是允許進行商業應用和改動，而有的則不可以，這一點需要注意。在下載後，我們可以對其進行Fine Tuning，也就是進行細節調校或改進性訓練，使得這些模型可以在自己需要的環境和條件下更好地工作。不過這個地方還是有一個門檻，對於很多數學能力欠佳的工程師來說，不容易跨過去，那就是訓練和調校中的方向性問題。一旦出現召回率和準確率不再提高，或者性能等問題，往往會找不到改進的方向和方法，這是需要紮實的數學基礎和深度學習領域的實踐經驗來解決的。

　　這本書的宗旨很簡單，就是希望透過聊天和講故事的方式，憑藉高中以上水平的數學知識把大家一步一步地帶入深度學習的領域。只要大家在閱讀本書的時候保持一點點耐心，即便沒有高等數學知識的朋友，透過努力也一樣可以基本掌握深度學習的應用技巧。請不要猶豫，跟我來吧！