Scikit-learn 詳解與企業應用：機器學習最佳入門與實戰

前言 (Preface)

為何撰寫本書
近期AI發展相較以往，更加如火如荼，去年(2022) Text to image、ChapGPT引爆生成式AI (Generative AI)熱潮，衝擊藝術創作市場及Google搜索引擎霸主地位，相信有更多人因而希望探究AI科學，了解其背後的技術，或從事相關工作；然而，AI領域博大精深，不是一蹴可幾，需要奠定紮實的基礎，一步一腳印才能進入AI殿堂。

筆者從事機器學習教育訓練多年，其間也在『IT邦幫忙』撰寫上百篇的文章，從學員及讀者的回饋獲得許多寶貴意見，有感於在教學現場的時間壓力下，很多細節無法盡情的討論，難免有許多內容成為遺珠之憾，因此，撰寫本書，針對機器學習作較全面性的介紹，讓讀者有充裕的時間思考，或者挑選有興趣的課題深入研究。

本書以Scikit-learn套件為主體，介紹各類的演算法，不只是說明用法，也涵蓋背後的原理、數學公式推導，並示範如何自行開發演算法，與Scikit-learn演算法相互驗證，同時介紹大量應用實例，期望讀者能全面性的掌握理論、技術與實作。另外書中每個範例都有詳細的程式說明，也遵循完整的機器學習開發流程，讓讀者能充分理解每個環節的重要任務，包括資料的探索、清理、特徵工程、模型訓練、評估、參數調校到最終的佈署，希望這本書能成為機器學習入門者最佳的夥伴，在讀者紮根的過程中，貢獻一點微薄的力量。

本書主要的特點
1. 本書不是以Scikit-learn的模組分類介紹，而是以完整的機器學習開發流程角度出發。
2. 每一個演算法都包括原理、自行開發、Scikit-learn函數用法，最後再附應用實例。
3. 由於筆者身為統計人，希望能「以統計／數學為出發點」，介紹機器學習必備的數理基礎，但又不希望讓離開校園已久的在職者看到一堆數學符號就心生恐懼，因此，會有大量圖解，並以程式開發加深演算法原理的掌握，增進學習樂趣。
4. 完整的範例程式及各種演算法的延伸應用，以實用為要，希望能觸發創意，在企業內應用自如。

目標對象
1. 機器學習的入門者：須熟悉Python程式語言及資料科學基礎套件NumPy、Pandas及MatPlotLib。
2. 資料工程師及分析師：以模型開發及導入為職志，希望能應用各種演算法，或更進一步改良與實作演算法。
3. 資訊工作者：希望能擴展機器學習知識領域。
4. 從事其他領域的工作，希望能一窺機器學習奧秘者。

閱讀重點
1. 第一章：Scikit-learn模組及機器學習分類、學習地圖、開發流程。
2. 第二章：資料前置處理，包括資料清理、資料探索、特徵工程。
3. 第三章：資料探索與分析，包括描述統計量、統計圖分析。
4. 第四章：特徵工程，包括特徵縮放(Feature Scaling)、特徵選取(Feature Selection)、特徵萃取(Feature Extraction)及特徵生成(Feature Generation)，內含各式降維演算法說明、維度災難(Curse of dimensionality)概念說明。
5. 第五章：迴歸(Regression)，包括線性迴歸、多項式迴歸、時間序列等演算法，還有正則化(Regularization)、過度擬合(Overfitting)、偏差(Bias)與變異(Variance)的平衡。
6. 第六~七章：分類演算法，包括羅吉斯迴歸(Logistic Regression)、最近鄰(KNN)、單純貝氏分類法(Naïve bayes classifier)、支援向量機(SVM)、決策樹(Decision Tree)及隨機森林(Random forest)等，包括各項演算法的原理、開發邏輯、應用與優缺點說明。
7. 第八章：模型效能評估與調校，包括交叉驗證法、參數調校、管線(Pipeline)、混淆矩陣(Confusion Matrix)、效能衡量指標(Performance metrics)。
8. 第九章：集群(Clustering)演算法，K-Means、階層式集群、以密度為基礎的集群(DBSCAN)、高斯混合模型(GMM)等。
9. 第十章：整體學習(Ensemble Learning)演算法，包括多數決(Majority Voting)、裝袋法(Bagging)、強化法(Boosting)、堆疊法(Stacking)。
10. 第十一章：介紹其他課題，包括半監督式學習(Semi-supervised learning)、Active learning、可解釋的AI(Explainable AI, XAI)、機器學習架構。

本書包括許多應用範例，包括：
1 分類
1.1 鳶尾花(Iris)品種分類
1.2 葡萄酒分類
1.3 乳癌診斷
1.4 人臉資料集(LFW)辨識
1.5 新聞資料集(News groups)分類
1.6 鐵達尼號生存預測
1.7 手寫阿拉伯數字辨識
1.8 員工流失預測
1.9 信用卡詐欺
2 迴歸及時間預測
2.1 股價預測
2.2 房價預測
2.3 計程車小費預測
2.4 航空公司客運量預測
2.5 以人臉上半部預測人臉下半部
2.6 糖尿病指數預測
3 集群
3.1 手寫阿拉伯數字影像生成
3.2 客戶區隔(RFM)
3.3 影像壓縮
3.4 離群值偵測
4 商品推薦
4.1 協同過濾
4.2 KNN
5 影像
5.1 去躁(Image denoising)
5.2 影像生成
5.3 影像壓縮
6 自然語言
6.1 文章大意預測
6.2 垃圾信分類
6.3 問答(Q&A)

本書範例程式碼、參考超連結、勘誤表全部收錄在 https://github.com/mc6666/Scikit_learn_Book，並隨時更新相關資訊。

致謝
因個人能力有限，還是有許多議題成為遺珠之憾，仍待後續的努力，感謝深智出版社的大力支援，使本書得以順利出版，最後要謝謝家人的默默支持。

內容如有疏漏、謬誤或有其他建議，歡迎來信指教(mkclearn@gmail.com)或在『IT邦幫忙』(https://ithelp.ithome.com.tw/users/20001976/articles)留言討論。

前言 (Preface)

為何撰寫本書
近期AI發展相較以往，更加如火如荼，去年(2022) Text to image、ChapGPT引爆生成式AI (Generative AI)熱潮，衝擊藝術創作市場及Google搜索引擎霸主地位，相信有更多人因而希望探究AI科學，了解其背後的技術，或從事相關工作；然而，AI領域博大精深，不是一蹴可幾，需要奠定紮實的基礎，一步一腳印才能進入AI殿堂。

筆者從事機器學習教育訓練多年，其間也在『IT邦幫忙』撰寫上百篇的文章，從學員及讀者的回饋獲得許多寶貴意見，有感於在教學現場的時間壓力下，很多細節無法盡情的討論，難免有許多內容成...

第 1 章 Scikit-learn入門
1-1 Scikit-learn簡介
1-2 學習地圖
1-3 開發環境安裝
1-4 Jupyter Notebook
1-5 撰寫第一支程式
1-6 本章小結
1-7 延伸練習

第 2 章 資料前置處理
2-1 資料源(Data Sources)
2-2 Scikit-learn內建資料集
2-3 資料清理
2-4 遺失值(Missing value)處理
2-5 離群值(Outlier)處理
2-6 類別變數編碼
2-7 其他資料清理
2-8 本章小結
2-9 延伸練習

第 3 章 資料探索與分析
3-1 資料探索的方式
3-2 描述統計量(Descriptive statistics)
3-3 統計圖
3-4 實務作法
3-5 本章小結
3-6 延伸閱讀

第 4 章 特徵工程
4-1 特徵縮放(Feature Scaling)
4-2 特徵選取(Feature Selection)
4-3 特徵萃取(Feature Extraction)
4-4 特徵生成(Feature Generation)
4-5 小結
4-6 延伸練習

第 5 章 迴歸
5-1 線性迴歸(Linear regression)
5-2 非線性迴歸(Non-linear regression)
5-3 迴歸的假設與缺點
5-4 時間序列分析(Time Series Analysis)
5-5 過度擬合(Overfitting)與正則化(Regularization)
5-6 偏差(Bias)與變異(Variance)
5-7 本章小結
5-8 延伸練習

第 6 章 分類演算法(一)
6-1 羅吉斯迴歸(Logistic Regression)
6-2 最近鄰(K nearest neighbor)
6-3 單純貝氏分類法(Naïve Bayes Classifier)
6-4 本章小結
6-5 延伸練習

第 7 章 分類演算法(二)
7-1 支援向量機(Support Vector Machine)
7-2 決策樹(Decision Tree)
7-3 隨機森林(Random Forest)
7-4 ExtraTreesClassifier
7-5 本章小結
7-6 延伸練習

第 8 章 模型效能評估與調校
8-1 模型效能評估
8-2 效能衡量指標(Performance Metrics)
8-3 ROC/AUC
8-4 詐欺偵測(Fraud Detection)個案研究
8-5 本章小結
8-6 延伸練習

第 9 章 集群
9-1 K-Means Clustering
9-2 階層集群(Hierarchical Clustering)
9-3 以密度為基礎的集群(DBSCAN)
9-4 高斯混合模型(Gaussian Mixture Models)
9-5 影像壓縮(Image Compression)
9-6 客戶區隔(Customer Segmentation)
9-7 本章小結
9-8 延伸練習

第 10 章 整體學習
10-1 整體學習概念說明
10-2 多數決(Majority Voting)
10-3 裝袋法(Bagging)
10-4 強化法(Boosting)
10-5 堆疊(Stacking)
10-6 本章小結
10-7 延伸練習

第 11 章 其他課題
11-1 半監督式學習(Semi-supervised learning)
11-2 可解釋的AI(Explainable AI, XAI)
11-3 機器學習系統架構
11-4 結語

第 1 章 Scikit-learn入門
1-1 Scikit-learn簡介
1-2 學習地圖
1-3 開發環境安裝
1-4 Jupyter Notebook
1-5 撰寫第一支程式
1-6 本章小結
1-7 延伸練習

第 2 章 資料前置處理
2-1 資料源(Data Sources)
2-2 Scikit-learn內建資料集
2-3 資料清理
2-4 遺失值(Missing value)處理
2-5 離群值(Outlier)處理
2-6 類別變數編碼
2-7 其他資料清理
2-8 本章小結
2-9 延伸練習

第 3 章 資料探索與分析
3-1 資料探索的方式
3-2 描述統計量(Descriptive statistics)
3-3 統計圖
3-4 實務作法
3-5 本章小結
3-6 延伸閱讀...