[TOC] 機器學習是一門多領域交叉學科，涉及概率論、統計學、逼近論、凸分析、演算法複雜度理論等多門學科。專門研究電腦怎樣模擬或實現人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的性能。從數據中提取知識，也被稱為預測分析 或 統計學習。 &ems ...
目錄
機器學習是一門多領域交叉學科，涉及概率論、統計學、逼近論、凸分析、演算法複雜度理論等多門學科。專門研究電腦怎樣模擬或實現人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的性能。從數據中提取知識，也被稱為預測分析 或 統計學習。
它是人工智慧的核心，是使電腦具有智能的根本途徑。
下麵就讓我們先瞭解一下機器學習吧。
一：學習機器學習原因和能夠解決的問題
1.原因
機器學習現在已經越來越流行，並且在實際生活運用以及高級的科學問題上做出了貢獻。
在早期的時候，許多系統和程式都是人為設定的決策規則，但是，人為制定的決策規則有缺點。一個是任務稍微有變化，可能需要重寫系統；另一方面，還需要決策者對決策過程有很深刻的理解。
一個例子就是人臉識別，人類和電腦對人臉的描述有所不同，因此有時候需要用機器進行非常複雜的操作，並且需要機器能夠自動學習和識別，這就需要讓電腦機器進行機器學習。因此學習機器學習是很有必要的。
2.機器學習能夠解決的問題
最成功的機器學習演算法是能夠將決策過程自動化的演算法，從已知的示例中推導並泛化得出。這種演算法叫做監督學習 。
在這種演算法中，用戶將成對的輸入和預期輸出提供給演算法，演算法根據輸入和預期輸出得到一種方法，就可以把該方法作用到其他數據集上，根據已知推測未知。這就好像有一個老師監督著演算法。
監督學習演算法實例：識別信封上的郵政編碼，判斷腫瘤大小，檢測銀行信用卡消費真實性。
還有一種演算法是無監督學習演算法。這種演算法只有輸入數據是已知的，沒有提供輸出數據，因此評估起來很困難。
無監督學習演算法實例：確定系列博客主題，將客戶或者好友分成不同類型的群組，檢測網站的異常訪問模式。
將輸入數據表示成表格形式是非常有用的，每一個數據點代表行，該數據代表的屬性代表列。
在機器學習中，每個實體或每一行被稱為一個樣本或數據點，而每一列(描述這些實體的某一個屬性)則被稱為特征。
必須要有有效的信息集合，才能夠用某一機器學習演算法進行構建機器學習模型。
二：為什麼選擇python作為機器學習的語言
python既有通用編程語言的強大，也有特定領域腳本語言的易用性。有很多功能庫，使用它的主要優勢是可以利用終端或其他類似Jupyter notebook的工具直接與代碼進行交互。
三：機器學習常用庫簡介
1.scikit-learn
簡介：它是一個開源的python庫，包含了目前最先進的機器學習演算法，也是最有名的python機器學習庫。
用戶指南：http://scikit-learn.org/stable/user_guide.html
安裝scikit-learn：直接裝集合了多個數據分析庫的python發行版Anaconda，包含了所需的所有機器學習庫。
2.Jupyter notebook
這是一個可以在瀏覽器中運行代碼的交互環境，有很多方便的交互功能，可以用來整合代碼，文本和圖像。
3.NumPy
是基本的數據結構。功能包括多維數組，高級數學函數，以及偽隨機數生成器等。所有的數據格式必須轉化為NumPy多維數組。簡稱為"NumPy數組"或"數組"。
4.SciPy
SciPy是python中用於科學計算的函數集合。具有線性代數高級程式，數學函數優化，信號處理，特殊函數和統計分佈等功能。
5.matplotlib
matplotlib是Python主要的科學繪圖庫，功能為將數據分析並生成可視化內容。一般用%matplotlib notebook和%matplotlib inline命令將圖像顯示在瀏覽器中。
6.pandas
pandas是用於處理和分析數據的Python庫。它基於一種叫做DataFrame的數據結構。類似於資料庫中的二維表結構。
7.mglearn
實用函數庫，用戶快速美化繪圖，或者用戶獲取一些有趣的數字。
8.導入機器學習常用庫
import sys
import pandas as pd
import matplotlib
import numpy as np
import scipy as sp
import ipython
import sklearn 四：機器學習流程
1.實際問題抽象成數學問題
將實際問題抽象成數學問題，目標的數學問題是一個怎樣的問題，是一個分類還是回歸，或聚類的問題，找到具體的問題類型，以及適合該問題可以用到哪些數據。
2.獲取數據
機器學習的第一個步驟就是收集數據，收集到的數據的質量和數量將直接決定預測模型是否能夠建好，將收集的數據去重覆、標準化、錯誤修正，得到標準數據，併進行多維數組化。保存到文本文件(csv,txt,json)或者資料庫中。
這裡要註意，獲取的數據包括獲取原始數據以及從原始數據中經過特征工程從原始數據中提取訓練、測試的數據。數據決定機器學習結果的上限，而演算法只是儘可能的逼近這個上限。如果數據量太大可以考慮減少訓練樣本、降維或者使用分散式機器學習系統。
3.分析
主要是進行數據發現，找出每列的最大、最小值、平均值、方差、中位數、三分位數、四分位數、某些特定值（比如零值）所占比例或者分佈規律等。瞭解這些最好的辦法就是可視化，直觀對數據進行分析。
4.特征工程
特征工程包括從原始數據中特征構建、特征提取、特征選擇。特征工程能夠使得演算法的效果和性能得到顯著的提升，有時能使簡單的模型的效果比複雜的模型效果好。 數據挖掘的大部分時間就花在特征工程上面，是機器學習非常基礎而又必備的步驟 。數據預處理、數據清洗、篩選顯著特征、摒棄非顯著特征等等都非常重要。
5.向量化
向量化是對特征提取結果的再加工，目的是增強特征的表示能力，防止模型過於複雜和學習困難,把複雜的問題簡單化。
6.拆分數據集
將數據分為兩部分。一方面是用於訓練模型；另一方面是用於評估我們訓練有素的模型的表現，來測試我們的模型是否適合。
7.模型訓練
進行模型訓練之前，要確定合適的演算法，比如線性回歸、決策樹、隨機森林、邏輯回歸、梯度提升、SVM等等。最佳方法是測試各種不同的演算法，然後通過 交叉驗證 選擇最好的一個。但如果訓練集很小，高偏差/低方差分類器（如朴素貝葉斯分類器）要優於低偏差/高方差分類器（如k近鄰分類器），更容易擬合，但是訓練集大的話，低偏差/高方差就比較適合了。
8.評估
訓練完成之後，通過拆分出來的訓練的數據來對模型進行評估，通過真實數據和預測數據進行對比，來判定模型的好壞。常見的五個方法：混淆矩陣、提升圖&洛倫茲圖、基尼繫數、ks曲線、roc曲線。
完成評估後，如果想進一步改善訓練，我們可以通過調整模型的參數來實現，然後重覆訓練和評估的過程。
9.文件整理
模型訓練完之後,要整理出不同含義的文件，確保模型能夠正確運行。
10.介面封裝,上線
通過封裝封裝服務介面，實現對模型的調用，以便返回預測結果。然後將整個機器學習模型上線。
