ML.net已經進到了1.5版本。作為Microsoft官方的機器學習模型,你不打算用用? 一、前言 ML.net可以讓我們很容易地在各種應用場景中將機器學習加入到應用程式中。這是這個框架很重要的一點。 通過ML.net,我們可以使用手中的可用數據,進行預測、分析、檢測,而不需要進行過於複雜的編程。 ...
ML.net已經進到了1.5版本。作為Microsoft官方的機器學習模型,你不打算用用?
一、前言
ML.net可以讓我們很容易地在各種應用場景中將機器學習加入到應用程式中。這是這個框架很重要的一點。
通過ML.net,我們可以使用手中的可用數據,進行預測、分析、檢測,而不需要進行過於複雜的編程。
ML.net的核心,同樣是機器學習模型。它採用同樣的步驟,通過指定演算法來訓練模型,將輸入數據轉換為所需的預測數據。
更重要的是,ML.net基於.NET Core,這讓它可以非常簡單地跨平臺,在Windows、Linux、MacOS上運行,併成為我們服務端的一部分內容。
回到今天的主題。
我們用實際的例子,完成一個通過歷史銷售數據進行單變數時序分析(單譜分析),以預測未來銷量的需求。
為了防止不提供原網址的轉載,特在這裡加上原文鏈接:https://www.cnblogs.com/tiger-wang/p/13150021.html
二、開發環境&基礎工程
這個Demo的開發環境是:Mac + VS Code + Dotnet Core 3.1.2。
$ dotnet --info
.NET Core SDK (reflecting any global.json):
Version: 3.1.201
Commit: b1768b4ae7
Runtime Environment:
OS Name: Mac OS X
OS Version: 10.15
OS Platform: Darwin
RID: osx.10.15-x64
Base Path: /usr/local/share/dotnet/sdk/3.1.201/
Host (useful for support):
Version: 3.1.3
Commit: 4a9f85e9f8
.NET Core SDKs installed:
3.1.201 [/usr/local/share/dotnet/sdk]
.NET Core runtimes installed:
Microsoft.AspNetCore.App 3.1.3 [/usr/local/share/dotnet/shared/Microsoft.AspNetCore.App]
Microsoft.NETCore.App 3.1.3 [/usr/local/share/dotnet/shared/Microsoft.NETCore.App]
首先,在這個環境下建立工程:
- 創建Solution
% dotnet new sln -o demo
The template "Solution File" was created successfully.
- 這次,我們用Console創建工程
% cd demo
% dotnet new console -o demo
The template "Console Application" was created successfully.
Processing post-creation actions...
Running 'dotnet restore' on demo/demo.csproj...
Determining projects to restore...
Restored demo/demo.csproj (in 143 ms).
Restore succeeded.
- 把工程加到Solution中
% dotnet sln add demo/demo.csproj
基礎工程搭建完成。
三、引入ML.net庫
為了使用ML.net,我們需要引入Microsoft.ML
庫:
% cd demo
% dotnet add package Microsoft.ML
除此之外,本文是基於時序的預測,還需要引入時序庫Microsoft.ML.TimeSeries
:
% dotnet add package Microsoft.ML.TimeSeries
我們今天用到的演算法是單譜分析(SSA)。SSA會將時序分解為一組主要成分, 並將這些成分解釋為信號,對應於趨勢、噪音、季節性及許多其他的因素,然後重新構建這些成分,用來預測未來某個時間的值。
四、準備數據
為了這個DEMO,我準備了一個包含全年365天實際銷售金額的數據。
其中這個數據又分為了兩部分,第一部分是前11個月的數據,用來做訓練,第二部分是12月一個月的數據,用來評估模型。
兩個數據文件均為CSV文件,數據結構完全相同,下麵是一段內容範例:
2018-12-21,17959.0
2018-12-22,19537.03
2018-12-23,20068.0
2018-12-24,20013.0
2018-12-25,21005.0
2018-12-26,16876.0
2018-12-27,15150.0
2018-12-28,15669.0
2018-12-29,25048.0
2018-12-30,25236.0
五、代碼開發
- 準備一個輸入模型ModelInput
public class ModelInput
{
[LoadColumn(0)]
public DateTime action_time { get; set; }
[LoadColumn(1)]
public float count { get; set; }
}
這個模型對應數據文件的結構,分兩個欄位,第一個是日期,第二個是對應的銷售金額。
- 準備另一個輸出模型ModelOutput
public class ModelOutput
{
public float[] forecasted_count { get; set; }
public float[] lower_count { get; set; }
public float[] upper_count { get; set; }
}
這個模型跟隨預測結果的輸出,其中:
- forecasted_count - 預測時間段內的預測值
- lower_count - 預測時間段內預測值的下限
- upper_count - 預測時間段內預測值的上限
- 初始化機器學習的實例
MLContext mlContext = new MLContext();
執行所有 ML.NET 操作都是從MLContext
類開始,初始化 MLContext
將創建一個新的 ML.net 環境,併在模型創建工作流對象之間共用該環境。
- 載入數據
ML.net有多種數據的載入方式,可以通過文件、資料庫、JSON/XML、記憶體中載入數據,甚至可以用自定義的資料庫連接載入數據。
本文的DEMO中,數據在CSV文件中,所以,我們採用下麵的方式載入:
static readonly string _data1Path = Path.Combine(Environment.CurrentDirectory, "data1.csv");
static readonly string _data2Path = Path.Combine(Environment.CurrentDirectory, "data2.csv");
static void Main(string[] args)
{
MLContext mlContext = new MLContext();
IDataView data1View = mlContext.Data.LoadFromTextFile<ModelInput>(_data1Path, separatorChar: ',', hasHeader: false);
IDataView data2View = mlContext.Data.LoadFromTextFile<ModelInput>(_data2Path, separatorChar: ',', hasHeader: false);
}
IDataView
是數據的承載空間。
- 定義時序分析管道
var forecastingPipeline = mlContext.Forecasting.ForecastBySsa(
outputColumnName: "forecasted_count",
inputColumnName: "count",
windowSize: 7,
seriesLength: 30,
trainSize: 334,
horizon: 7,
confidenceLevel: 0.95f,
confidenceLowerBoundColumn: "lower_count",
confidenceUpperBoundColumn: "upper_count");
前面有說過,我們採用單譜分析,所以代碼中我們選擇了mlContext.Forecasting.ForecastBySsa
。
解釋一下這裡面的幾個參數:
- trainSize - 數據樣本的數量,也就是訓練數據的行數(在這個文件中,一行是一個數據樣本,共334行)
- seriesLength - 從數據樣本按時序採樣時的間隔,這裡是30天
- windowSize - 樣本周期的天數,這裡是7天
- horizon - 預測結果的天數
- confidenceLevel - 上下限的可信度。預測屬於合理猜測,不總是完全準確。
- 其它幾個參數,對應輸入輸出模型的欄位名
- 訓練模型
管道定義完成,數據載入完成,下麵要進行數據訓練。
SsaForecastingTransformer forecaster = forecastingPipeline.Fit(data1View);
跟隨上一節,管道是單譜管道,所以訓練也是單譜訓練SsaForecastingTransformer
。
程式執行到這裡,數據訓練完成。
- 模型評估
模型評估不是必須環節。
模型評估的意義在於:通過評估模型的性能,來調整管道的參數,以達到最佳的預測效果。
模型評估也有多種方式。在這裡,我們採用平均絕對誤差
和均方根誤差
來做評估依據。
static void Evaluate(IDataView testData, ITransformer model, MLContext mlContext)
{
IDataView predictions = model.Transform(testData);
IEnumerable<float> actual =
mlContext.Data.CreateEnumerable<ModelInput>(testData, true)
.Select(p => p.count);
IEnumerable<float> forecast =
mlContext.Data.CreateEnumerable<ModelOutput>(predictions, true)
.Select(p => p.forecasted_count[0]);
var metrics = actual.Zip(forecast, (actualValue, forecastValue) => actualValue - forecastValue);
var MAE = metrics.Average(error => Math.Abs(error));
var RMSE = Math.Sqrt(metrics.Average(error => Math.Pow(error, 2)));
Console.WriteLine("評估結果");
Console.WriteLine("---------------------");
Console.WriteLine($"平均絕對誤差: {MAE:F3}");
Console.WriteLine($"均方根誤差: {RMSE:F3}\n");
}
在這個方法中,我們取評估數據的實際值actual
和通過訓練數據生成的預測值forecast
,計算兩個誤差並輸出。
在Main
中調用此方法:
static void Main(string[] args)
{
/* 這兒是前邊訓練的代碼,略過 */
Evaluate(data2View, forecaster, mlContext);
}
static void Evaluate(IDataView testData, ITransformer model, MLContext mlContext)
{
/* 這兒是評估模型的方法,上面有,略過 */
}
輸出結果類似於以下內容:
評估結果
---------------------
平均絕對誤差: 23.442
均方根誤差: 174.236
兩個指標:
- 平均絕對誤差 - 度量預測與實際值之間的接近程度。 此值介於 0 到無限大之間。 越接近 0,模型的質量越好。
- 均方根誤差 - 彙總模型中的錯誤。 此值介於 0 到無限大之間。 越接近 0,模型的質量越好。
- 預測
訓練模型調整到滿意後,即可開始預測的工作:
var forecastEngine = forecaster.CreateTimeSeriesEngine<ModelInput, ModelOutput>(mlContext);
ModelOutput forecast = forecastEngine.Predict();
這兩行代碼,在記憶體中載入前邊訓練好的模型,併進行預測操作。預測數據的結果放在forecast
中。
對應於分析管道定義中的horizon
,預測數據包含7天的預測結果。
- 預測結果輸出