什么是交叉驗(yàn)證？什么是網(wǎng)格搜索？

更新時(shí)間:2021年10月28日15時(shí)32分來源:傳智教育瀏覽次數(shù):

什么是交叉驗(yàn)證？
交叉驗(yàn)證就是將拿到的訓(xùn)練數(shù)據(jù)，分為訓(xùn)練和驗(yàn)證集。以下圖為例：將數(shù)據(jù)分成4份，其中一份作為驗(yàn)證集。然后經(jīng)過4次(組)的測(cè)試，每次都更換不同的驗(yàn)證集。即得到4組模型的結(jié)果，取平均值作為最終結(jié)果。又稱4折交叉驗(yàn)證。

我們之前知道數(shù)據(jù)分為訓(xùn)練集和測(cè)試集，但是為了讓從訓(xùn)練得到模型結(jié)果更加準(zhǔn)確。做以下處理

1.訓(xùn)練集：訓(xùn)練集+驗(yàn)證集

2.測(cè)試集：測(cè)試集

交叉驗(yàn)證目的：為了讓被評(píng)估的模型更加準(zhǔn)確可信

什么是網(wǎng)格搜索(Grid Search)?

通常情況下，有很多參數(shù)是需要手動(dòng)指定的(如k-近鄰算法中的K值)，這種叫超參數(shù)。但是手動(dòng)過程繁雜，所以需要對(duì)模型預(yù)設(shè)幾種超參數(shù)組合。每組超參數(shù)都采用交叉驗(yàn)證來進(jìn)行評(píng)估。最后選出最優(yōu)參數(shù)組合建立模型。
交叉驗(yàn)證，網(wǎng)格搜索(模型選擇與調(diào)優(yōu))API：

　sklearn.model_selection.GridSearchCV(estimator, param_grid=None,cv=None)

　　1.對(duì)估計(jì)器的指定參數(shù)值進(jìn)行詳盡搜索

　　2.estimator：估計(jì)器對(duì)象

　　3.param_grid：估計(jì)器參數(shù)(dict){“n_neighbors”:[1,3,5]}

　　4.cv：指定幾折交叉驗(yàn)證

　　5.fit：輸入訓(xùn)練數(shù)據(jù)

　　6.score：準(zhǔn)確率

　結(jié)果分析：

　　1.bestscore__:在交叉驗(yàn)證中驗(yàn)證的最好結(jié)果

　　2.bestestimator：最好的參數(shù)模型

　　3.cvresults:每次交叉驗(yàn)證后的驗(yàn)證集準(zhǔn)確率結(jié)果和訓(xùn)練集準(zhǔn)確率結(jié)

猜你喜歡：