我们试着利用代码可视化来提高模型预测能力~
比如说,你正在编写一个漂亮清晰的机器学习代码(例如线性回归)。你的代码还不错,首先按照往常一样用 train_test_split 这样的函数将数据集分成「训练集和测试集」两个部分,并加入一些随机因素。你的预测可能稍微欠拟合或过拟合,如下图所示。
图:欠拟合和过拟合情况下的预测结果
这些结果没有变化。这个时候我们能做什么呢?
正如题目所建议的,在学习了线性回归之后,下一件有趣的事情就是交叉验证了,因为它可以使用 K 折策略(K-Fold strategy)提高模型的预测能力。那 K 折究竟是什么呢?下面我们将用代码对此进行解释。
完整的代码如下:
图:交叉验证的可视化
代码解析:
以上代码可分为 4 个步骤。
1. 加载并分割目标数据集。
图:加载数据集
将该数据集中的目标复制到 y 变量中。如果想看到数据集,请将 print 行的注释取消。
2. 模型选择
图:模型选择(LinearRegression())
为简化过程,我们将选择使用线性回归。如果想了解更多,请查看文章《Linear Regression: The Easier Way》。
3. 交叉验证
图:在 sklearn 中进行交叉验证
这是 sklearn 中的流程,也是一个函数:
cross_val_predict(model, data, target, cv)
其中,
- model 是我们选来要进行交叉验证的模型。
- data 是数据。
- target 是数据的目标值。
- cv(可选项)是数据折叠的总次数(K 折)。
在这个流程中,我们不像往常一样将数据集分成训练集和测试集两部分,如下图所示。
图:训练集(蓝色)和测试集(红色)
我们将数据集平均分成 K 个部分(K 折或者 cv)。为了提高预测精度并实现更好地泛化,我们会在较大的数据集中进行模型训练,在较小的数据集上测试。这里,我们把 cv 设置成 6。
图:6 个相同的部分
现在,模型分割的第一次迭代如下图所示,其中红色的是测试集,蓝色的是训练集。
图:交叉验证的第一次迭代
第二次迭代如下图所示:
图:交叉验证的第二次迭代
以此类推,直到最后一次迭代,如下图所示:
图:交叉验证的第六次迭代
4. 使用 Matplotlib 进行数据可视化
图:使用 Matplotlib 进行可视化
为了将结果可视化,我们导入了 matplotlib 库,然后创建一个 subplot(子图)。
创建采用黑色(即 (0,0,0))边框的散点。
使用 ax.plot 计算两个轴的最大最小值,k-- 代表线型,lw=4 代表宽度。然后,给 x 轴和 y 轴加上标签。最后,用 plt.show() 展示图像。
结果如下:
图:预测结果
这张图展示了使用线性回归模型对 Boston 数据集进行 K 折交叉验证的结果。
我知道其实还有很多种交叉验证方法,但 K 折交叉验证是一个很好、很简单的起点。
完整代码地址:https://github.com/Sagarsharma4244/Cross-Validation