# 机器学习策略

# 1. 什么是机器学习策略

深度学习过程中,有太多可以做的优化选择。有些优化有效果,有些优化则针对当前的问题是南辕北辙的。

如何做出有效的优化,需要机器学习策略。

# 2. 正交化

# 2.1 什么是正交化

搭建机器学习系统的挑战之一是,可以尝试和改变的东西太多了,比如有那么多超参可以调整。有些效率很高的机器学习专家思路清晰,对于调整什么以达到何种效果有着清楚的认识。这就是正交化。

电视机设计中的正交化,就是设计出一些旋钮,使这些旋钮每个只调整图像的一个性质。

而深度学习中的正交化,就是对于深度学习要达到的四个目标,尽量找出一些方式,只对某个目标发生作用:

  • 适应训练集(达到人类程度)
  • 适应验证集
  • 适应测试集
  • 适应真实应用环境

最后更新时间: 1/1/2022, 11:09:17 PM