4个常见的机器学习陷阱以及如何避免这些陷阱

发表于2022年7月4 日｜最后更新。2022年7月25日

1.缺少业务调整

机器学习的原罪在于大多数项目是如何诞生的。

很多时候，一群数据科学家在构思机器学习项目时都会想："这个数据很有趣；如果...... "岂不是很酷？

而正是这种思维方式将ML项目变成了科学实验。

这类项目中的模型仍有可能产生一些有价值的东西--但如果该项目没有解决一个紧迫而痛苦的需求，它就不会得到企业利益相关者的时间或关注。或者更糟的是，它可能成为更接近于区块链的东西：一个寻找问题的酷技术。 (还可以阅读。 区块链技术简介.)

机器学习项目应该从关注最紧迫的业务专业人员开始，然后评估需要哪些资源来解决这些问题--而不是从手头的干净数据开始，然后试图找到一个他们可以解决的问题。

在启动机器学习项目之前，要问的好问题包括：。

这个问题是否紧急？据谁说的？
为什么机器学习是这个问题的正确解决方案？
我们将如何定义成功？

2.糟糕的机器学习培训

假设你的项目有一个非常难的、有价值的商业问题在眼前。下一步是收集足够的干净数据来训练模型。

这就是数据科学家的悖论：为了消除别人的劳累，他们必须沉浸在其中。

根据Anaconda的数据，数据科学家在数据准备任务上花费了大约45%的时间，包括加载和清理数据。

有一个相当大的机会，在所有这些工作之后，可能只是没有足够的合适或有代表性的训练数据。而且，像任何其他人工任务一样，会引入人为错误的风险。 (还可以阅读。 自动化。数据科学和机器学习的未来？)

微调你的ML模型也是一种挑战。它可能是过拟合的，即学得太多，也可能是欠拟合的，即学得太少。

你问，一个机器学习模型怎么可能学得太好？

有一个著名的例子，一个模型被训练来区分哈士奇和狼。它在训练中非常准确，但在生产中却开始失败。问题出在哪里？所有狼的照片的背景都有雪，而哈士奇却没有。这是一个探测雪的模型，而不是一个探测狼的模型。

不幸的是，机器学习培训也许是一个你不希望得到100%分数的测试。

3.数据质量问题

无论是在训练中还是在部署中，如果数据不好，就不可能有一个有效的机器学习模型。就像他们说的，垃圾进，垃圾出。

挑战在于，机器学习模型对数据的渴望。他们总是想要更多的数据--只要它是可靠的。

然而，坏数据可以通过几乎无限多的方式被引入到好的数据管道中。有时，它可能是一个嘈杂的异常，错误很快就会被发现；其他时候，它可能是一个渐进的数据漂移案例，随着时间的推移降低了你的模型的准确性。无论哪种方式，它都是坏事。

这是因为你建立这个模型是为了自动化或告知一个痛苦的业务问题--所以当准确性下降时，信任度也会下降，后果是很严重的。例如，我的一位同事与一家金融公司谈过，该公司正在使用一个机器学习模型来购买符合某些标准的债券。糟糕的数据使其下线，几周后才被信任，重新投入生产。 (也可以阅读。 金融科技的未来。金融机构的人工智能和数字资产.)

支持机器学习模型的数据基础设施需要不断测试和观察--最好是以一种规模化、自动化的方式。