机器学习2017年重大进展汇总

246 阅读7分钟
原文链接: click.aliyun.com

很难相信在人工智能和机器学习领域里这一年发生了那么多的事情,很难做一个全面的系统的汇总。尽管如此,我还是尝试性的去做了一个汇总,希望能够帮助大家去回顾一下今天的科技到底发展到了何种程度。

1.Alpha Go Zero:创造者的兴起

d4f65e8c71a3902d174e1a2267a1db7415d2bc2b

如果让我必须选择今年的主要亮点,那就是AlphaGo Zero论文)。这种新方法不仅在一些最有希望的方向上有所改进(如深度强化学习),而且也证实了这种模式可以在没有数据的情况下学习的范式转变(译者认为:这是思想的转变,在商业上,给了那么些没有大量数据的创新者一个机会)。我们最近也看到了Alpha Go Zero正在推广到象棋类的其他游戏。

2.GAN:不要怕,就要GAN

f2637b230ac517e8f66e44f8749515ec81cf08c3

最近的一项元研究(meta-study )发现在GAN相关研究论文的报 告指标上存在系统性错误。尽管如此,不可否 认的是,GAN继续发挥着它的独到之处,特别是当涉及到图像空间的应用时(例如,渐进式GANpix2pix中的条件 GANSCycleGans)。

3.深度学习版的NLP:商业化的开端

今年的深度学习是NLP的天下,特别 是翻译,NLP让我们 感受到了翻译正在变得简单容易。 Salesforce提供了一个有趣的非自回 归方法,可以处理完整的句子翻译。也许 更具开创性的是Facebook 提供的无监督的方法 UPV。深度学习也成功的帮助商家让 它们的推荐系统 做的更佳的完美。然而,最近的一篇论文 也对最近的一些进展提出了质 疑,例如kNN与Deep Learning相比有多么简单 。与GAN研究一样,人工智能研究的惊人速度也会导 致科学严谨性的损失,这 也不足为奇。虽然人工智能的许 多或大部分进展来自深度学习领域,但在AI和ML 方面还有许多其他方面的不断创新也 应该是值得让人关注的。

4.理论的问题:可解释性和严密性

8431120cd085532d15be4595402768e00fc1e4a9

与上面提到的一些问题有些相关的是,许多人批评这 种方法的理论基础缺乏严密性和可解 释性。就在前不久,阿里·拉希米(Ali Rahimi)在他的NIPS 2017 谈话中将现代AI描述 为“炼金术” 。Yann Lecun在一场不可能很快解决的辩论 中迅速作出了回应。值得注意的是,今年在尝试推 进深度学习的基础上,已经 看到了很多的努力。例如,研究人员正在试图了解神经 网络如何深度泛化 。Tishby的信息瓶颈 理论也在今年作为对某些深度学习 属性的合理解释进行了长时间的辩论 。正在为今年的职业生涯庆 祝的辛顿也一直在质疑 诸如使用反向传播的 基本问题。佩德罗 ·多明戈斯(Pedro Domingos)等知名研究人员 很快进入节奏,开发 了使用不同优化技术的深度学 习方法。Hinton提出的最后一个最近的根本性变 化是使用(capsule)胶囊 (见原文 )作为卷积网 络的替代品。

5.服务商的战斗:越来越好的开发体验

如果我们看一下人工智能的工程相关的成果,那么一年来,Pytorch开始挑起热潮,成为Tensorflow的真正挑战,特别是在研究方面。Tensorflow通过在Tensorflow Fold中 发布动态网络迅速作出反应。大玩家之间的“AI之战”还有很多其他的战斗,其中最激烈的就是围绕着云。所有的主要供应商都已经加紧了,增加了他们在云中的AI支持。亚马逊已经呈现在他们的AWS,大创新,如他们最近的表现 Sagemaker 构建和部署ML车型。另外值得一提的是,更小的玩家也纷纷涌入.Nvidia最近推出了他们的GPU云,这是训练深度学习模式的另一个有趣的选择。所有的这些战斗无疑在未来都将大力推动工业升级。另外,新的 ONNX神经网络表示标准化是互操作性的重要和必要的一步。

6.始终有待解决的未来的社会问题

f721f49786a89a6f50eba70a10481cc9fcce86e7

2017年,人工智能方面的社会问题也得到了延续(升级)。伊隆·马斯克(Elon Musk)继续推动我们越来越接近杀手级AI的想法,令许多人感到沮丧。关于人工智能在未来几年会如何影响工作,也有很多讨论。最后,我们看到更多的焦点放在AI算法的可解释性和偏见上。

7.新的战场:机器学习+传统行业

最近几个月来,我一直在从事医学和医疗方面的人工智能方面的工作。我很高兴地看到,像“ 医疗保健”这样的“传统 ”领域的创新速度正在被迅速提高。AI和ML已 经应用于医学多年,从60年代和70年代的专 家系统和贝叶斯系统开始。不 过,我经常发现自己引用了几个月前的文章。今年提出的一些最近的 创新包括使用Deep RLGAN或自动 编码器来帮助患者诊断。最近人工智能的许 多进步还集中在精准医学(高度个性化的医 疗诊断和治疗)和基因组学上。例如 David Blei的最新文章通 过使用贝叶斯推断来预测 个体是否具有对疾病的遗传倾向,从而解决神 经网络模型中的因果关系。所有的大公司都投资 人工智能在医疗保健领域。 Google有几个团队,其中包括Deepmind Healthcare,他们 在医学人工智能方面提出了一些非常有趣的进展,特别是在医学影像自 动化方面。另外,苹果公司也在为苹果手表寻 找医疗保健应用程序,而 亚马逊也“秘密”地投 资于医疗保健。很明显 ,创新的空间已 经成熟。

c21812511de45a586cc6565b03668442539d67ce

Uber AI团队在深度强化学习 的背景下提出了使用遗传算法( GA)的非常有趣的想法。在这 5篇论文中,团队展示了 GA如何成为SGD的一个竞 争性替代方案。看到GA复出是件非常有趣的事情,我很高兴看到在未来几个月里它可以把我 们带到哪里。

最后,我最近阅读了关于Libratus如何在 单挑无限扑克(这是IJCAI 早期论文的一个版本)上击败专 家的科学论文 。而AlphaGo Zero确实是一个非常令人兴奋 的发展,事实上现实 中的大多数问题可以更容易地被吸收到像Poker这样的不完善的信息游戏,而不是像 Go或Chess这样的完美信息游戏。这就是为什么在这个领域的工作是一个真正令人兴奋的重要推动领域前进 。除了上面提到科学论文之外,我还建议你去阅读以下两个: 在不完全信息游戏中自我玩的深度强化学 习 ,以及DeepStack:专家级人工智能在单挑无限制扑克中的应用

本文由北邮@爱可可- 爱生活 老师推荐,阿里云云栖社区组织翻译。

文章原标题《What-are-the-most-significant-machine-learning-advances-in-2017》,

作者: Xavier Amatriain  计算机科学博士,ML研究员。

译者:虎说八道,审阅:

文章为简译,更为详细的内容,请查看原文