Explosion公司2019年NLP技术盘点与突破
一月
- 1月15日:联合创始人接受了NLP Highlights播客采访,讨论了Prodigy工具、训练语料来源以及NLP系统数据标注面临的挑战,并分享了简化这一流程的思路。
- 1月16日:联合创始人出现在德国巴伐利亚广播公司的纪录片《问问你的冰箱》中,展示了spaCy、Prodigy以及团队的日常工作。
- 1月28日:在瑞士洛桑的应用机器学习日活动中,联合创始人发表了题为《使用spaCy和Prodigy进行NLP的实用迁移学习》的演讲,重点讨论了使用大型原始文本语料库信息初始化模型的趋势,以及如何在spaCy和Prodigy中应用此类技术。
二月
- 2月1日:构建了一个针对新斯坦福NLP库的封装器,使其最先进的通用依赖模型可直接在spaCy流程中使用。
- 2月1日:合并了Sofie Van Landeghem提交的重要PR,通过重构正则表达式并用re模块替换原有实现,在不影响准确率的前提下,将各语言的tokenization速度提升了2-3倍。
- 2月6日:发布了一段FAQ视频,其中分享了针对NLP标注和训练的实用技巧与建议。
- 2月18日:Prodigy v1.7.0发布,该版本支持在单实例中设置多用户会话,引入了为Prodigy Teams开发的多人协作功能,并增加了即时提交设置及对所有界面自定义CSS和JavaScript的支持。
三月
- 3月9日:联合创始人在TalkPython播客中讨论了如何构建软件业务,分享了Explosion背后的故事。
- 3月18日:spaCy v2.1正式发布,修复了大量待处理问题,大幅优化文档,提升了速度与准确率,简化了安装流程,并增加了ULMFit/BERT/ELMo风格的语言模型预训练等新功能。
- 3月20日:Prodigy升级至v1.8以支持spaCy v2.1,新增了预训练支持、用于审核标注和解决冲突的Recipe、多项选择文本分类、便捷的数据集合并等功能。
- 3月25日:联合创始人在波兹南的WiDS活动上分享了NLP中的实用迁移学习。
四月
- 4月17日:发布了广受欢迎的免费课程《使用spaCy进行高级NLP》,该交互式应用旨在帮助任何想学习spaCy的人。
五月
- 5月7日:联合创始人在TWiML播客中探讨了spaCy对工业级用例的关注以及开源生态。
- 5月12日:spaCy v2.1.4发布,改进了训练命令并修复了常规错误。
六月
- 6月3日:联合创始人在Data Hack Radio播客中回顾了spaCy的早期发展、指导库开发的核心思想,并将机器学习与Web开发进行类比。
- 6月24日:Sofie Van Landeghem加入团队。她拥有12年机器学习与NLP工程经验,现为spaCy核心开发者,主要负责spaCy的新实体链接组件,并参与了Hugging Face Neuralcoref组件的开发。
七月
- 7月4-6日:在柏林举办了首届大型会议spaCy IRL,活动吸引了200名与会者,13位演讲者,包括Yoav Goldberg和Sebastian Ruder的主旨演讲,同时举办了培训课程。
- 7月18日:联合创始人在Python Bytes播客中讨论了fast.ai的NLP新课程,以及使用Polyaxon进行模型训练和实验管理。
- 7月29日:联合创始人被Mouse vs. Python博客评为本周PyDev,并在采访中分享了编程经历、与Python的结缘及当前项目。
八月
- 8月2日:发布spacy-transformers库,通过新开发的接口库连接spaCy与Hugging Face的实现,支持在spaCy中使用BERT、GPT-2、XLNet等大型Transformer模型。
- 8月21日:推出新视频系列《使用spaCy进行NLP入门》,由Vincent Warmerdam主讲。
- 8月29日:联合创始人在BR.de的文章中讨论了过度寄望于人工智能的潜在陷阱。
九月
- 9月2日:Walter Henry加入团队,主要负责协助团队进行各类运营工作。
- 9月4日:spacy-transformers v0.4.0发布,增加了对Hugging Face DistilBERT的支持,并提供了预打包的DistilBERT模型。
- 9月15日:计算语言学家Adriane Boyd加入团队,拥有自2005年以来的研究经验,2012年获得博士学位。她先参与社区贡献,后全职加入,致力于内部数据集与评估系统,并对库进行了大量改进。
- 9月19日:为感谢社区,向超过1100人发送了第二轮贴纸。
- 9月24日:Vincent在《使用spaCy进行NLP入门 #2》中,演示了如何构建基于规则的匹配器来引导NER流程。
十月
- 10月1日:FastAPI作者Sebastián Ramírez加入团队,从哥伦比亚迁至柏林,参与即将推出的Prodigy Teams及其他项目开发。
- 10月2日:spaCy v2.2发布,主要新特性包括:新增挪威语和立陶宛语核心模型、荷兰语NER增加更多标签、磁盘占用减少5-10倍、短语匹配速度提升10倍、高效序列化Doc对象集合、以及用于文本分类训练和数据调试的CLI。
- 10月10日:在布鲁塞尔META-FORUM 2019上,与某中心一同荣获META杰出技术认可奖。
- 10月12-15日:在印度PyCon大会上,团队成员演示了如何通过spacy-transformers在spaCy中使用BERT等大型Transformer模型,并发表了题为《让他们写代码》的主旨演讲。
- 10月31日:spaCy v2.2.2发布,新增nlp.pipe的多进程支持、简化GPU安装与设置、初步支持卢森堡语、模型修复及对未来API的前向兼容支持。
十一月
- 11月1日:联合创始人接受德国杂志Kulturnews采访。
- 11月8日:在慕尼黑的Hacking Machine Learning聚会上,联合创始人分享了关于spacy-transformers的内容。
- 11月9日:在Zündfunk Netzkongress上,联合创始人发表了题为《人工智能:超越炒作》的演讲,探讨了盲目相信技术的危险以及对过去浪漫化的问题。
- 11月9日:联合创始人就其在Zündfunk的演讲接受了德国巴伐利亚广播电视台的简短采访。
- 11月22日:sense2vec项目更新,发布了新库、模型和演示应用,基于Reddit评论数十亿词训练的词向量,对比了2015年至2019年的语言变化。
- 11月22日:开始开源部分数据集和NLP示例项目,每个项目包含1000个标注示例、训练/评估脚本、结果、数据可视化工具以及在Reddit上训练的强大tok2vec权重。
- 11月28日:联合创始人登上SourceSort平台,讨论如何用商业开发者工具Prodigy来补充拥有超过15000颗星的开源项目spaCy。
十二月
- 12月7日:Vincent在《使用spaCy进行NLP入门 #3》中,讲解了如何将基于规则的原型过渡到NER模型,以获得更快的实验结果并建立机器学习基线。
- 12月9日:联合创始人总结了2019年AI领域的关键趋势,并展望了2020年的发展。
- 12月9日:团队成员在Practical AI播客中讲述了spaCy的历史,并探讨了NLP的最新趋势。
- 12月18日:Prodigy v1.9发布,包含全新网站、大量新文档、新的训练和数据转换Recipe、用于组合界面的“块”UI、自由文本输入UI以及众多其他功能。FINISHED