数据拾光者

摘要：本篇主要分享能带来线上文本分类效果有效提升的RoBERTa-wwm-ext模型。首先介绍背景，RoBERTa-wwm-ext模型不管在公共数据集上还是在我们线上真实分布数据集上都能带来不错的效果提升，需要重点分析下效果提升的原因。RoBERTa-wwm-ext模型相比于BE...

摘要：本篇从项目实战的角度基于BERT和指针网络来实现实体抽取任务。首先介绍了实体抽取的背景和任务分析；然后直接实战抽取实体，主要分成数据预处理、文本转化成特征、模型构建、模型训练和评估、测试效果五个步骤，构建了一个实体抽取模型的baseline。后续会结合实际业务进行优化，对实...

摘要：本篇主要分享了项目实践中的BERT文本分类优化策略和原理。首先是背景介绍及优化方向，其中优化方向主要分成从数据层面优化和模型层面优化；然后通过实验的方式重点分析了分类器优化策略和原理，主要从优化BERT预训练权重和分类器模型内部优化策略优化分类器效果；最后分享了一些关于BE...

摘要：本篇主要学习和分析BERT在美团搜索排序中的项目实践。首先介绍了业务背景，主要对比了美团搜索业务场景和我们的应用场景；然后讲了下计算query和doc相关性的方法，主要包括计算字面相关性和计算语义相关性，重点介绍了基于BERT的语义相关性内容；最后也是本篇的重点，分析了美团...

摘要：本篇从理论到实战重点分析了bert-as-service开源项目。首先讲了下学习bert-as-service的起因，因为实际业务中需要使用bert做线上化文本推理服务，所以经过调研选择bert-as-service开源项目；然后从理论的角度详解了bert-as-servi...

摘要：本篇重点分享了保险相关的知识。首先讲保险是干啥的，引入保险的作用和意义，还讲了一些保险的知识点；然后分别根据作用、产品类型和时间对保险进行划分；接着讲了保险的购买途径和购买步骤。购买途径主要包括线上网络购买和线下代理经纪人购买；最后重点讲了下买保险有哪些不错的建议，包括买保...

摘要：本文主要解决在样本数量较少、样本不均衡或者需要提高模型的鲁棒性的场景下通过样本增强技术提升模型的泛化能力的问题。主要讲了近几年常用的样本增强技术，其中包括回译技术、词汇替换技术、随机噪声引入技术和生成式的方法等等。通过这些技术我们可以轻松的实现增加训练样本的目的。希望对样本...

摘要：本文主要介绍阿里的深度兴趣网络DIN模型。为了解决推荐领域中用户历史行为包含大量用户兴趣信息，但只有一小部分用户兴趣信息会最终影响用户点击行为的问题，阿里引入Attention机制提升相关商品的权重同时降低非相关商品的权重，最终实现对用户历史行为进行加权的目的。同时讲了DI...

摘要：推荐系统领域最近大火的Graph Embedding可以很好的解决传统的Sequence Embedding无法解决现实世界中诸如社交关系等图结构的问题。本文重点讲解了Graph Embedding中具有代表性的DeepWalk、LINE、SDNE、Node2Vec和阿里的...