学术论文

本系列文章围绕 GoTerra 的真实迁移历程展开，逐步拆解 BigQuery 迁移至 MaxCompute 过程中的关键挑战与技术创新。

本文将介绍阿里云 PAI 团队近期发布的 BladeDISC++项目，探讨在动态场景下如何优化深度学习训练任务的显存峰值，

近日，人工智能领域全球顶级学术会议 NeurIPS 正式召开。阿里云 PAI 团队的论文被 NeurIPS 2024 收录，并入选 Spotlight。

阿里云人工智能平台 PAI 与复旦大学王鹏教授团队合作，在自然语言处理顶会 EMNLP 2024 上发表论文《Distilling Instruction-following Abilities of

阿里云人工智能平台 PAI 与华南理工大学金连文教授团队合作，在自然语言处理顶会 EMNLP 2024 上发表论文。

阿里云与华南理工大学金连文教授团队、复旦大学王鹏教授团队共同研发的论文入选 EMNLP2024。此次入选标志着阿里云人工智能平台 PAI 在自然语言处理和多模态算法能力方面研究获得了学术界认可。

《面向StableDiffusion的多目标图像编辑算法VICTORIA》论文入选MM2024，此次入选标志着阿里云人工智能平台PAI在图像编辑算法方面的研究获得了学术界的充分认可。

阿里云计算平台大数据基础工程技术团队主导，与浙江大学合作论文《Cluster-Wide Task Slowdown Detection in Cloud System》

阿里云计算平台大数据基础工程技术团队主导，与浙江大学合作的论文《Cluster-Wide Task Slowdown Detection in Cloud System》被数据挖掘领域顶会接收

2024年5月，关于推荐模型自动编译优化的论文 《RECom: A Compiler Approach to Accelerate Recommendation Model Inference wit

阿里云人工智能平台PAI与集团安全部内容安全算法团队、华东师范大学何晓丰教授团队合作，在自然语言处理顶级会议ACL2024上发表论文

阿里云人工智能平台PAI与阿里集团安全部内容安全算法团队、华东师范大学何晓丰教授团队合作，在自然语言处理顶级会议ACL2024上发表论文。

阿里云人工智能平台PAI与华南理工大学金连文教授团队合作，在自然语言处理顶级会议 ACL 2024 上发表论文

阿里云人工智能平台PAI的多篇论文在ACL2024上入选。 论文成果是阿里云与阿里集团安全部、华南理工大学金连文教授团队、华东师范大学何晓丰教授团队共同研发。

KECP是一种面向机器阅读理解的小样本学习算法，采用Prompt-Tuning作为基础学习范式，在仅需要标注极少训练数据的情况下，在给定文章中抽取满足要求的文本作为答案。

这是一种面向命名实体识别的小样本学习算法，采用两阶段的训练方法，检测文本中最有可能是命名实体的Span，并且准确判断其实体类型，在仅需要标注极少训练数据的情况下，提升预训练语言模型在命名实体识别任务上

UPT是一种面向多种NLP任务的小样本学习算法，致力于利用多任务学习和预训练增强技术，在仅需要标注极少训练数据的情况下，提升大规模预训练语言模型在多种场景下的模型精度。

论文通过减少模型稀疏训练过程中需要更新的参数量，从而减少大模型稀疏训练的时间以及资源开销，是首个大模型参数高效的稀疏训练算法PST。

高效大模型训练框架Whale（EPL）入选USENIX ATC'22，支持异构GPU集群的超大规模模型的高效的分布式训练框架Whale

本文主要介绍了论文主导通过引入稀疏自注意力的方式来提高Transformer模型处理长序列的效率和性能。