参加wave summit的一天

139 阅读11分钟

🐧今天百度的wave summit2024在北京举办,企鹅小弟作为开发者的一员去wave summit参加

今年 Wave Summit 大会现场汇聚了众多业界重量级人物,比如百度首席技术官王海峰博士,同时也是深度学习技术及应用国家工程研究中心的领头人,他将与我们分享他的洞见。此外,还有数百位行业领袖、知名学者、技术大咖以及开源项目的创始人,他们将围绕大模型技术的最新进展、开源生态的构建、产业支持以及软硬件的深度融合等话题,为我们这些开发者带来宝贵的分享和交流。

IMG_20240628_131437.jpg

主会场开始之前

赞助商:Intel

先在百度和合作企业周围溜达溜达。intel给百度推理提供cpu上算力支持。先走到了intel的展台。intel推出的第四代和第五代至强可扩展处理器及其内置的intel高级矩阵扩展(AMX) 能进一步提高AI性能。IMG_20240628_131510.jpg

文心一言:

这位朋友相信大家都很熟悉了。它是国内很早就推出的大语言模型,文心一言(Ernie Bot)是由百度开发的中文预训练语言模型,其全名为“Enhanced Representation through kNowledge Integration”。它是基于百度的深度学习平台飞桨(PaddlePaddle)进行训练和优化的大语言模型。 IMG_20240628_130541.jpg

企鹅小弟对于飞桨文心生态的最新数据感到无比自豪和振奋。最新数据显示,飞桨文心生态已经吸引了1300万开发者的加入,这不仅证明了飞桨文心生态的强大吸引力,也展现了其在技术社区中的深远影响力。

更令人瞩目的是,飞桨和文心已经服务了24.4万家企事业单位,基于飞桨和文心创建的模型数量高达89.5万个。这些数字背后,是无数开发者的辛勤工作和创新精神的体现,也是飞桨文心生态持续繁荣发展的生动写照。

文心一言的用户规模已经突破2亿,而文心大模型的日均调用量也达到了2亿次。这不仅说明了文心一言和文心大模型在用户中的广泛接受度,更彰显了其在实际应用中的强大能力。

本届大会,我们不仅将见证飞桨和文心大模型技术进化的成果,还将深入了解飞桨星河社区以及文心一言、智能代码助手Comate等大模型应用产品的最新动态。这些分享将直接关系到我们千万开发者的切身使用体验和权益,让我们能够更好地利用这些工具和平台,提升我们的开发效率和创新能力。

下游应用矩阵:

这次大会的AI体验互动环节充满期待。AI技术不仅为创意提供了无限可能,更为我们这些开发者带来了前所未有的机遇。这次大会,正是我们探索AI魅力、体验创新技术的最佳舞台。

IMG_20240628_130555.jpg

此外,几百个优质Prompt和文心一言的一万种打开方式,将为我们打开创意的大门。在这里,我们可以发现AI在不同领域的应用潜力,激发我们在学习成长和职场提效等方面的能力。

IMG_20240628_130605.jpg

AI濒危守护&甲骨文探索

IMG_20240628_130656.jpg 更让人感觉有趣的还是在百度拓宽了对场景的探索,和IFAW合作的濒危动物保护和AI甲骨文探索等AI赋能领域探索更多。 连古老的甲骨文也已经被 AI 焕活,变得能与我们对话。点击甲骨文,还可以看到大模型生成的释义。

主会场:

文心4.0Turbo发布

两个月前,文心大模型4.0工具版的推出已经为我们带来了很多便利和创新的可能性。而今天,文心大模型4.0 Turbo的发布,无疑是在原有基础上的一次重大飞跃。

这次升级,不仅在处理速度上有了显著的提升,而且在效果上也更加出色。这意味着我们开发者可以更快地获取结果,同时享受到更高质量的输出。这对于提高开发效率和优化用户体验都是极大的利好。

目前,文心一言的网页版和APP已经开始陆续上线,这为我们提供了更多的接入方式和使用场景。无论是在办公室还是在路上,我们都可以随时随地利用文心一言的强大功能。

同时,供开发者使用的API也已经上线,这为我们提供了更灵活的开发选项。我们可以根据项目需求,定制化地调用文心大模型的能力,实现更加个性化和高效的开发流程。这是一个依托于飞桨平台,在预训练大模型上进行知识增强,检索增强,对话增强的大模型。

IMG_20240628_141428.jpg

我对飞桨新一代深度学习平台和文心大模型4.0 Turbo的结合感到无比激动。这不仅仅是技术的一次飞跃,更是我们开发者的一次大福音。

首先,百度在大模型训练数据的体量上做了大幅度的提升,同时优化了数据的分布和质量,这为训练算法的迭代提供了坚实的基础。在此基础上,有监督精调、人类反馈的强化学习、提示词工程等调优技术不断进步,让我们的模型更加精准和智能。

特别值得一提的是,文心大模型独有的知识增强、检索增强和对话增强技术也有了显著的改进。这些技术的升级,无疑将进一步提升我们模型的理解和交互能力。

智能体能力在文心4.0 Turbo上也有了质的飞跃。通过进一步的思考增强训练,智能体在理解、规划、反思和进化等能力上都有了显著提升。现在,我们的大模型Agent不仅能够可靠执行任务,还能自我进化,甚至在一定程度上将思考过程白盒化,让AI像人一样思考和行动。

目前,文心大模型系列已经涵盖了从轻量级到高性能的多种模型,以及智能体技术,为开发者提供了广泛的应用场景。无论是文心轻量级模型的出色性能和成本表现,还是文心3.5的通用性,或是文心4.0的深入理解和逻辑推理能力,都能满足我们不同的开发需求。

而新发布的文心大模型4.0 Turbo,更是在保持优秀效果的同时,实现了速度的大幅提升。这将极大地提高我们的开发效率,让我们能够更快地将想法转化为现实。

更多的场景:

IMG_20240628_142255.jpg

我对「农民院士智能体」的推出感到非常振奋。这个智能体不仅是技术与农业结合的典范,更是人工智能在实际应用中的一次重大突破。

在云南省澜沧拉祜族自治县,由于土地贫瘠和自然灾害频发,水稻种植曾经是一项极具挑战的任务。但是,朱有勇院士及其团队的到来,为当地带来了科技扶贫的希望。他们不仅传授了旱地优质稻等作物的种植知识,还极大地提升了当地农民的种植技术水平。

然而,农业生产是一个复杂的过程,总会遇到各种具体问题。如果农民能够随时向专家咨询,那么他们在种植旱地优质稻等作物时将更加得心应手。这就是人工智能时代所能提供的解决方案。

在WAVE SUMMIT大会上,百度展示了与朱有勇院士团队共同打造的「农民院士智能体」。这个智能体基于文心智能体平台,学习了朱院士的研究成果和农业知识,能够为农民提供专业、详尽的解答。

这不仅极大地方便了农民,也提高了农业生产的效率和质量。农民现在可以随时随地向智能体提问,无论是关于种植技术、病虫害防治还是土壤管理等问题,都能得到及时、准确的回答。

PaddlePaddle3.0:

(终于要讲到飞桨了,作为Paddle的贡献者听的心潮澎湃

Paddle在新版本的设计上,百度展现了前瞻性的思维和对大模型发展趋势的深刻理解。他们不仅考虑到了异构多芯片的硬件体系,还在框架中实现了对大模型训练和推理的一体化能力。这一点对于我们这些需要处理大规模数据和复杂模型的开发者来说,无疑是一个巨大的优势。

飞桨框架3.0特别强调了在大模型训练开发中的自动并行能力。这意味着我们可以更加高效地利用多芯片硬件资源,提高模型训练的速度和效率。同时,框架还实现了编译器的自动优化,这将极大地简化我们开发和调优的过程,让我们可以更加专注于模型的设计和创新。

IMG_20240628_142513.jpg

大模型混合并行的开发确实是一项复杂且具有挑战性的任务,它涉及到混合并行、通信和调度策略等多个层面。这些技术细节往往需要开发者具备深厚的专业知识和丰富的经验。

百度研发的自动并行能力,通过封装底层的复杂性,为开发者提供了一个更加简洁和高效的开发环境。这种全局的静态优化不仅简化了代码的开发过程,还使得性能上限得到了显著提升。这种优化对于我们这些追求高性能和高效率的开发者来说,是非常宝贵的。

飞桨框架的动静统一自动并行能力,能够针对不同参数的模型进行智能优化,从而提升训练性能。这种性能提升的幅度可达20%,这对于我们这些在性能上不断追求极致的开发者来说,是一个巨大的飞跃。

这种自动并行能力的实现,不仅减轻了我们的开发负担,还让我们能够更加专注于模型的创新和优化。我们可以利用节省下来的时间和资源,去探索更多的算法和应用场景,推动AI技术的发展和创新。

IMG_20240628_150246.jpg

我对飞桨框架在性能优化方面的突破感到非常振奋。性能优化是AI框架的核心竞争力之一,而飞桨在这方面的表现尤为突出。

通过结合编译器的设计,飞桨框架大幅简化了优化过程。在前端,飞桨通过编译器表示来做好相应的优化,这使得开发者可以更加专注于模型的设计和实现。而在后端,飞桨将前端的表示转化为底层的表示,以更好地对接硬件,实现自动优化代码。这种前后端分离的设计,不仅提高了开发效率,也使得性能优化更加灵活和高效。

飞桨框架通过编译器实现的算子自动融合技术,使得执行速度得到了显著提升。相比于传统的算子调用,自动融合的执行速度可以提升4倍,而相比于手动融合,性能提升幅度也达到了14%。这种编译性能的优化,对于生成式模型的推理,无论是语言模型还是扩散模型,都有着非常显著的提升。

在推理性能上,飞桨框架的优化使得提升幅度可达30%。这对于我们这些需要处理大量数据和复杂模型的开发者来说,是一个巨大的优势。推理性能的提升,不仅可以加快模型的响应速度,还可以降低计算资源的消耗,使得我们的应用更加高效和实用。

IMG_20240628_150409.jpg

总结:

参加wave summit是一次不错的体验,文心一言努力在不同场景上做出突破。飞桨也在各个方向上支持高效训练和高效部署。