获得徽章 7
- 近期，OpenAI 发布通用视觉大模型 Sora ，这也是继文本模型ChatGPT和图片模型Dall-E之后，又一极具颠覆性的大模型产品，人们重新思考了生成式 AI 在视觉内容创作领域的应用前景，内容创作工作流有望被颠覆。
我们今天要为大家分享的这篇博文，作者认为 Sora 代表了Transformer、NaViT、扩散模型等一系列视觉AI技术的融合创新，是迈向通用人工智能的重要一步。
作者首先简要介绍了Sora的功能，然后详细梳理了支持Sora的各项核心技术内容，包括Transformer、ViT、ViVit、MAE、NaViT、扩散模型、Latent Diffusion Models以及最关键的Diffusion Transformer。最后，作者预测Sora未来将进一步拓展应用范围，进军三维建模领域，并最终成为类似物理引擎的通用分析工具，为视觉内容创作甚至其他各个领域带来革命性进步。Sora的诞生预示着多模态AI将逐步走向成熟与普及，人类想象力的边界将得到进一步拓展。
作者：Baihai_IDP
链接：
juejin.cn
来源：稀土掘金
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。展开评论1 - 检索增强生成(RAG)系统最近备受关注，ChatGPT的火爆更让这类系统成为广泛讨论的热点。我们今天为大家带来的这篇文章，作者Matt Ambrogi的核心观点是：构建一个基本可用的RAG系统非常简单，但要使其达到实际生产可用的程度则异常困难，需要我们投入大量精力。
为此，作者详细介绍了10种策略，包括清洗数据、尝试不同索引类型、优化分块策略、使用 Base Prompt、使用元数据过滤、使用查询路由、研究重排序、使用查询转换、微调嵌入模型、使用 LLM 生态相关工具等，这些策略都可能不同程度地提高RAG系统的性能。
总体而言，本文对于RAG系统开发者极具参考价值，值得仔细阅读和实践。展开评论4 - #生成式 AI 的下一阶段将走向何方？
编者按： 最近，随着ChatGPT的出现，很多人认为人工智能领域进入了大探索时代。然而这仅仅只是生成式 AI 发展的第一幕。
我们今天要给大家带来的这篇文章认为，生成式 AI 已经进入第二幕，即整合时代，不同系统和企业之间将出现广泛合作，以定制解决方案将 AI 能力深度嵌入各行各业。
文章详细阐述了第二幕的几个特征：(1)科技巨头纷纷与 AI 初创公司建立合作伙伴关系；(2)将生成式 AI 无缝嵌入已有产品成为主流；(3)内容公司与模型公司达成授权协议；(4)AI 与设备、系统集成；(5)初创公司通过 API 为大公司提供服务。
生成式 AI 正在重塑软件世界，小公司的长期生存面临挑战，开源仍然至关重要。未来第三幕可能是物联网与 AI、合成生物学的深度融合。我们有理由相信未来会出现更多惊喜。
作者：Baihai_IDP
链接：juejin.cn
来源：稀土掘金
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。展开评论3 - 近日，美国科技巨头 Google 宣布推出其认为规模最大、功能最强大的人工智能模型 Gemini，这种技术能够处理视频、音频和文本等不同内容形式的信息。那么机器学习模型与人类智能相比，谁的学习效率高？ 许多人认为，人类大脑在学习效率上要远远优于我们目前训练的任何机器学习模型。面对这样的观点，本文作者进行了一番有趣的计算与思考。
今天为大家带来的这篇文章，作者的核心观点是：从接受的原始训练数据量来看，三岁小孩子的学习效率并没有明显优于主流大语言模型。
本文为我们提供了一个有趣的视角，来审视人类智能与机器智能之间的关系。可能为我们对两者进行更系统地比较提供参考。当然，仅仅从信息量的角度来看问题还不够全面，我们还需要考虑学习过程中的许多其他因素。不过，这绝对是一个值得思考的新视角。
作者：Baihai_IDP
链接：juejin.cn
来源：稀土掘金
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。展开评论3 - 我们如何才能更好地控制大模型的输出?
本文将介绍几个关键参数，帮助读者更好地理解和运用 temperature、top-p、top-k、frequency penalty 和 presence penalty 等常见参数，以优化语言模型的生成效果。
文章详细解释了这些参数的作用机制以及如何在质量与多样性之间进行权衡。提高 temperature 可以增加多样性但会降低质量。top-p 和 top-k 可以在不损失多样性的前提下提高质量。frequency penalty 和 presence penalty 可以增加回复的词汇多样性和话题多样性。
最后，文章提供了参数配置的具体建议和技巧，供读者参考使用。选择合适的参数能显著提高语言模型的表现，更是进行 prompt engineering 的重要一环。
作者：Baihai_IDP
链接：juejin.cn
来源：稀土掘金
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。展开评论1
juejin.cn