A16z 新文：如何快速高效的使用 LLM 构建应用程序？
Emerging Architectures for LLM Applications 是 a16z 最新一篇文章，作者 Matt Bornstein和Rajko Radovanovic 分享了使用 LLM 构建应用程序的一种新的参考架构，并对每个部分进行了详细的解释。
🌊🌊🌊
如图1所示，Emerging LLM App Stack 是基于情景学习的设计模式，包含以下三个阶段，适用于大部分的人工智能创业公司或前沿科技公司。
1. 数据预处理/嵌入： 这个阶段涉及存储私有数据以供稍后检索
2. 提示构造/检索：当用户提交一个查询时，应用程序构造一系列提交给语言模型的提示
3. 提示执行/推理：经过编译的提示被提交给一个预训练的LLM进行推理——包括专有的模型API和开源或自训练的模型
🌊🌊🌊
推特博主 agishaun 基于上方内容，分享了他自己的在千余小开发实践中的经验和收获，帮助你少走弯路：
1. 每个人都可以学会提示词。
学习使用 LLM 进行开发，可以节约节省大量时间。因此，尽可能将LLM整合到你的开发流程中，建议从 Microsoft Copilot 开始。
2. 数据，数据，还是数据！
数据质量是LLM开发中被低估的因素。记住！「Garbage in Garbage out」适用于任何软件系统，而LLM仍然是软件系统。
3. 向量数据库不能解决一切问题。
一个好的向量数据库，也不能解决所有的数据质量问题。使用 LLAMA 或者 LangChain 框架帮助清理数据并正确地导入数据更为重要。
4. 通过艰难的方式学习 LLM。
框架会加速你的开发过程，但它会把实现的细节隐藏起来。如果你刚开始LLM开发，可以尝试在没有任何框架的情况下开发，或者使用 Microsoft Guidance 等轻框架。
5. 如何正确使用LLM？见图4
🌊🌊🌊
🔗 内容节选自6月23日「ShowMeaAI日报」，欢迎关注接收每日更新呀 ( •̀ .̫ •́ )✧：
juejin.cn
Emerging Architectures for LLM Applications 是 a16z 最新一篇文章，作者 Matt Bornstein和Rajko Radovanovic 分享了使用 LLM 构建应用程序的一种新的参考架构，并对每个部分进行了详细的解释。
🌊🌊🌊
如图1所示，Emerging LLM App Stack 是基于情景学习的设计模式，包含以下三个阶段，适用于大部分的人工智能创业公司或前沿科技公司。
1. 数据预处理/嵌入： 这个阶段涉及存储私有数据以供稍后检索
2. 提示构造/检索：当用户提交一个查询时，应用程序构造一系列提交给语言模型的提示
3. 提示执行/推理：经过编译的提示被提交给一个预训练的LLM进行推理——包括专有的模型API和开源或自训练的模型
🌊🌊🌊
推特博主 agishaun 基于上方内容，分享了他自己的在千余小开发实践中的经验和收获，帮助你少走弯路：
1. 每个人都可以学会提示词。
学习使用 LLM 进行开发，可以节约节省大量时间。因此，尽可能将LLM整合到你的开发流程中，建议从 Microsoft Copilot 开始。
2. 数据，数据，还是数据！
数据质量是LLM开发中被低估的因素。记住！「Garbage in Garbage out」适用于任何软件系统，而LLM仍然是软件系统。
3. 向量数据库不能解决一切问题。
一个好的向量数据库，也不能解决所有的数据质量问题。使用 LLAMA 或者 LangChain 框架帮助清理数据并正确地导入数据更为重要。
4. 通过艰难的方式学习 LLM。
框架会加速你的开发过程，但它会把实现的细节隐藏起来。如果你刚开始LLM开发，可以尝试在没有任何框架的情况下开发，或者使用 Microsoft Guidance 等轻框架。
5. 如何正确使用LLM？见图4
🌊🌊🌊
🔗 内容节选自6月23日「ShowMeaAI日报」，欢迎关注接收每日更新呀 ( •̀ .̫ •́ )✧：
juejin.cn
展开
评论
1