菜鸟魔王

一个没有真才实学的男孩。文质彬彬又如何，学富五车又怎样，若不能因真理而得自由，因真相而得分享，知识越多反而越昏庸。

获得徽章 27

赞

2.2K

|

搜索文章

赞了这篇文章

@白海科技

·

2天前

Advanced RAG 03：运用 RAGAs 与 LlamaIndex 评估 RAG 应用

作者 | Florian June 编译 | 岳扬 🚢🚢🚢欢迎小伙伴们加入AI技术软件及技术交流群，追踪前沿热点，共探技术难题~ 如果你已经为某个真实业务系统开发了检...

1

评论

赞了这篇文章

@白海科技

·

8天前

LLM 推理优化探微 (4) ：模型性能瓶颈分类及优化策略

作者 | Pierre Lienhart 编译 | 岳扬在上一篇文章，我们深入探讨了 KV 缓存的相关优化方法。这篇文章我们将转变方向，探索可能影响机器学习模型速度的各种...

3

评论

赞了这篇文章

@白海科技

·

12天前

Advanced RAG 02：揭开 PDF 文档解析的神秘面纱

作者 | Florian June 编译 | 岳扬对于 RAG 系统而言，从文档中提取信息是一种不可避免的情况。确保能够从源文件中有效地提取内容，对于提高最终输出的质量至...

2

评论

赞了这篇文章

@白海科技

·

1月前

LLM 推理优化探微 (3) ：如何有效控制 KV 缓存的内存占用，优化推理速度？

本文是该系列文章的第三篇，作者的观点是：多头注意力（MHA）模型的 KV 缓存确实会消耗大量 GPU 内存，并且很容易增长到比模型权重还大的规模， KV 缓存大小的控制对于...

2

评论

赞了这篇文章

@白海科技

·

22天前

发掘非结构化数据价值：AI 在文档理解领域的现状与未来

在当今这个由数据主导的时代，我们被海量多样的信息所环绕，但大部分数据都以非结构化的形式存在，诸如文档、电子邮件、合同等，这使得从中提取有价值的信息成为一大挑战。...

2

评论

赞了这篇文章

@白海科技

·

20天前

LoRA 及其衍生技术总览：An Overview of the LoRA Family

我们今天为大家带来的文章，介绍了众多具有代表性的 LoRA 改进方法：LoRA+ 通过为两个矩阵引入不同的学习率提高训练效率；VeRA 和 LoRA-FA 通过训练更少的参...

4

评论

赞了这篇文章

@白海科技

·

16天前

Advanced RAG 01：讨论未经优化的 RAG 系统存在的问题与挑战

自 2023 年以来，RAG 已成为基于 LLM 的人工智能系统中应用最为广泛的架构之一。由于诸多产品的关键功能严重依赖RAG，优化其性能、提高检索效率和准确性迫在眉睫，成...

2

2

赞了这篇文章

神光的编程秘籍

·

1月前

回县城躺平，感觉我的人生过得好失败

从春节前到现在，一个半月没更新了，做啥都提不起劲来。越来越感觉我的人生过的好失败。去年我爸因为癌症去世了，家里的门头房用不到了，就想卖掉，找好了买家，价格谈了 140 ...

373

253

@算命大师您好！

7

点赞

赞了这篇文章

@白海科技

·

2月前

LoRA：语言模型微调的计算资源优化策略

随着数据量和计算能力的增加，大模型的参数量也在不断增加，同时进行大模型微调的成本也变得越来越高。全参数微调需要大量的计算资源和时间，且在进行切换下游任务时代价高昂。本文作...

3

评论

赞了这篇文章

@白海科技

·

1月前

LLM 模型融合实践指南：低成本构建高性能语言模型

随着大语言模型技术的快速发展，模型融合成为一种低成本但高性能的模型构建新途径。本文作者 Maxime Labonne 利用 mergekit 库探索了四种模型融合方法：SL...

2

评论

赞了这篇文章

@白海科技

·

1月前

化是渐化，变是顿变：一窥 OpenAI Sora 相关技术的演进

我们今天要为大家分享的这篇博文，作者认为 Sora 代表了Transformer、NaViT、扩散模型等一系列视觉AI技术的融合创新，是迈向通用人工智能的重要一步。...

8

评论

赞了这篇文章

公众号：木鸟杂记 @https://www.qtmuniao.com

·

1月前

想徒手写个文件系统？来一起呀

文件系统基本都是构建于块存储之上的。但当然，现在的一些分布式文件系统，如 JuiceFS[2]，底层是基于对象存储的。但无论块存储还是对象存储，其本质都是按 “数据块” 进...

1

评论

赞了这篇文章

@白海科技

·

1月前

OpenAI Sora 关键技术详解：揭秘时空碎片 (Spacetime Patches) 技术

本文解析的重点即是 Sora 背后的核心技术 Spacetime Patches，作者认为该技术通过创新的时空数据建模方法，让 Sora 学会预测时空维度上事件和对象的变化...

3

评论

赞了这篇文章

@白海科技

·

2月前

LLM 推理优化探微 (1) ：Transformer 解码器的推理过程详解

随着 LLM 赋能越来越多需要实时决策和响应的应用场景，以及用户体验不佳、成本过高、资源受限等问题的出现，大模型高效推理已成为一个重要的研究课题。为此，Baihai IDP...

3

评论

赞了这篇文章

@白海科技

·

2月前

如何写好大模型提示词？来自大赛冠军的经验分享（进阶篇）

本系列文章详细介绍了作者在新加坡首届 GPT-4 Prompt Engineering 大赛中使用的策略技巧，包括：使用 CO-STAR 框架构建提示语、使用分隔符明确语义...

6

评论

赞了这篇文章

@白海科技

·

3月前

如何写好大模型提示词？来自大赛冠军的经验分享（基础篇）

本系列文章详细介绍了作者在新加坡首届 GPT-4 Prompt Engineering 大赛中使用的策略技巧，包括：使用 CO-STAR 框架构建提示语、使用分隔符明确语义...

5

评论

关注了

赞了这篇文章

@白海科技

·

3月前

Prompt Engineering 可能会是 2024 年最热门的“编程语言”？

“Prompt Engineering”是否已经过时？模型本身的能力是否已经足够，不再需要特意设计 prompt？我们今天为大家带来的文章，作者认为 Prompt Eng...

3

评论

3月前

2024年，如何给孩子讲“ChatGPT”

教会孩子如何正确看待人工智能为什么掘金还有摘要最少字数限制现在快40个字了，好像到50个字就行了...

1

评论

个人成就

文章被点赞 2,585

文章被阅读 300,433

掘力值 11,071

加入于

2021-03-11