拖拖765

在大模型时代，我们经常听到一句话：Scale is all you need。 当然，这句话有点夸张。模型架构、数据质量、训练方法、对齐方法、工具调用、RAG 系统都很重要。但如果回到 GPT-3、G

引言：为什么 Deep Speech 2 值得读？ 今天我们已经习惯了 Whisper、讯飞语音、云厂商 ASR API、实时字幕、会议纪要等语音识别产品。但在 Deep Speech 2 所处的时代

今天的大模型 Agent、RAG、长期记忆系统都在讨论一个问题：模型到底应该把信息记在哪里？ 是全部塞进参数里？ 是放进 Prompt？ 还是放进数据库、向量库、文件系统，再由模型按需读取？ 这个问题

在广义相对论的世界里，黑洞不仅是物质的终结，也是时空剧烈震荡的源头。当我们扰动一个黑洞（例如两个黑洞合并）时，它会像被敲击的钟一样发出“铃宕”（Ringdown）声，随后逐渐复归平静。 Semyon

在深度学习的演进史上，循环神经网络 (RNN) 曾是处理序列数据的王者，但它始终受困于“记忆碎片化”的问题：所有的信息都被强行压缩进一个扁平的向量中。随着 Transformer 的兴起，自注意力机制

在深度学习和生成模型（AIGC）的演进史中，有一篇必须要读的经典论文——由 OpenAI 和 UC Berkeley 的顶级学者（包括 VAE 共同发明者 Diederik P. Kingma）在 I

在人工智能领域，识别一张照片里有“猫”已经不再是难事。但如果你问 AI：“那个红色金属圆柱体左边的蓝色球体，和右边那个最大的方块材质一样吗？”——这便涉及到了机器长期以来的短板：关系推理（Relati

在深度学习的发展史上，ResNet (残差网络) 的提出无疑是一个里程碑。它解决了超深网络训练中的退化问题，使得我们可以训练几十层甚至上百层的网络。然而，微软亚洲研究院（MSRA）的研究人员并没有止步

在 2014 年之前，神经网络翻译（NMT）面临着一个尴尬的“中年危机”：模型在短句上表现惊艳，但只要句子稍长，翻译质量就会断崖式下跌。由 Dzmitry Bahdanau、KyungHyun Cho