邓核

在大模型的各种技术中，Prompt最”亲民“。Prompt指的是在和大模型文字聊天过程中，给它一些回答问题的指示、提示。例如最简单的Prompt就是形如“你现在是一个健身教...

在上一片文章什么是梯度下降（上）？AI技术快速扫盲我们主要能清了什么是梯度，简单来说，梯度就是多元函数的多个偏导数构成的一个向量，它反应了不同变量对函数变化率的影响。 一个...

人工智能技术已经开始改变我们的生活，在可预见的未来它将变得像互联网一样无处不再。对于非技术人员来说，了解人工智能技术可以让我们对未来有更准确的预期，看到其下限和上限。本文将...

OpenAI o1模型的推出获得了外界极大的关注，相关报道层出不穷。报道中对o1模型的溢美之词不绝于耳，那么o1模型具体会在哪些方面造成影响呢？ 本文从AI行业自身发展、创...

OpenAI在9月份发布了其最新的AI大模型o1，随后引起了业内业外的强烈关注。o1发布后，OpenAI的估值也从之前的850亿美元上涨到1500亿美元。业内普遍认为o1为...

本文是之前如何从公式和矩阵操作中理解自注意力机制？（上）的下半部分，为了便于理解，建议先阅读上半部分。 如何获得注意力权重？ 上一步，我们获得了$\mathbf{Q}\ma...

自注意力机制有多重要？ 当前AI技术已经是一个社会热点现象，新闻中充斥着各种相关报道。总体来说，这一波AI的热点来自于2023年OpenAI公式推出的ChatGPT产品，一...

多层感知机（MLP）是深度学习的基础，而深度学习中的大语言模型是现在ChatGPT等产品的核心技术。多层感知机是最简单的神经网络，包含输入、隐层、输出，以及本文没有涉及的反...