打工的小黑猫

生成式大模型改变了我们在各个行业中应用人工智能的方式。然而，由于模型参数量巨大，为这些模型提供实际服务带来了挑战，即使在昂贵的硬件上，速度可能非常慢，这令人感到沮丧。...

作为最近热门的生成式大模型的基石，Transformer自2017年诞生以来，就成为nlp研究者必须掌握的基本模型。本系列将通过图解方式，全方面展示Transformer的...

大型语言模型（Large language models,LLM）是基于大量数据进行预训练的超大型深度学习模型。底层转换器是一组神经网络，这些神经网络由具有 self-at...

本文将以 Bloom7B1 模型为样例，分享在阿里云容器服务 ACK 上，进行大语言模型分布式推理的具体实践。...

本文作者绘制了一幅涵盖大语言模型（LLMs）及其交互方式抽象框架的图谱，并提出了两种思路体系，帮助理解和分类大语言模型抽象的多种方法与理念。 引言 大语言模型（LLMs）及...

大语言模型的预训练[1]:基本概念原理、神经网络的语言模型、Transformer模型原理详解、Bert模型原理介绍 1.大语言模型的预训练 1.LLM预训练的基本概念 预...

对模型进行微调与保存 微调（Fine-tuning）是一种迁移学习技术，通过在预训练模型的基础上进行少量训练，使模型适应新任务或新数据集。 在本节中，我们将介绍如何进行微调...

在当今的技术领域中，分布式系统已成为许多大型应用程序和平台的核心。构建高性能、可伸缩和可靠的分布式系统是一个复杂的挑战，需要合理的架构设计和模式选择。本文将介绍10个必备的...

前言 在实际工作中，我们需要经常跟第三方平台打交道，可能会对接第三方平台API接口，或者提供API接口给第三方平台调用。 那么问题来了，如果设计一个优雅的API接口，能够满...

大家好，我是 shixin 最近看完了专栏《超级访谈：对话毕玄》，这个专栏和年初看的《超级访谈：对话汤峥嵘》类似，都是对阿里 P10（程序员金字塔顶端大佬）的访谈，介绍了他...

本篇介绍工具库FLAML。FLAML 由 Microsoft Research 开发，适用于AutoML自动化机器学习建模，构建端到端机器学习流程、解决实际场景问题。...

本文在MIT在线课程《3.Data Analysis for Social Scientists》中Causality（因果关系）部分课程的课件基础上，补充了相关信息、增加...

我们认为 EventBridge 是云原生时代新的计算驱动力，这些数据可以去驱动云的计算能力，创造更多业务价值。...

持续创作，加速成长！这是我参与「掘金日新计划 · 10 月更文挑战」的第2天，点击查看活动详情 本文分别从如下几个方面来分享一波 如何将自己的镜像使用 helm 部署 简单...

在微服务中，一般都会有一个专门的认证服务，在这个认证服务上完成认证后就可以直接访问其他服务，这种效果仅使用SpringSecurity是比较难实现的，本文将使用Spring...

本文将简单的介绍 IaC 和 SAE 给企业带来的巨大便利，并通过一个使用 Terraform 创建 SAE 应用的例子感受 SAE & Terraform 给传统企业 I...

我想起了我刚工作的时候，第一次接触RPC协议，当时就很懵，我HTTP协议用的好好的，为什么还要用RPC协议？于是就到网上去搜。不少解释显得非常官方，我相信大家在各种平台上也...