获得徽章 0
动态
文章
专栏
沸点
收藏集
关注
作品
赞
0
赞
0
返回
|
搜索文章
大模型推理的头像
大模型推理
19天前

从零构建大语言模型 2：PyTorch 基础与资源核算

从零构建大语言模型 2：PyTorch 基础与资源核算 本讲你将收获什么 理解训练 LLM 时的两类核心资源：内存（GB） 和 计算量（FLOPs） 掌握 PyTorch ...
评论
大模型推理的头像
大模型推理
19天前

从零构建大语言模型 1：全景概览与分词

从零构建大语言模型 1：全景概览与分词 本讲你将收获什么 读完这篇讲义，你将理解： 大语言模型（LLM）到底在做什么——它和你以为的"人工智能"有什么不同 为什么 2024...
1
大模型推理的头像
大模型推理
20天前

GPU 利用率才 10%？——LLM 推理到底慢在哪？

GPU 利用率才 10%？——LLM 推理到底慢在哪？ 前置依赖：无（系列第一篇） 本篇代码：约 100 行 | 阅读时间：约 20 分钟 0. 环境准备 1. 问题引入：...
image
评论
大模型推理的头像
大模型推理
关注了标签 源码 源码
大模型推理的头像
大模型推理
关注了标签 Go Go
个人成就
文章被点赞 3
文章被阅读 181
掘力值 63
收藏集
0
关注标签
2
加入于