首页
AI Coding
NEW
沸点
课程
直播
活动
AI刷题
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
会员
登录
注册
xMagicor
掘友等级
高性能计算工程师
这一场是晋级赛
获得徽章 0
动态
文章
专栏
沸点
收藏集
关注
作品
赞
23
文章 16
沸点 7
赞
23
返回
|
搜索文章
最新
热门
SGLang 混合并行
1. 背景知识简述 在大规模语言模型(LLM)训练/推理中,处于一些考量,比如单个 GPU 无法容纳整个模型或者为了减少冗余参数对显存的占用,通常会采用以下并行策略: Tensor Paralleli
CUDA常规知识点
👉 ThreadsPerBlock和Blocks的数量受哪些条件约束? 1. 硬件限制(上限) (1) 线程与块维度约束 每个 Block 的最大线程数: $$ \text{ThreadsPerBlo
C++ 值类别、auto与decltype
左值、右值、将亡值 因为 auto 和 decltype 的类型推导规则涉及到对 表达式值类别的区分,这里先简单介绍C++11以后的左值、右值和将亡值概念。 如果更具体的细分,除了上面三种值类别,还有
C/C++ 宏定义、嵌套宏的展开、可变参数宏
宏定义 概念 C/C++ 语言中的宏定义实现的是一个文本替换的功能,它使用#define命令用来将一个标识符定义为一个字符串,该标识符被称为宏名,被定义的字符串称为替换文本。 在预处理阶段,编译器会把
C++中的文件流操作
一、C++输入流输出流如何工作 流的概念 流(Stream)是计算机科学中一个重要的概念,用于描述数据的连续传输 ,流可以被视为一个数据通道,数据在这个通道中从源头流向目的地。 流的基本特性 方向性:
C++ 的类型定义:using vs typedef
简单类型别名 对于简单的类型别名,两者用法类似: 在这种情况下,两者没有显著差异。 复杂类型别名 对于模板类型别名,typedef 的局限性就显现出来了,而 using 提供了更好的解决方案.
各类卷积算法图示
卷积各种算法图示 [1] Vincent Dumoulin, Francesco Visin - A guide to convolution arithmetic for deep learning
Git的概念和高频命令
git本地由三个部分组成:工作区 和 暂存区 和 本地库。 .git目录才是仓库的灵魂,.git目录里面包括 暂存区 和 本地库,.git目录外的地方是工作区。
个人博客网站建设工具
博客框架 202X年了,应该极少有人从0开始搭建网站了吧。 一个优秀的博客框架,可以帮助你快速、高效的搭建个人网站,让你事半功倍。
记一次依赖库版本冲突:不同spdlog之间的兼容性问题
主要介绍了两个有依赖关系的库,同时依赖一个header-only的第三方库spdlog,但版本不同时,如何解决符号冲突问题
下一页
个人成就
文章被点赞
25
文章被阅读
4,706
掘力值
282
关注了
11
关注者
7
收藏集
1
关注标签
12
加入于
2020-09-14