首页
沸点
课程
APP
AI用量
作品广场
专家标注
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
登录
注册
百度智能云技术站
掘友等级
云智一体
获得徽章 0
动态
文章
专栏
沸点
收藏集
关注
赞
0
文章 0
沸点 0
赞
0
返回
|
搜索文章
最新
热门
面向高效推理的 MoE 专家压缩,合并与剪枝的协同设计与工程实践
本文整理自 26 年 9 月 22 日 SGLang Meetup 北京站活动的同名主题演讲。 在技术站公众号回复「百度百舸 2609」,可以获得此次 Meetup 下午的 3 个演讲主题材料。
让推理服务稳定可控,从负载治理到 KVCache 全域感知
本文整理自 26 年 9 月 22 日 SGLang Meetup 北京站活动的同名主题演讲。 在技术站公众号回复「百度百舸 2609」,可以获得此次 Meetup 下午的 3 个演讲主题材料。
TB 级模型推理服务的显存极致优化实践
介绍主流旗舰模型面临的显存压力;针对模型权重,介绍两种零冗余分布式部署方案;针对 KV Cache,介绍我们分别从算法、后训练和运行时三个维度所做的优化,以降低动态显存占用,进一步扩大 KV Cach
百万小时具身数据,先过数据管线这一关:百度百舸 Egocentric 视频相机轨迹恢复加速实践
具身数据采集完成后,往往还要经过数据管线的加工,才能用于训练。 以第一视角(Egocentric)人类视频为例,训练需要恢复手部在世界坐标系下的运动轨迹,这个过程离不开每一帧的相机位姿。然而,互联网上
极致 KVCache 推理服务效能优化与多芯软硬协同实践
本文整理自 26 年 9 月 22 日 SGLang Meetup 北京站活动的同名主题演讲。 在公众号回复「SGLang-Kunlun 2609」,可以获得此次 Meetup 上午的 3 个演讲
多芯插件机制与 SGLang-Kunlun 最佳实践
本文整理自 26 年 9 月 22 日 SGLang Meetup 北京站活动的同名主题演讲。项目地址:https://github.com/baidu-baige/sglang-kunlun。
百度沧海·存储:新一代技术架构体系设计与实践
本文整理自 9 月 19 日举办的「第 32 届 CCF 全国信息存储技术学术会议」的同名主题演讲,演讲人百度智能云高级架构师曹彪。 今天我会重点介绍百度沧海·存储如何围绕规模、成本与性能挑战,
Agent 想用但不敢用?百度智能云企业级 Agent 安全落地实践
本文整理自百度智能云云安全架构师林道正在 AICon 大会上的主题演讲《Agent 想用但不敢用?百度智能云企业级 Agent 安全落地实践》。 今天主要与大家分享三部分内容: 企业对 Agen
数据规模跨过百万小时之后,具身智能开始真正考验 AI Infra
从确定这一轮用哪些数据,到第一个训练批次真正开始,Dyna Robotics 原先需要约 48 小时;改造之后是 1 分钟以内。数据导入吞吐提升到原来的 31 倍。这些数字背后不是某一处优化,而是整套
GPU 在等数据,具身模型训练中常被忽视的 DataLoader
无论训练大语言模型还是具身模型,GPU 侧的计算与通信都是首先需要优化的环节。但对以视频为主要训练数据的 VLA 和 WAM 来说,仅仅优化 GPU 还不够。它们的训练样本难以全部提前处理并存储,所需
下一页
个人成就
文章被点赞
6
文章被阅读
36,466
掘力值
1,645
关注了
0
关注者
15
收藏集
0
关注标签
5
加入于
2024-06-05