百度智能云技术站

百度百舸基于 SGLang 与 vLLM 推理框架，完成智谱 GLM-4.x 系列模型（GLM-4.5 / GLM-4.5-Air / GLM-4.6 / GLM-4.7）...

在技术深水区，最大的障碍往往不是未知，而是那些我们深信不疑的已知。 这篇文章清晰还原了创新的真实路径：问题从何而来、传统方案为何失效，以及 Mantle 新的系统设计思路是...

LoongFlow 是百度百舸团队发布的一个开源的、旨在让 AI 学会「专家级思考」的智能体开发框架。我们相信，设计一个能解决复杂问题的专家级 Agent，关键在于其思考模...

百度智能云混合云团队基于 vLLM 框架，在扩容和容灾场景下，将推理服务拉起时间压缩到「几秒级」—— 模型权重可在约 2 秒内完成加载，采用预留的守护实例后，不到 5 秒即...

百度百舸和昆仑芯的技术团队基于 vLLM-Kunlun Plugin，仅用 2 天时间便在 vLLM 环境中实现了 MiMo Flash V2 在昆仑芯 P800 XPU ...

最大无本体具身数据集开源！简智机器人秉持 「具身智能源于人、回归人」 的核心理念，将「RealOmni」数据集第一时间同步在百度百舸平台，便于具身智能行业伙伴快速将数据集应...

结合新硬件架构的特性，AI Infra 团队可以基于对上层模型算法特性的深度理解，进一步做 AI 工程上的软件优化，充分释放硬件潜能，在吞吐量、TTFT、TPOT 等核心指...

百度百舸联合北京人形，构建了覆盖「模型提效加速、训练稳定性保障、企业级开发平台」的 AI Infra 具身智能解决方案，加速了 Pelican-VL 模型的落地。...

百度百舸 AIAK 团队为 DeepSeek V3.2 开发的上下文并行（Context Parallelism, CP）方案已正式合入 SGLang 主分支。...

本文整理自 2025 年 12 月 14 日的「百度百舸 X SGLang Meetup 北京站」的同名主题分享。在公众号回复「AI Infra」，可以获得此次 Meetu...

本文整理自 2025 年 12 月 14 日的「百度百舸 X SGLang Meetup 北京站」的同名主题分享。...

本文整理自 2025 年 12 月 14 日的「百度百舸 X SGLang Meetup 北京站」的同名主题分享。在公众号回复「SGLangV5」，可以获得此次 Meetu...

长文本推理被「显存墙」卡住 在 32K 至 128K 超长上下文场景中，DeepSeek-V3.2-Exp 的 Decode 阶段需维护一个随序列长度线性增长的 Laten...

百度百舸联合昆仑芯正式推出 vLLM-Kunlun Plugin —— 一款面向百度昆仑芯 XPU 的高性能 vLLM 平台插件，该 Plugin 现已全面开源。...

1.    引言 DeepSeek-V3.2-Exp 所搭载的稀疏化 Attention 计算，在长上下文场景中成功降低了推理延迟。但在 PD 分离架构下，随着序列长度不断...

在超节点这一创新算力形态的早期发展阶段，企业部署超节点时，唯有跳出性能迷局，聚焦超节点与业务场景的贴合度、与现有基础设施的兼容性，从性能转化、稳定性、可落地性多维度综合考量...

部署 DeepSeek-V3.2-Exp 时，百度百舸团队发现其长上下文性能明显低于官方报告。经排查，问题源于官方开源的 Inference Demo 中 RoPE 排布方...

在百度百舸线上真实业务中（约束首 token 延迟 TTFT < 1 秒），单机吞吐最高提升达 30%。在 25 年 8 月百度百舸将 Token 双流核心代码正式贡献至 ...

面对云原生时代的网络性能挑战，业界迫切需要一种既能突破传统内核协议栈性能瓶颈，又能保持工程可用性及生态兼容性的解决方案。...

在 AI 的下半场，算法的创新固然重要，但算力好像正在成为终极的变量，AI 的军备竞赛，已经从代码和模型，延伸到了芯片、电力和数据中心这些更底层的物理世界。...