百度智能云技术站

在企业的技术运营中，一条被广泛验证的降本增效路径早已形成共识：采购时通过规模优势压低硬件单价，使用时借助调度、混部和潮汐算力提升资源利用率

将主流大模型「发布即可用」常态化，让开发者和用户在模型上线第一时间就能切实享受到国产 AI 芯片带来的高效加速体验。

百度百舸基于 SGLang 与 vLLM 推理框架，完成智谱 GLM-4.x 系列模型（GLM-4.5 / GLM-4.5-Air / GLM-4.6 / GLM-4.7）在昆仑芯 XPU 的适配落地

在技术深水区，最大的障碍往往不是未知，而是那些我们深信不疑的已知。 这篇文章清晰还原了创新的真实路径：问题从何而来、传统方案为何失效，以及 Mantle 新的系统设计思路是如何一步步成形的。

LoongFlow 是百度百舸团队发布的一个开源的、旨在让 AI 学会「专家级思考」的智能体开发框架。我们相信，设计一个能解决复杂问题的专家级 Agent，关键在于其思考模式——它决定了 Agent

百度智能云混合云团队基于 vLLM 框架，在扩容和容灾场景下，将推理服务拉起时间压缩到「几秒级」—— 模型权重可在约 2 秒内完成加载，采用预留的守护实例后，不到 5 秒即可对外提供服务。

百度百舸和昆仑芯的技术团队基于 vLLM-Kunlun Plugin，仅用 2 天时间便在 vLLM 环境中实现了 MiMo Flash V2 在昆仑芯 P800 XPU 上的全流程适配。

最大无本体具身数据集开源！简智机器人秉持 「具身智能源于人、回归人」 的核心理念，将「RealOmni」数据集第一时间同步在百度百舸平台，便于具身智能行业伙伴快速将数据集应用于业务中。

结合新硬件架构的特性，AI Infra 团队可以基于对上层模型算法特性的深度理解，进一步做 AI 工程上的软件优化，充分释放硬件潜能，在吞吐量、TTFT、TPOT 等核心指标上实现性能突破。