KubeWharf

AIBrix 是一款模块化、云原生的 AI 基础设施工具包，专为构建可扩展且经济高效的大语言模型（LLM）推理系统而设计。随着生产环境对内存高效、低延迟 LLM 服务的需求持续增长，我们正式发布 AI

Gödel Scheduler 是字节跳动开源的在离线统一调度器，旨在使用同一套调度器来统一调度和管理在离线业务，实现资源并池，从而在提升资源利用率和资源弹性的同时，优化业务成本和体验，降低运维压力。

KubeAdmiral 是字节跳动于 2023 年 7 月正式开源的多云多集群管理引擎，它孵化于字节跳动内部，从上线至今一直强力支撑抖音、今日头条等大规模业务的平稳运行。

Katalyst 近日完成了 v0.5.0 版本的发布，期望这个版本可以帮助用户更平滑地使用 Katalyst，实现资源效能提升。

本文解读了字节跳动基础架构编排调度团队发表在国际云计算顶级会议 SoCC 2023 上的论文。分享节跳动在离线混部场景中最核心的调度系统。

字节跳动 2 个云原生开源项目 Katalyst 和 KubeAdmiral 陆续进入 CNCF 云原生全景图

近日，Katalyst 社区完成了 0.4.0 版本发布。除了持续优化 QoS 能力之外，我们还在新版本中提供了可以独立在原生 Kubernetes 上使用的潮汐混部和资源超售能力。

Gödel Scheduler 是一个能统一调度在线和离线业务的分布式调度器，能在满足在离线业务功能和性能需求的前提下，提供良好的扩展性和调度质量。

通过讲解 Katalyst 中的 Katalyst Custom Config 方案，介绍了 Katalyst 实现复杂配置管理的思路以及实际的使用场景。

KubeAdmiral 作为字节跳动云原生团队持续投入的开源项目，看重开源的长期价值，重视开源社区的反馈与参与。 鼓励更多对云原生感兴趣的高校学生参与开源社区，加入挑战～

分时弹性混部的优点在于对基础设施能力要求较低。缺点一方面在于出让的粒度为整机，容易形成资源碎片；另一方面在于在离线业务对于潮汐过程都有一定程度的感知。

真实源项目体验、开源导师一对一辅导、丰厚的项目激励 Katalyst 是字节跳动开源的成本优化实践系统，致力于解决云原生场景下的资源不合理利用问题，为资源管理和成本优化提供解决方案。

字节从 2016 开始着手服务云原生化改造， 本文将分享字节跳动云原生混部发展历程、自动化资源管理与应用案例。

Kelemetry是字节跳动开发的用于Kubernetes控制平面的追踪系统，现已开源，欢迎关注社区，一起交流。