阿拉斯加大闸蟹

​  说到大模型训练和智算中心网络，大家有时会听到参数面网络、样本面网络、业务面网络这些概念，有时会听到Scale Up、Scale Out网络，还有时会听到前端网络和后端...

大家好，我是大闸蟹🦀，今天来分享一个真实踩过的坑：在Kubernetes集群里，Pod偶尔出现连接超时（connection timeout），日志里啥异常都没有，看起来...

容器与虚拟机对比 “容器和宿主机共享操作系统，而且可以实现资源的动态分配。容器包含应用程序和所依赖的软件包，并且不同容器之间共享内核，这与虚拟机相比大大节省了额外的资源占用...

配资network namespace Linux的namespace（名字空间）的作用就是隔离内核资源。在Linux的世界里，文件系统挂载点、主机名、POSIX进程间通信...

最简单的网络模型就是让容器共享Host的network namespace，使用宿主机的网络协议栈。这样，不需要额外的配置，容器就可以共享宿主的各种网络资源。 优点 简单，...

https://zhuanlan.zhihu.com/p/710973777 https://developer.baidu.com/article/detail.html...

如果您的手机无法正常接收到告警电话，请按如下步骤进行排查解决。 一、手机端检查，确认告警电话是否被手机终端拦截 1、检查手机黑名单列表，确认告警号码是否被拉入黑名单，可将告...

[SIGCOMM'25] Revisiting RDMA Reliability for Lossy Fabrics https://mp.weixin.qq.com/s/...

[SIGCOMM'24] Alibaba HPN: A Data Center Network for Large Language Model Training http...

[SIGCOMM'24] Pingmesh: A Large-Scale System for Data Center Network Latency Measuremen...

[SIGCOMM'24] R-Pingmesh: A Service-Aware RoCE Network Monitoring and Diagnostic System...

快手DHPS 基于RDMA 通信的可负载均衡高性能服务架构 一、项目背景 一、项目背景 当前在线推理服务架构中，计算节点（推理服务）与存储节点（在线 PS 服务）之间存在海...

OPPO RDMA 在典型场景下的技术应用 当前 OPPO 的数据中心中已经有一定数量支持 RDMA 的网卡（包含 IB 及 ROCEv2），除了机器学习场景以外，之前的文...

基于RDMA 通信的可负载均衡高性能服务架构 问题 传统通信导致的业务瓶颈【TCP通信相比】 Embedding Table巨大的存储需求使得这些系统通常采用CPU和GPU...

​ 波分系统 密集波分复用系统 https://zhuanlan.zhihu.com/p/313346217 DWDM( Dense WavelengthDivision ...

​ DPDK简介 ​ 编辑 dpdk架构 Intel DPDK全称Intel Data Plane Development Kit，是intel提供的数据平面开发工具集，为...

​ OVS 简介 ovs的架构 ​编辑 vswitchd是一个守护进程，是ovs的管理和控制服务，通过unix socket将配置信息保存到ovsdb，并通过netlink...

验证评估的一般思路 现在，我们已经构建了一个简单的、一般化的大模型应用。回顾整个开发流程，我们可以发现，以调用、发挥大模型为核心的大模型开发相较传统的 AI 开发更注重验证...

将LLM 接入 LangChain LangChain 为基于 LLM 开发自定义应用提供了高效的开发框架，便于开发者迅速地激发 LLM 的强大能力，搭建 LLM 应用。L...