有态度的下等马

我厂有算力，能产出token， 我使用vllm production-stack + higress在数据中心部署了几个大模型。 但是Trae/Cusor这些老登免费版都不...

本文记录了知名推理引擎 vllm的使用原理， 社区探索的vllm production-stack项目，通过优化KVCache在gpu显存中的占用， 提高部署的稳定性、吞吐...

1. 算力单位 P= Peta 完整单词： Petaflops Peta： 10^15 千万亿 flops: floating-point operations per s...

2026年3月底， ingress-nginx这个老登就会举办退役仪式，k8s社区强烈推荐运维迁移到其他云原生网关。 2026年3月初， 虾系玩物claw已经被AI市场宠的...

前文ingress这个老6， 记录了我对于ingress-nginx的默认部署方式的认知： 在集群内产生nginx服务，与集群内服务互访，利用nginx 走7层转发； 产生...

春节期间，qwen3.5和openclaw火到爆， 咱们让子弹飞了一阵子，目前收到的信息是 ① 大龙虾配置极其复杂，非科班生很容易失败 ② 大龙虾很费token。 香港大学...

【2025魔幻总结】对象国家发，工作突然没！我瘦30斤、驰骋新疆、收养病猫，还为一个陌生人捐了骨髓。当生活给你裁员，我用热血重启人生。...

大家好，我是孟健。 当我向 leader 提出离职申请的那一刻，办公室里的空气仿佛凝固了。 技术管理职位、丰厚薪资，还有无数人梦寐以求的大厂光环 ——在很多人眼中，这是无法...

前文提要：还有比ollama更傻瓜式的大模型本地部署方式吗 ？ 1.function calling 底层工作原理 大模型重塑了我们与软件应用的交互方式， 其中最重要的特性...

LLM的狂风已经吹了几年， 所有人都耳濡目染的会飚上几句行话/名词。切好你自己有台4070的机器，恰好你有时间倒腾， 那就让我们回顾一遍名词，验证狂风吹过的技术车辙。 恰好...

今天快速介绍目前市场面常见的三个watch机制的实现。 1.chunked transfer encoding k8s控制面几个组件，核心枢纽是apiserver， 除et...

1. 云计算迎来“智算”时代 云计算是一种**通过互联网的方式按需提供计算资源（如服务器、存储、数据库、网络、软件等）**的服务模式， 用户可以像使用水电气一样,按需购买、...

是的，没错。那个被人熟知的国产开源框架 Hutool 距离被卖已经过去近 7 个月了。 那 Hutool 现在的发展如何呢？它未来有哪些更新计划呢？Hutool AI 又该...

💡 糟糕，k8s informer我好像拉一坨大的 近段时间在做云原生AI算力平台，之前提到使用k8s informer机制管控多渠道提交的训练任务。 上面第4点： in...

什么是异构资源？ 同构资源指的是所有计算节点/设备规格相同， 异构资源是指计算节点/设备规格/特性不同。...