有态度的下等马

前文提要：还有比ollama更傻瓜式的大模型本地部署方式吗 ？ 1.function calling 底层工作原理 大模型重塑了我们与软件应用的交互方式， 其中最重要的特性就是 function ca

LLM的狂风已经吹了几年， 所有人都耳濡目染的会飚上几句行话/名词。切好你自己有台4070的机器，恰好你有时间倒腾， 那就让我们回顾一遍名词，验证狂风吹过的技术车辙。 恰好最近有台4070(12g显存

今天快速介绍目前市场面常见的三个watch机制的实现。 1.chunked transfer encoding k8s控制面几个组件，核心枢纽是apiserver， 除etcd之外，其他组件都通过re

1. 云计算迎来“智算”时代 云计算是一种**通过互联网的方式按需提供计算资源（如服务器、存储、数据库、网络、软件等）**的服务模式， 用户可以像使用水电气一样,按需购买、灵活付费。

💡 糟糕，k8s informer我好像拉一坨大的 近段时间在做云原生AI算力平台，之前提到使用k8s informer机制管控多渠道提交的训练任务。 上面第4点： informer会监听通过cli和

什么是异构资源？ 同构资源指的是所有计算节点/设备规格相同， 异构资源是指计算节点/设备规格/特性不同。

1. 可插拔的调度框架 k8s以可插拔的插件方式实现了调度能力，插件可以实现多个扩展点接口来执行更复杂或有状态的任务。 默认的调度插件 给出了他们实现的扩展点、默认的打分策略。 在AI工程中要重点关注

1. nginx原生限流能力 https://blog.nginx.org/blog/rate-limiting-nginx ngx_http_limit_req_module 提供的请求限流能力必须

1. 令牌桶按用户维度限流 前文golang/x/time/rate演示了基于整体请求速率的令牌桶限流； 那基于用户id、ip、apikey请求速率的限流(更贴近生产的需求)， 阁下又该如何应对？