MarkGosling

LMCache 是一个 LLM 服务引擎扩展，用于减少 TTFT 并提高吞吐量 ，尤其是在长上下文场景下。通过将可重用文本的 KV 缓存存储在各个位置，包括 （GPU、CPU DRAM、本地磁盘）

XiaoMusic​​这个开源神器，它用​​自动下载+本地音乐接管​​，把小爱音箱变成“无限点歌机”。今天我就手把手分享真实部署体验，让你家小爱彻底解放！

DeepEval 是一个简单易用的开源 LLM 评估框架，专为测试和评估大语言模型系统而设计。它类似于 Pytest，但专注于对 LLM 输出进行单元测试。

传统的 RAG（检索增强生成）系统虽然解决了部分问题，但配置复杂、数据源支持单一，开发和维护成本高得让人头疼。直到我遇到了 ​​cognee​—— 一个开源项目，只用 5 行代码就能搞定动态记忆系统。

想找一个真正好用的语音转文字工具吗？不用等说完一整段才出结果，也不用反复点击按钮。RealtimeSTT 这个开源项目能做到​​实时​​转录，你说一句，屏幕上几乎同时出现文字。

GraphRAG Agent 融合 DeepSearch 多步推理与多 Agent 协同架构，实现​​思考过程可视化​​和​​证据链溯源​​，让 AI 推理像“行车记录仪”般透明可追溯。

小米开源的首个推理大模型 Xiaomi MiMo-7 B 横空出世，以​​仅 7 B 参数​​在数学推理和代码生成等权威测评中，超越 OpenAI 闭源模型 o 1-mini 和阿里QwQ-32 B

计算机视觉领域常常被复杂的 3 D 重建任务困扰，传统方法需要漫长优化与昂贵计算。但现在，Facebook Research 团队开源的 VGGT（CVPR’25 论文工作）改变了游戏规则。

如果你正在寻找将强化学习应用于语言模型智能体（LLM Agents）的开源解决方案，GitHub 上的资源库 AgentsMeetRL 值得重点关注。