奥德元

前面在我的笔记本上用FunASR和PaddleSpeech为小落同学整合了一下ASR的功能，但是发现在我的阿里云ECS上跑不动，由于是乎就想找一个最轻量级的ASR模型，让小落同学也可以用上免费白嫖的

一、前言 你能想象在 demo 上用小落同学 “克隆” 出一个明星，比如鹿晗，会有多酷吗？但手动给小落同学投喂这个人的海量信息，那工作量，想想都让人望而却步。于是，给小落同学添加联网搜索功能成了我的当

听说KTransformers 0.2.4支持并发了，这可是个大进步，之前测试下来KTranformers最大

原文链接：https://www.oddmeta.net/archives/185 一、概述 当用户提出一个问题时，如何让大模型准确的定位到你的输入背后真的正的问题，并输出正确的回复，是大模型应用的关

原文：Benchmark: 用vllm自带的工具对 QwQ-32B-AWQ进行压测 一、省流，直接看结论 一）参数：两个4090，1000 token的输入，128 token的输出（vllm ben

原文：vllm 优化：flashinfer问题 FlashInfer问题 一开始报没安装FlashInfer 启动vllm过程中有一个warning。 那就安装一下FlashInfer 安装了后又报F

原文：https://www.oddmeta.net/archives/165 前两天试了一下小红书开源出来的FireRedASR，整体感觉是小红书团队只是把关键的语音识别的模型开放出来了（也只开放了

原文：https://www.oddmeta.net/archives/156 前两天看到一个新闻说：阿祖出来教大家英语了，哥一下子呆住了。所以当时就想是不是我自己也可以来做一个类似的东西？ 既然一个

原文：ASR引擎测试：FireRedASR只能说小红书的诚意不够 小红书开源了他们的自动语音识别模型FireRedASR，宣称很牛逼。今天咱也部署一下，并对它做一下测试。 项目地址: https://