奥德元

前面在我的笔记本上用FunASR和PaddleSpeech为小落同学整合了一下ASR的功能，但是发现在我的阿里云ECS上跑不动，由于是乎就想找一个最轻量级的ASR模型，让小...

一、前言 你能想象在 demo 上用小落同学 “克隆” 出一个明星，比如鹿晗，会有多酷吗？但手动给小落同学投喂这个人的海量信息，那工作量，想想都让人望而却步。于是，给小落同...

听说KTransformers 0.2.4支持并发了，这可是个大进步，之前测试下来KTranformers最大...

原文链接：https://www.oddmeta.net/archives/185 一、概述 当用户提出一个问题时，如何让大模型准确的定位到你的输入背后真的正的问题，并输出...

原文：Benchmark: 用vllm自带的工具对 QwQ-32B-AWQ进行压测 一、省流，直接看结论 一）参数：两个4090，1000 token的输入，128 tok...

原文：vllm 优化：flashinfer问题 FlashInfer问题 一开始报没安装FlashInfer 启动vllm过程中有一个warning。 那就安装一下Flas...

原文：https://www.oddmeta.net/archives/165 前两天试了一下小红书开源出来的FireRedASR，整体感觉是小红书团队只是把关键的语音识别...

原文：https://www.oddmeta.net/archives/156 前两天看到一个新闻说：阿祖出来教大家英语了，哥一下子呆住了。所以当时就想是不是我自己也可以来...

原文：ASR引擎测试：FireRedASR只能说小红书的诚意不够 小红书开源了他们的自动语音识别模型FireRedASR，宣称很牛逼。今天咱也部署一下，并对它做一下测试。 ...

原文：https://www.oddmeta.net/archives/136 用Ollama 对 Gemma3多模态27B版本做功能、性能测试 谷歌刚刚推出的开放权重LL...

原文：https://www.oddmeta.net/archives/122 下载STT模型 先得启用一下Open WebUI的STT(Speech To Text）语音...

原文链接：Open WebUI上传附件聊天及本地知识库功能异常问题 问题现象 在Open WebUI里上传一个附件，然后针对这个附件做聊天或者问答，但是返回异常。 查看后台...

原文：https://www.oddmeta.net/archives/114 问题现象 大模型的联网搜索功能本质上是将模型的自然语言处理能力与传统搜索引擎技术相结合，实现...

原文：https://www.oddmeta.net/archives/107 相比于ollama, llama.cpp等框架, vllm是一个可以产品化部署的方案，适用于...

原文链接：https://www.oddmeta.net/archives/111 Open WebUI不能正确显示qwq32b和deepseek的think标签问题 问题...

原文链接：https://www.oddmeta.net/archives/98 一、说在前面 今天有一个朋友在一个群里提到了N年前经常用的一个软件：UC浏览器，一个子勾起...

原文：https://www.oddmeta.net/archives/153 想用大模型做一个训练英语听力的东西 想当年，咱要练习听力，就是看美剧，但是现在时代不一样了。...