小模型
28篇文章 · 0订阅
  • 一天一个开源项目（第11篇）：Supertonic - 极速设备端多语言TTS，让语音合成在本地飞起来
    深入解读 Supertonic，一个2.6k+ Stars的开源设备端TTS系统，通过ONNX运行时实现极速语音合成，支持50+语言，内置文本规范化，无需云端，完全本地运行
    人工智能 开源
    一天一个开源项目（第11篇）：Supertonic - 极速设备端多语言TTS，让语音合成在本地飞起来
  • Gemma 4 发布：Google 这次玩真的，4 种规模全开源，从手机到服务器都能跑。
    Google DeepMind 又放大招了！4 月 2 日，Gemma 4 系列正式发布，这次真的是「全家桶」——从 23 亿到 307 亿参数，密集型 + MoE 混合专家架构全都有，上下文窗口最高
    人工智能 LLM 开源
    Gemma 4 发布：Google 这次玩真的，4 种规模全开源，从手机到服务器都能跑。
  • 中文语音识别该用谁？6 个开源模型 + 2 个配套工具，一文理清
    导读 中文语音识别的开源方案越来越多，但它们不在同一个层面上——有的是模型，有的是工具包，有的是部署运行时。直接把它们摊在一张表里比"谁更好"，容易越看越糊涂。本文把 6 个中文语音识别模型和 2 个
    算法 计算机视觉 深度学习
    中文语音识别该用谁？6 个开源模型 + 2 个配套工具，一文理清
  • 在 Android 上跑大模型，你选错引擎了吗？
    llama.cpp、MNN、MediaPipe 三大端侧推理引擎横向对比，含实测数据、代码示例和决策树，帮你选对引擎省掉80%工程难度
    Android
    在 Android 上跑大模型，你选错引擎了吗？
  • 从 OpenClaw 到 Android：Harness Engineering 是怎么让 Agent 变得可用的
    从 OpenClaw 的工程实现出发，拆解 Harness Engineering 的核心原则，以及如何在 Android 上搭建可靠的 Agent 执行框架
    Android
    从 OpenClaw 到 Android：Harness Engineering 是怎么让 Agent 变得可用的
  • Moonshine：比 Whisper 快 100 倍的端侧语音识别神器，Star 6.6K！
    告别云端 API，语音识别也能跑在树莓派上？ 还在为语音识别的高延迟、隐私泄露、API 调用费用发愁吗？来自 Moonshine AI 的开源项目 Moonshine Voice 给出了一个令人惊艳的
    算法 计算机视觉 深度学习
    Moonshine：比 Whisper 快 100 倍的端侧语音识别神器，Star 6.6K！
  • 使用LoRA微调Gemma实现移动端推理
    一篇完整的指南，教你使用LoRA微调Gemma，并采用独立的LoRA权重，实现移动设备端推理（Android、iOS、Web）。
    Android Android Jetpack Kotlin
    使用LoRA微调Gemma实现移动端推理
  • 全网 Kotlin Multiplatform 首个本地小语言模型(SLM)对话应用开发之旅B
    ❤️Onion99/MineGPT: MineGPT 是一个基于Kotlin Multiplatform 开发的本地小型语言模型(SLM)对话应用 UI 设计 首先作为一个躺平已久的CV工程师,设计能
    Kotlin APP
    全网 Kotlin Multiplatform 首个本地小语言模型(SLM)对话应用开发之旅B
  • [LLM-Llama]在 MAC M1上体验Llama.cpp和通义千问Qwen 1.5-7B
    本地运行与OpenAI完全兼容的个人LLM，llama.cpp的主要目标是在各种硬件上（本地和云端）实现LLM推断，同时保持最小的设置和最先进的性能。 纯C/C++实现，没有任何依赖关系。赶快安装吧
    LLM
    [LLM-Llama]在 MAC M1上体验Llama.cpp和通义千问Qwen 1.5-7B
  • 使用llama.cpp实现LLM大模型的格式转换、量化、推理、部署
    llama.cpp的主要目标是能够在各种硬件上实现LLM推理，只需最少的设置，并提供最先进的性能。提供1.5位、2位、3位、4位、5位、6位和8位整数量化，以加快推理速度并减少内存使用。
    LLaMA LLM AIGC