iPhone 13 本地 AI Agent 优化:FTS/RRF、GGUF 与离线语音

0 阅读27分钟

不付按次云 API 费用不等于零成本。本地语音、FTS/RRF、量化 GGUF 和手机硬件都有适配边界。本文依据 RecalAI/Lunest 现有代码与 iPhone 13 的实际使用反馈整理,不把约 99% 主观准确性写成标准化 CER 实测。

“免费离线语音助手”既能识别、播报,又能本地 AI 问答吗?这听起来是一个成本问题。真正开发过移动 App 才会发现,它同时是机型覆盖、语言支持、模型常驻内存、系统音频会话、数据归属和退出策略的问题:没有按 Token 交钱的账单,不代表用户不需要下载模型、手机不会发热,也不代表平台提供的“离线优先”一定不会联网。

我的两个产品目标恰好代表两种难度。RecalAI 需要让私人文档在设备上可检索、可引用;Lunest 需要稳定播放、睡眠检测与中断恢复。它们都希望减少对云推理的依赖,但前者的正确性来自“资料检索与引用”,后者的正确性来自“音频生命周期不中断”。因此,一条免费方案不能简单复用到所有功能上。

本文结合已核对的项目代码与公开 SDK 文档:RecalAI 已有端侧语音、转写和朗读实现,但没有在 iPhone 13 或多款 Android 机型上完成所述新旧方案的统一实测,也不能把候选 Google 新语音 SDK 写成已交付的新功能。 如果想先了解 Google 2026 年 11 月更新的语音接口及局限,可读离线语音识别与 TTS 的设备支持、兼容和失败恢复;如果关心付费云模型如何分工,另见Gemini 4 Hydrogen、Argon、Carbon 在工程任务中的模型路由。

先交代项目的真实起点:哪些已经在用,哪些只是升级候选

不需要为了写“免费方案”而把 RecalAI 和 Lunest 当成尚未开发的产品。核查当前代码后,我们已经有相当多可以直接作为工程案例的端侧能力。下面的“已实现”指代码路径存在,不代表所有端和目标设备都完成发布验收,也不意味着这些功能在所有机型上必定可用。

功能实际项目状态还缺什么
RecalAI iOS/iPadOS 实时语音输入已有代码:PMSpeechInputController 申请权限,检查系统端侧识别能力并设置强制端侧识别;不满足条件则返回不可用目标语言、首包资源、离线长时间运行、中文识别精度等跨机型记录
RecalAI Android 语音问答入口已有代码:OnDeviceVoiceInput 使用平台 createOnDeviceSpeechRecognizer,不靠 EXTRA_PREFER_OFFLINE 假装网络识别被禁用Android 系统版本/厂商/语言覆盖的真机矩阵
RecalAI 导入音视频转写已有代码:iOS 端按约 50 秒切段并保留受保护检查点;Android 端要求 Android 13+ 及本机识别可用,以约 30 秒分段得到带片段时间标记的内容同一录音语料上的 CER、时间轴误差、错误恢复;分段时间并非逐词精准标记
RecalAI 语音朗读已有代码:Android OfflineAnswerReader 使用系统 TTS 但排除网络声音和未安装声音;iOS 学习卡使用 AVSpeechSynthesizer不同语言声音包离线可用性;不是所有端的所有问答页面都已经统一使用 TTS
本地知识库与生成已有代码:Android HybridSearchEngine 的 FTS/稠密检索与 RRF、MediaPipe EmbeddingGemma、LiteRT-LM EmbeddingGemma 2;iOS 通过 llama.swift/llama.cpp 使用 GGUF;macOS 有本地推理与整库总结检查点多型号机型间的质量/内存对比,向量迁移完成度和完整真机验收
RecalAI Agent 与自选云模型已有代码:三端有不同程度的 Agent 元数据操作、证据约束与人工确认;Android 支持多个云供应商的 BYOK、单项授权,Gemini 预设仍为 gemini-2.5-flash不应据此宣称“任意文件自主修改 Agent”已经全端上线,也没有 Gemini 4 三模型任务 A/B
Lunest 睡眠核心已有代码:iOS/Android 处理音频中断和播放恢复,识别鼾声/疑似睡眠讲话等声学事件,结合已授权的 HealthKit/Health Connect 本地信息整夜多机型稳定性验收;疑似梦话事件不是语音转写,尚无通用语音指令助手的实现证据
Google 新 ML Kit GenAI ASR/TTS、sherpa-onnx、whisper.cpp、云语音 API仅作为独立候选:当前仓库未发现上述新 GenAI ASR/TTS 依赖或 sherpa/whisper 的集成;现用 Android MediaPipe/LiteRT 是检索 Embedding 路线,不等于已经接入 Google 新语音 API真实需要时再确定权重、语言、设备兼容性、商用许可、成本和隐私同意

从这些实现可以看到,当前免费的基本链路并不是纸上谈兵:RecalAI 可以将系统端侧听写接到已有的本地检索和模型回答,再按页面条件使用本地 TTS;Lunest 则已将睡眠音频和本地事件检测置于独立生命周期中。 但“有代码路径”与“完整语音 Agent 已交付”仍必须区分。对 Google 新发布 API 的逐项限制,参见离线 ASR/TTS 在 RecalAI 和 Lunest 的现有代码与升级边界;收费 Gemini 主要用于复杂推理或工程工作流,参见Gemini 4 模型路由与实际任务成本。

真实使用反馈:准确率接近目标,速度还没有达到目标

iPhone 13 端侧语音、检索和本地 LLM 的分阶段性能定位,区分主观体验与待测数据

图示:约 99% 的识别准确性属于开发者主观估计,并非统一语料的 CER 测试。

源码能证明功能路径存在,实际体验则告诉我们哪一条路径值得优先优化。项目开发者的近期反馈是:当前端侧语音识别的主观准确率约 99%,本地搜索体验尚可,但在 iPhone 13 上整体响应偏慢。它不等于正式 CER 测试:尚无公开可复核的人工标注语料、样本量、语言环境和误差计算,因此不应把“约 99%”伪装成实验论文式结论。对搜索同样如此,当前是可用性反馈,而非已核验的召回率或排名成绩。

这条反馈影响免费架构的工程优先级:先保住现有系统 ASR 和本地检索链路,不为追求更高的宣传准确率无谓叠加 sherpa-onnx/whisper.cpp 常驻权重;在 iPhone 13 上按阶段确认究竟慢在语音 final、查询 Embedding、检索/Rerank、模型冷启动还是回答生成。可复测同一组明确授权的短句与查询,分别记录冷/热运行的首个结果和首 Token,而不写入私人音频内容。只有证明某环节在当前能力约束下无法优化,才讨论换模型或经用户同意的付费云步骤。

具体到 iPhone 13,现有实现已经有可以复用的优化基础,而不是全部重做。 iOS 的 PMMemoryModel.prepareSearch 会提前准备查询向量,PMEmbeddingProvider 使用按模型版本/查询文本区分的 Query Cache,并有主动卸载 Embedding Runtime 的代码,避免与较大的本地生成模型长期竞争内存。因此应先区分“首次加载太慢”与“每次相同查询都慢”,再决定保留、预热或卸载策略。不能直接声称“已经缓存就不会卡”或“多驻留一个模型就会更快”。

用户能感知的阶段项目中可检查的边界首选优化方向(待测后实施)应记录但不收集的内容
点击语音按钮 → 可以说话系统 SFSpeechRecognizer 的语言/端侧可用性、麦克风权限、AVAudioEngine 启动提前做好非敏感资格检查,避免重复申请权限;保留用户明确触发录音记录毫秒、设备及错误码;不记录原始语音
说话结束 → final transcriptpartial/final 回调,最终识别完成和输入框更新区分系统识别等待与 UI 文本刷新,避免 partial 导致重复查询记录分段耗时,不上传识别文字
提交搜索 → 首批证据展示FTS、Query Embedding、RRF/Rerank、引用筛选复用已存在的 Query Cache;评估先展示确定性词法结果,再补充合格向量结果,但必须保护引用一致性记录候选数、缓存命中和耗时,不记录私有 Chunk
提交问答 → 首 Token / 完整回复Embedding 释放、GGUF 初始化、上下文构造、生成和流式 UI分开测冷启动和热启动;按低内存设备限制模型重叠占用,避免错误的重复加载和失控上下文记录 RSS 峰值、首 Token/总时长,不留原始 Prompt

性能与准确性不能互相替代。 如果未来标准语料证明中文 ASR 仍有漏字,再评估 sherpa-onnx 或 whisper.cpp 是否真正改善;如果转写已够准而瓶颈在本地 LLM,则优先检查加载、上下文预算和流式输出。两条路径的技术判断不能混为一个“换更强 AI 模型”的宣传结论。

iPhone 13 本地 AI 六项候选优化:系统 ASR、冷/热启动、缓存、模型内存、渐进展示及文本回退

图示:先定位实际耗时阶段,再决定是否增加更重的本地模型。

不花 API 费,有三种完全不同的“免费”

三种不付按次云 API 费用的语音方案对比:原生设备能力、自带模型和云端免费配额

图示:云端免费额度仍是联网调用,不能视作本地或永远免费的语音能力。

第一种是设备端系统能力。开发者调用 Apple 的 Speech 或语音朗读框架、Android 的系统语音能力,实际是否离线由设备、语言、已下载资源以及调用模式决定。系统通常承担部分模型维护,但开发者仍要对权限、语言覆盖、错误处理、用户体验和系统升级负责。

第二种是自己分发开源或开放权重模型。推理可以完全在设备上完成,没有云端逐次调用费用;但模型权重可能有独立授权要求,且包体、资源下载、CPU/GPU/NPU 兼容、低内存运行、发热和版本维护会变成产品团队自己的负担。运行时框架的开源许可证不能自动赋予模型权重的商业分发权。

第三种是云 API 的免费配额,例如部分 Gemini 模型的有限免费层。这属于用量和条件受限的远端调用,不是本地推理。网络连接、地区/账号资格、供应商的数据使用政策、免费额度用尽后的处理方式都与前两种不同。Google 公开的 Gemini API 定价页明确区分了 Free、Paid、Enterprise:Free 的内容可能用于改进产品,Paid 的数据条件不同。Gemini API 官方定价与数据政策。

决定技术路线时,我更关心能不能兑现“默认本地、断网可用”,而不是宣传页上出现几个 Free 标签。

路径云 API 请求计费中文语音现状与设备门槛对产品的主要代价
iOS 原生 Speech + AVSpeechSynthesizer不按第三方云语音 API 请求付费必须检查当前 locale 的端侧识别资格与本机声音;并非所有语言和声音均可用系统服务依赖、权限、音频会话和中断
Android ML Kit GenAI ASR Basic端侧调用无额外服务端请求费Android API 31+;官方简体中文 BetaAndroid 版本、语言精度与资源准备
Android ML Kit GenAI ASR Advanced端侧调用无额外服务端请求费仅官方指定的 Gemini Nano/AICore 机型设备碎片化、Alpha API 变更
Android ML Kit GenAI TTS Alpha端侧调用无额外服务端请求费官方支持机型有限,当前 locale 列表无中文中文不能直接用其覆盖;需要回退
Android 系统 SpeechRecognizer / TextToSpeech通常无独立云 API 计费接口是否离线取决于引擎与已装语音资源实现差异与“离线偏好”不可靠
MediaPipe Tasks / LiteRT + 自备权重无云语音调用账单看具体模型、转换与设备;不可笼统宣称中文可用模型权重许可、包体、内存、算子与自测
llama.cpp + 合法可分发的本地 LLM无云模型请求账单语言能力取决于模型,离线运行依赖实际设备资源低内存、上下文/KV Cache、耗电与发热
Gemini Hydrogen 有限免费层配额内不收费,但调用云端以服务端模型/API 支持和账号权限为准隐私、配额、联网及数据使用条款

Google 官方将 ML Kit 定义为免费 SDK,并说明 GenAI API 在设备本地处理、没有逐次额外服务端开销,但这不是“所有 ML Kit 功能任何设备都可用”的保证。其 Speech Recognition Alpha Basic 的实际运行下限是 Android API 31,Advanced 还有芯片和机型门槛。TTS Alpha 的支持语言列表截至 2026 年 11 月 17 日仍不含中文。ML Kit SDK 费用 · GenAI 处理边界 · ASR 机型和语言 · TTS 语言表。

免费与付费,到底要按哪项能力对应

这里需要防止一个容易误导读者的比较:Google Cloud 的付费语音服务与 Gemini 4 的付费推理模型不是同一个产品,也不能把 Google AI Edge Gallery 当成付费 API 的免费版本。 ASR 负责听写,TTS 负责发声,LLM 负责生成和推理,Agent 运行时负责工具权限、执行检查点与恢复。每一层都能单独选择本地或经用户许可的远端实现,而不是整套一次切换。

真实任务零付费云 API 的候选需要联网、可计费的候选哪项代价真正发生变化
把一句中文语音转成文字符合资格的 Apple Speech、Android ML Kit Basic/Advanced、自带且许可合规的本地 ASRGoogle Cloud Speech-to-Text 或其他明确承诺处理条件的云 ASR云端按处理音频时长或对应 SKU 收费;同时产生音频出站和网络失败风险
朗读本地回答或播放短提示已验证离线可用的系统声音、自带模型权重的 TTSGoogle Cloud Text-to-Speech 等云 TTS某些 SKU 按文本字符计费、生成式语音 SKU 按 Token 计费;离线时必须另有退路
私有文档检索、逐句引用RecalAI 的 FTS、Embedding、RRF、确定性引用校验经用户选择和授权的云端重排/生成或 Gemini API云模型不能替代本地来源 ID 与引用回跳校验;外发最小化是硬约束
回答复杂问题与多文件分析设备可承载的本地量化 LLM;能力不足时明确拒答或请求人工处理Gemini Hydrogen、Argon、Carbon 等按 Token 计费的模型质量、上下文、延迟、重试 Token、隐私和任务成功率需要同任务比较
自动修改文件、排查代码与恢复工作流确定性任务引擎 + 本地模型(可选)+ 权限/检查点/回滚经授权的云模型作为建议者或某一推理步骤付费的是模型推理,工具授权与状态一致性仍由自己的执行系统负责

这里的云语音价格必须按实际服务核算:Google Cloud Speech-to-Text按音频处理量分层计价;Text-to-Speech则随声音和 SKU 采用字符数或生成式语音 Token 的不同计费规则,某些项目有有限免费用量,不能统称为“全部收费”或“全部免费”。Gemini API 的每百万 Token 标价属于另一条账单,具体路由策略见Gemini 4 Hydrogen、Argon、Carbon 的工程分工。要核对 ML Kit 设备与语言条件,则回到离线 ASR/TTS 的集成边界。

不买 API,Agent 仍需要哪些基础能力

“本地 LLM 能回答问题”不等于“本地 Agent 能可靠执行”。RecalAI 的免费路线可以由现有本地检索承担资料查找和证据选择,由轻量任务控制器维护 task_id、授权的本地工具集合、当前执行阶段和可复核结果;仅在需要自然语言总结或歧义判断时调用本地模型。对于导入、OCR、索引、搜索、精确引用这些可确定性实现的部分,不应为了拥有 Agent 名称而强迫模型参与。

举个可验证的边界:用户说“找出所有备份相关文件并做摘要”。识别后的问题必须先确认,工具只能读取获准的本地文件;每条摘要引用被验证的 Chunk ID;超时后从已提交的检查点继续,不重复导入或覆盖文件;如果本地模型内存不足,就保存工作进度并返回可执行的较小任务,而不是偷偷请求 Hydrogen 免费云 API。Lunest 则只允许受限、可逆的播放命令,不把整夜睡眠分析状态交给开放式 Agent 决策。

如此实现可以做到不产生付费云模型调用账单,但代价是端侧开发、设备差异和任务维护;它也不能保证与付费 Gemini 4 在同一复杂任务上具有相等的完成率。本篇是候选架构,不是已完成的端侧 Agent 多轮实验。

不依赖 Google 指定机型,还有哪些真实可评估的本地语音技术

“自己带模型”不能只写成一句抽象建议。对于 Android ML Kit Advanced 不支持、又确实要在 iOS/Android 做同类语音交互的产品,值得形成不同运行时的候选评估;但以下项目存在具体平台实现,并不表示已经在 RecalAI 或 Lunest 编译、运行或获得模型权重的商业授权。

可核查的具体候选能承担的功能为什么可能适合不能省略的核查
sherpa-onnx端侧 ASR、TTS、VAD、关键词唤醒等项目官方列出 iOS、Android ARM64 与 Swift/Kotlin/C++ 接口;有中文相关 ASR 示例每套权重的许可证、中文模型大小、实时/非实时差异、目标机型内存与功耗
whisper.cppWhisper 系列端侧 ASR项目提供 iOS/Android 示例,并公开量化与多种执行后端具体权重来源与许可证、中文 CER、长音频延迟、与现有本地 LLM 争用内存
sherpa-onnx 的 VITS/Kokoro 等 TTS 模型管线端侧文本转语音可以统一部分 Android/iOS 模型接入方式,不必依赖 GenAI TTS Alpha 的语言清单必须指定真正支持中文的声音资产;声音质量、分词/数字读法、权重授权逐项审计
系统语音 + 原有本地检索/确定性执行器短语音入口、读出答案与控制本地工具减少常驻模型数量,符合 iPhone 13 低内存设计目标语言包离线可用性、权限/音频焦点、工具执行和持久检查点

sherpa-onnx 仓库自身采用 Apache-2.0,whisper.cpp 运行时代码采用 MIT;但这些许可证不能替代所下载的 ASR、TTS 权重及声音资产的许可核验。如要比较中文 ASR,可把 sherpa-onnx 的 SenseVoice 中文/英文示例列为候选,对照系统 ASR 与 whisper.cpp 使用同一组授权录音;不要因为某个开源 Demo 成功,就写成 iPhone 13 已实测。对 RecalAI,我倾向优先评估短录音准确性和引用一致性;对 Lunest,则先保证语音实验不会干扰长时播放。跨平台框架的“可编译”也不等于可在所有低内存设备生产上线。

RecalAI:免费语音首先要保护“问题与证据”的对应关系

RecalAI 从语音输入、最终转写确认到 FTS/RRF 本地检索、引用核对和回答生成的流程

图示:语音只是输入方式,私有知识库的可靠性仍取决于证据与引用校验。

RecalAI 本身已经有清晰的本地知识库目标:文档导入后进行 OCR/解析、FTS 索引,再做 Embedding、混合召回、证据选择与逐条引用。语音不是另一套“万能知识模型”,它只是代替键盘提供问题输入。用户问“查找去年那份备份加密方案”,如果 ASR 听成了“解密”,一个再流畅的本地 LLM 也可能对错误问题生成看似合理、并附有真实链接的回答。

因此我不会因为免费就一上来同时塞进 ASR、TTS 和另一套大型 LLM。候选的最小链路是:用户主动按麦克风,探测系统是否能严格本地识别;得到可编辑的 final transcript;用户确认后沿用 FTS/Embedding/RRF 和证据校验;最后可选用系统 TTS 朗读已经完成的回答。部分识别结果(partial)只供预览,不应触发实际操作;取消、权限拒绝和识别失败必须保留手动输入入口。

对于 iOS,Apple 的 supportsOnDeviceRecognition 说明当前识别器是否能够无网络工作,requiresOnDeviceRecognition 才是请求坚持端侧处理的约束;前者不支持时不能靠设置后者强行实现。对 Android,设置 RecognizerIntent.EXTRA_PREFER_OFFLINE 也不是完整的隐私保证:Android 官方承认识别器实现可以忽略这个偏好。因此不应承诺“设置一个布尔值就永远不上云”。Apple 能力约束 · Apple 本地请求 · Android 离线偏好。

iPhone 13 的 4 GB 内存是一个实际产品预算条件,不是一次未跑过的性能成绩。 在本地 LLM、Embedding、OCR 与新的语音模型之间,真正要核对的是进程峰值驻留内存、模型加载峰值、KV Cache、音频缓冲、App 切后台后的回收,以及较长问题的首字时间。如果系统原生识别已经满足中文正确性要求,就没有必要为了“全自研”再常驻一套占资源的声学模型;如果系统不支持目标 locale,则应保留文本入口,而不是静默上传私人音频。

隐私要求反过来影响免费方案的上限:私人 Chunk 和语音原文默认在本地,第三方云模型只有在用户明确选定供应商、同意外发范围并主动配置后才能作为另一种模式使用。有限免费 API 的数据政策不能成为默认上传用户资料的理由。 此处的 BYOK、数据边界与生命周期,已经在本站本地知识库与第三方云模型隐私边界中作为独立主题展开。

Lunest:系统能力再便宜,也不能抢走整夜音频资源

Lunest 的核心承诺不是聊天,而是长期音景播放、睡眠记录、后台恢复与可解释的睡眠分析。所谓“免费的语音控制”可能在用户最需要安静时改变音频焦点、抢占麦克风、暂停播放器或误把音景中的人声听成命令。这不是语言模型排名能回答的事情。

考虑一个典型场景:用户正在播放雨声,短暂说“声音小一些”。如果语音识别启动时强行重配 iOS 的音频会话或 Android 音频焦点,实际后果可能是原来的音景被打断。更棘手的是来电、闹钟、蓝牙耳机断连与系统低内存回收叠加时,负责语音的临时任务与负责睡眠的长期任务不应拥有相同的生命周期。

所以在 Lunest 上,我会把免费语音当作有边界的可选前台交互,而不是整夜在线监听的替代品。语音引擎只输出候选意图,音量或播放控制仍由原有确定性播放器处理;识别失败立即退出语音会话,不清除睡眠结果、播放队列或已记录进度。通用 ASR 也不能把“听见用户发声”解释成打鼾检测或睡眠阶段判定。真正的整夜监测仍需单独的音频事件/传感器方案与长时间真机验收。

这实际上是一条节省成本的选择:能用少量前台按键解决的问题,不必额外引入一套后台语音模型。 省下的并非只有服务端账单,更是发热、耗电、隐私负担和故障表面积。

RecalAI 私有资料引用与 Lunest 整夜睡眠音频恢复各自不同的本地数据及权限边界

图示:已实现的音频中断恢复不能被误写成正式上线的通用语音 Agent。

“开源模型免费”是一个容易被忽视的许可证陷阱

MediaPipe、LiteRT 是处理和推理框架;llama.cpp 使用 MIT 许可。但这些事实不能推出“任何从模型平台下载的 GGUF、ASR 或 TTS 权重都可以随商业 App 无条件发布”。权重许可证、训练数据相关声明、语音权利和再分发条件必须逐项核对。即使模型可以个人免费运行,也未必允许把权重打包到 App、在不同应用商店分发或用于某些商业用途。llama.cpp 官方许可证。

还需要区分三种资产:代码库可读、模型文件可下载、成品 App 可销售。它们分别涉及代码许可证、权重许可、软件商店和用户隐私义务。某个 Android Demo 运行成功,也不意味着相同 GPU/NPU 算子、解码器和声音模型能直接通过 iOS 审核并在 iPhone 13 上保持稳定。

对 RecalAI,较合理的是让检索与引用逻辑保持本地、相对轻量且可验证;只有任务实际需要语言生成时才启动本地 LLM。对 Lunest,绝大部分音频播放、状态恢复与节律控制不应依赖通用生成模型。减少模型数量,有时比追逐免费模型更能提高离线可靠性。

真正的总拥有成本:哪些地方仍要花钱

免费架构最容易漏算五类成本。首先是集成时间:处理音频采样、权限、语言资源下载和多端回退,并非直接引用一个依赖包就完成。其次是设备覆盖:多一个 Alpha SDK,可能就多一组必须验证的 Android 机型。第三是可靠性:电话中断、后台回收、语音包丢失、热降频等问题不会因为没有服务器而消失。

第四是用户设备成本:模型下载流量、闪存、CPU/GPU 运算、发热与电量由设备承担。对 4 GB 内存手机,给本地 LLM 加一个并行语音模型,能否同时存活是需要真实测量的问题,而不是用模型参数量直接换算的结论。第五是后续维护:系统版本、模型发布、语言包和许可证变化都需要持续追踪,尤其是仍处于 Alpha 的新 API。

在同样可以不收费的情况下,系统原生接口与自带模型并不是一场谁更先进的比赛。系统接口降低维护成本,却受厂商设备和语言范围限制;自带模型争取可控性,却把运行时和发布风险留给团队。只有明确用户场景、目标机型和失败代价,才知道这笔交换值不值。

本地 AI 的集成、设备覆盖、可靠性、资源和维护成本及模型权重许可清单

图示:零云 API 账单并不等于零总成本;PASS、FAIL、UNSUPPORTED 和 NOT_TESTED 要区分。

本篇不会编造的测试:把成功和“不可用”分开

这三篇文章共享一套可复核的研究边界。语音侧以授权录制的固定语料计算中文 CER,并记录前台/后台状态、模型下载、断网、识别首字、最终识别、TTS 首音、峰值内存和失败恢复。Agent 侧用合成资料评估 RecalAI 引用正确性,以脱敏音频事件检验 Lunest 的恢复逻辑。

每条运行必须标记 PASS、FAIL、UNSUPPORTED、NOT_TESTED 或输入无效。不支持的 Android 机型不能算模型失败,未下载语音包不能算已完成离线识别;即使已在 iPhone 13 进行日常使用,也不能仅凭主观体验写成“iPhone 13 上已通过标准化性能与稳定性验收”;必须保留实际日志和复测条件。费用比较要给出云 API 的真实费用以及设备开发、维护与人工验收成本,而不是只展示“Token = 0”。

当前尚未完成这些方案在两款 App 内的统一真机 A/B、中文 CER、端到端延迟、峰值内存及电量测试。本文只给出研究判断与可采用的产品边界,不声称 Google AI Edge 已完成集成或免费方案已经上线。

最终取舍:先兑现核心功能,再决定语音或 Agent 要多强

如果在 RecalAI 中需要的是“用户能说出问题,然后从自己的资料里得到有出处的答案”,优先采用系统本地识别能力探测、现有本地检索和可编辑确认;确实需要生成时再启动本地小模型。Android 设备不支持高级 ASR 时用 Basic 或明确的文本回退,但每种模式的隐私行为都要证实。

如果在 Lunest 中需要的是“偶尔用一句话控制音景”,优先证明语音模式不会破坏睡眠主会话。任何会导致通话恢复失败、重复音频播放或睡眠记录丢失的免费实现都不值得为了“AI 功能齐全”上线。

如果在 XBSTACK 网站或开发 Agent 中需要的是“持续处理可验证的工程任务”,确定性校验、本地资料和开源工具应当先承担工作;只有任务复杂度、授权与数据价值值得时再考虑付费模型。要研究付费模型的真实分工、上下文与任务成功成本,可接着阅读Gemini 4 三模型如何分担真实工程工作。

结论不是“一律不用云”,而是:默认本地执行能满足的事,不因为免费配额而把数据送走;本地能力不满足时,把边界说清楚、让用户决定,不伪装成万能离线方案。

读者还可以了解真实项目的开发进展

本文对照的不是两款已经上架的成品:RecalAI 个人知识项目的站内产品页目前使用 Recalia 名称,Lunest 睡眠应用的产品介绍页也会明确实际开放状态。当前两款 App 均未提供公开商店下载,产品页只用于了解项目,不以“立即下载”等方式制造不存在的应用入口。

官方来源与研究限制

本文现已在 XBSTACK 官网公开发布,但不代表 RecalAI / Lunest 新功能已经上线,也不代表完成了真机性能基准测试。相关测试协议与模型路由评估仍需真实运行、保存可复核的测试记录后,才能形成项目测试成绩。


原文与证据边界: 本文基于已公开官方资料和代码现状整理;未完成的设备/模型标准化测试均明确标注,不将 GPT 信息图视为实测截图。

完整中英文原文、引用与图表: www.xbstack.com/ai/free-loc…

相关阅读: