强烈推荐一款把开源AI模型本地部署做到极简的软件 Doo AI

244 阅读6分钟

屏幕截图 2026-01-14 051145.png 就是这款软件Doo AI,可以说下载好适合你显卡大小的开源模型之后,只需要选择模型所在文件夹,就可以自动扫描添加到模型列表内,非常方便,还支持批量添加。添加好之后点击对应模型卡片或列表内的加载键,10秒左右的时间,模型部署就彻底完成,之后就可以和部署好的开源AI模型畅聊了,非常方便快捷,省去了传统部署的各种麻烦和时间成本,环境依赖安装、版本不兼容、功能开发、错误等等麻烦。软件纯本地,官方保证零数据上传,所以对信息安全,和隐私有很好的保障,不用再担心用AI辅助工作会泄露机密。 屏幕截图 2026-01-14 051526.png 以下是对话页面设计的很简单,很常规,左边是对话列表,右边是常规对话框,对话框上方可以选择你在角色页面设定好的各类角色,让AI扮演谁都行,切换也很方便快捷,包括软件的另一个功能,RAG知识库,也有对应的知识库管理页面(简单来说RAG就是AI的知识外挂包,可以临时扩充AI的知识能力,你可以导入个人资料,工作资料等等让AI帮你分析等等),同样在对话框上方有快捷开启和切换知识库分类功能,包括还有一个简单的语音播报功能,经过实际使用,自带的播报语音包多少略带口音,语音播报功能能够正常播报,但是也有些特殊符号的识别问题,软件现在属于BETA本版,所以一点点小瑕疵,问题不大。

屏幕截图 2026-01-14 051449.png AI回复使用了流式生成技术,实时回复内容,实际交互感受可以说是丝滑、零延迟,体验感极佳。设置页面内也有生成参数设置,可以调整模型推理的max token和温度等等参数,角色功能加参数微调可以更好的让AI更加符合个人需要,更加个性化,包括rag功能的使用,也在为个人个性化AI塑造提供了很好的支持。

ScreenShot_2026-01-21_021516_909.png 以上是软件另一个很实用的功能页面,文档编辑页面,软件直接集成了文档编辑器,并且支持AI在文档编辑器内生成和修改内容。看到赛车图片了没?软件虽然不支持常规图像生成,但是软件支持多模态模型的识图功能,拖入图像,右键可选图像识别和文字识别,文本内容也有右键菜单,并且功能相对更丰富,选取文字,右键菜单你就可以看到比如续写、润色、翻译、总结、解释、朗读文本等多种功能,操作便捷性做的很好,并且还有一个图像生成功能,但是经实测,这是一个简单的SVG生成功能,SVG本身就是代码,能够很好的发挥AI的文本或者代码生成能力,只是我用8b的qwen3 vl模型实测,生成的图像,很童趣,没那么专业,所以在功能说明里也有介绍,这是实验性功能,生成内容质量完全取决于模型能力。对话页面也支持识图和SVG生成。

主要功能基本都做了介绍,然后还有一些比如fp16半精度加载和int4量化加载,能够大大减小显存压力,包括各类加载和推理功能,都让整个软件的使用没压力,体验感受也不错,只是识图功能限制于个人显卡能力,我的3080ti识图的时候设置的128tokens耗时大概10秒左右,如果加大token可能会接近20秒,但是生成内容更详细,基于消费级显卡的能力,其实也不差。而且30系对ai技术的支持远不如现在的40、50系显卡,不过官方也明确,现在因为技术栈问题,所以50系显卡的支持不完善。还有模型支持暂时只有qwen 3、deepseek、gemma 2、llama 3.1、mistral等模型,多模态暂时只支持qwen3 vl,同样受到了技术栈,比如pytorch、transformers版本问题限制,所以不是什么本地模型都能支持,但是大部分近一两年内较新,但不是最新的模型,没有特殊技术要求的大模型应该都能适配加载,设置里也提供了很多种类模型的适配文件,但是没测试不保证能用,喜欢尝试的朋友可以自己试试,出问题软件也有解决方案,那就是标题栏里的全局停止推理键和gpu进程重启键,一键终止推理和卸载模型,经测试,偶尔需要重启两次,两次一般能够解决你遇到的所有问题。软件还支持网络AI做了网络AI的配置,支持千问、openai、openrouter(openrouter算是一个全门类AI平台,什么AI模型都有),deepseek还有智谱,不多但是够用了,实测都可用,只是openai和openrouter是国外的平台,需要网络支持。另外值得一提的是软件的UI设置,支持灯光效果和颜色切换,算是软件RGB灯效,不喜欢的也可以关闭。

最后是软件的配置要求,第九代i5及以上性能的cpu,笔记本低功耗cpu安装可能会遇到问题,因为安装时要求的性能比较高,容易卡死,内存最好12gb,运行占用1-2gb左右,所以理论上8gb应该也可以。硬盘20-30gb比较好,单软件安装就占用10gb,加上模型20~30gb差不多。最后是显卡要求,上文也提到过,暂时只支持N卡的30、40系,50系支持不完善,所以50系朋友慎重选择。显存大小因为有int4量化加持,6gb显存就够部署4b-5b也就是四十亿和五十亿参数的模型,基本对话、简单的工作内容应不是问题。那么软件在哪里有呢?暂时只有微软商店有,没有免费,但是也不贵,36元买断的价格比较实惠。软件介绍完了,有兴趣或者有需要的朋友自行搜索安装就行。总的来说这个软件把AI的文本能力配套做的比较完善,还有识图能力也是亮点,整体操作流畅丝滑,只是初次刚安装好之后,因为数据加载和创建等等,需要一点时间让软件部署完毕,部署完毕后的使用和操作都很流畅,虽然只是BETA版,但是使用时几乎没有什么问题,所以今天向大家极力推荐!