LLM应用开发与落地

上篇说到chroma的近邻搜索算法实现得有问题，不如qdrant的。其实向量数据库之间看似都一样，但细细比较还是有很多不同的。 国外有一系列文章已经讲得很详细了，而且也就是半年前写的，还是具有

选择向量数据库还是要看下索引实现方式，是否支持量化索引，近邻搜索准确率和响应速度，最好是支持参数调整的，可以在不同场景设置不同参数。

自然语言编程与编程语言编程的融合：LLM调用自定义函数。通过自定义函数大大拓展LLM的能力，让LLM更强大。

最近智能客服产品给到一个游戏客户那边，客户那边的客服负责人体验后认为我们产品回答的准确率是还是比较高的。同时，他反馈了几个需要改进的地方，其中一个就是机器人回复慢。

一、背景 如果你是做LLM应用开发的，特别是做后端开发，你一定会遇到怎么快速写一个聊天UI界面来调试prompt或agent的问题。这时候的你可能在苦恼中，毕竟react.js, next.js, c

每次使用LLM解决一个之前解决不了的问题，或者大大提升我的工作效率的时候，我内心都小小会激动一下。我想这是只通过看文章或只是研究AI理论感受不到的小确幸。

虽然我当前做的方向主要是企业内部提效的，但是有趣的事情谁不喜欢呢，特别还是在LLM应用方向的。 首先，作为一个专注LLM应用开发与落地的人，看到这样有趣的应用，肯定是先动起手来，自己实现一个玩玩。