RandyZ

在一个多维度线性回归的二分类场景中我想用ROC曲线来衡量一下。竟然被TP、TN、FP、FN干懵了。 重新记录一下概念，梳理一下理解吧。 TP、TN、FP、FN 四个基础算子...

RAG系统的召回过程中语义匹配是个非常典型的非对称检索场景。测试过Google的USE、OpenAI的Ada-002和text-embedding-3，结果都不太理想。 非...

卡内基梅隆大学在RAG方向上总结了一下15种RAG框架的优点、问题，同时对RAG的发展方向做了一些论述。做AIGC RAG落地的朋友可以看一下...

前言 APM（Application Performance Management，应用性能管理）是一套用于监控和管理软件应用程序性能的工具和方法论。微服务盛行之后，这其中...

本地运行模型我之前都直接使用LM-studio，好用、无脑。本地用足够了。但是在服务器上这个东西没法搞，Ollama推出了并行GPU计算之后可用性大幅提升。今天研究下如何用...

导读 提示工程（Prompt Engineering）是一门新兴的学科，专注于提示词的开发和优化，旨在帮助用户在各种场景和研究领域中更好地利用大语言模型...

在Elasticsearch（ES）中，大数据查询可能会因为多种原因导致性能大幅下降。以下是几种常见的情况及其解决方案。 深分页、大排序：大量数据扫描和多分片上的多次排序会...

简单一句话，大模型会顺着你的Prompt做“成语接龙”。 但是作为一个有探知欲的你，一定想知道大模型如何做“成语接龙”的。 Prompt在Transformer中的作用 P...

最近在做AI解读，想要做到ChatGPT回复消息的效果，边接收消息边显示，最开始想到的是Websocket服务端可以发送消息到客户端，后面查了一下通用的解决方式是使用Ser...

OpenAI今天凌晨发布了GPT-4o Mini模型，奥特曼介绍中说“两年时间模型成本下降了99%”。 先说结论，从OpenAI官方提供的测评数据上看，GPT-4o min...

TranslationAgent构成 整个TranslationAgent (github.com)在流程上分为短文本的一次性翻译和长文本的分chunk翻译（按照Token...

Picone上的一个博客，翻译过来学习一下 为什么需要文本分割（Chunking） 在构建与LLM相关的应用程序时，Chunking是将大量文本分解为较小段的过程。这是很重...

张量、向量和矩阵都是数学和计算中的基本概念，主要用于表示数据和运算。虽然它们有相似之处，但也有显著的区别和具体的应用场景。 向量（Vector） 定义：向量是一个有序数列，...

开发RAG系统，我遇到的第一个比较抽象的概念就是Embedding。 网上查一查无非就是把文本数字化、用向量表示文字等等高深的描述。这些表述没错，文本Embedding是将...