智泊AI

先说结论: 如果你对高并发处理有严格要求，或是需要支持多轮对话、格式化输出的模型，SGLang会是不错的选择。 随着请求量的提升，SGLang相较vLLM展现出更显著的优势，在需要高性能和高并发的应用

近年来，随着Transformer、MOE架构的提出，深度学习模型的参数量级已快速攀升至十万亿级别，传统单机单卡的训练范式在超大规模模型面前显得捉襟见肘。 为此，业界开始广泛采用单机多卡乃至跨节点多卡

摘要 监督微调 (SFT)和强化学习(RL)是基础模型广泛采用的后训练技术。然而，它们各自在增强模型泛化能力方面的作用仍不明确。 本文研究了 SFT 和 RL 对泛化和记忆的相对影响，重点关注文本和视

引言：今天来和大家讲讲AI大模型的三种模式：agent、copilot、embedding 大模型三种模式解析：agent、copilot、embedding 这三种模式的本质，其实是人类逐渐"解放"

目录 RAG(检索增强生成): 知识增强外挂 LangChain: 方便快捷地创建AI应用 Agent(智能体): AI执行任务的“代理人” 在LangChain框架中使用RAG技术创建专用的Agen

LLM 各种技巧 Prompt Engineering指南 截止至今: 关于 LLM 的优化与技巧层出不穷，几乎每个月都有新的技术和方法论被提出。 因此本篇主要是要介绍在各种不同情境下，LLM的各种

今天在知乎上面看到了一位高赞网友的面试经历： 想和大家分享一下，下面是他的阐述： 面试官:“为什么现在的大模型大都是decoder-only架构?" 懵逼的我TAT:“呃呃，和encoder-only

LLM基础知识分成了十个部分： \1. Transformer结构 \2. 主流大模型 \3. 预训练Pre-train过程 \4. 后训练Post-train过程 \5. 模型压缩与量化 \6. 专

智泊AI人工智能研究院正式成立：以产教融合重塑大模型人才培养新范式‌ ‌——产学研协同赋能，开启AI人才生态进阶之路‌！ 2025年5月8日，在上海昇思生态创新中心举行的 “智泊AI人工智能研究院成立