算法工具链

在实际部署智能驾驶方案时，很多不同任务的模型会同时运行，如何让模型按设计帧率运行，同时实时监测模型推理耗时和带宽使用情况？

在【LLM】LLM 中增量解码与模型推理解读一文中对 LLM 常见名词进行了介绍，本文会对 LLM 中评价指标与训练概要进行介绍

在【LLM】LLM 中 token 简介与 bert 实操解读一文中对 LLM 基础定义进行了介绍，本文会对 LLM 中增量解码与模型推理进行解读

在模型编译的时候，往往会出现各种各样的报错，您可能会受限于公司要求，无法把完整的 onnx 模型发送给地平线做分析，此时可以考虑截取 onnx 模型，找到可复现的片段，再将该片段提供给地平线的技术支持

一、什么是 LLM？ LLM，全称为 Large Language Model（大语言模型），是一种基于神经网络（主要是 Transformer 结构）的大规模自然语言处理（NLP）模型。

ReID 算法，全称是“行人再识别（Person Re-Identification）”算法，可应用于智能驾驶或智能机器人陪伴等领域。

本帖将详细介绍和整理地平线用于 hbm 模型验证和检查的 API，助大家理解使用，保障模型部署顺利。

本文将介绍两种常用激活函数：Sigmoid 和 Hard Sigmoid，全面对比它们的原理、优缺点、应用场景，并提供实际代码示例，帮助你更好地理解与使用它们，尤其是在量化和嵌入式设备部署场景中。