算法工具链

本文旨在提供 征程 6B 计算平台的部署指南，将会从硬件、软件两部分进行介绍，本文整理了我们推荐的使用流程，和大家可能会用到的一些工具特性，以便于您更好地理解工具链。

地平线工具链的link功能可将多任务模型打包，复用公共部分权重，实现不同任务分支以不同帧率推理，优化内存和延迟。

地平线征程 6 工具链 UCP 平台支持模型板端部署，提供图像获取、性能分析、优化工具及前后处理模块。

文章介绍了地平线征程6H/P平台的QAT量化调优流程，重点围绕int8+int16+fp16混合精度配置，详细阐述了模型检查、校准、训练和导出部署各阶段的调优原则、常见问题及解决方法。

这份指南聚焦开发者使用 PTQ 时的实际需求，从 “解决什么问题”“怎么用 PTQ 解决” 的角度，提供实战步骤与技巧

文章介绍了地平线征程6板端部署中模型精度一致性问题的排查方法，涵盖export、convert、插入前处理节点及compile等步骤，并提供了用户侧与工具侧问题的定位流程与解决方案。

在实际部署智能驾驶方案时，很多不同任务的模型会同时运行，如何让模型按设计帧率运行，同时实时监测模型推理耗时和带宽使用情况？

在【LLM】LLM 中增量解码与模型推理解读一文中对 LLM 常见名词进行了介绍，本文会对 LLM 中评价指标与训练概要进行介绍

在【LLM】LLM 中 token 简介与 bert 实操解读一文中对 LLM 基础定义进行了介绍，本文会对 LLM 中增量解码与模型推理进行解读

在模型编译的时候，往往会出现各种各样的报错，您可能会受限于公司要求，无法把完整的 onnx 模型发送给地平线做分析，此时可以考虑截取 onnx 模型，找到可复现的片段，再将该片段提供给地平线的技术支持

一、什么是 LLM？ LLM，全称为 Large Language Model（大语言模型），是一种基于神经网络（主要是 Transformer 结构）的大规模自然语言处理（NLP）模型。

ReID 算法，全称是“行人再识别（Person Re-Identification）”算法，可应用于智能驾驶或智能机器人陪伴等领域。

本帖将详细介绍和整理地平线用于 hbm 模型验证和检查的 API，助大家理解使用，保障模型部署顺利。

本文将介绍两种常用激活函数：Sigmoid 和 Hard Sigmoid，全面对比它们的原理、优缺点、应用场景，并提供实际代码示例，帮助你更好地理解与使用它们，尤其是在量化和嵌入式设备部署场景中。