AIoT空间

Triton Server Triton Server 是 NVIDIA 推出的一个用于机器学习模型部署的开源平台，它支持 TensorFlow、PyTorch、ONNX 等多种模型格式。

深度学习模型训练中 warm up 的重要性 深度学习模型在训练时需要进行一定的warm up操作，这个操作被广泛认为是非常重要的。在本文中，我们将深入探讨warm up的原理、适用场景和局限性，以及

BERT 可微调参数和调参技巧： 学习率调整：可以使用学习率衰减策略，如余弦退火、多项式退火等，或者使用学习率自适应算法，如Adam、Adagrad等。 批量大小调整：批量大小的选择会影响模型的训练速

ChatGPT 背后的“功臣”——RLHF 技术详解 OpenAI 推出的 ChatGPT 对话模型掀起了新的 AI 热潮，它面对多种多样的问题对答如流，似乎已经打破了机器和人的边界。这一工作的背后是

在一张 24 GB 的消费级显卡上用 RLHF 微调 20B LLMs https://huggingface.co/blog/zh/trl-peft 我们很高兴正式发布 trl 与 peft 的集成