高性能 #generativeAI 清单:

大语言模型………………#Mistral
优化工具…………………#TensorRT-LLM
量化精度…………………FP8

点击链接进行量化与编程实际操作:
console.brev.dev

一个配备 GPU 的 notebook 脚本准备好了等待您的操作。#LLMs
展开
nvdev于2024-02-29 09:29发布的图片
2