高性能 #generativeAI 清单:
大语言模型………………#Mistral
优化工具…………………#TensorRT-LLM
量化精度…………………FP8
点击链接进行量化与编程实际操作:
console.brev.dev
一个配备 GPU 的 notebook 脚本准备好了等待您的操作。#LLMs
大语言模型………………#Mistral
优化工具…………………#TensorRT-LLM
量化精度…………………FP8
点击链接进行量化与编程实际操作:
一个配备 GPU 的 notebook 脚本准备好了等待您的操作。#LLMs
展开
2
点赞
![[思考]](http://lf-web-assets.juejin.cn/obj/juejin-web/xitu_juejin_web/img/jj_emoji_15.f58c082.png)