获得徽章 0
RTX5080本地部署DeepSeek
RTX5080是16GB
GDDR7专用显存16GB
共享系统内存64GB
因此，总可用显存80GB
能跑
①1.5b需要1.1G
DeepSeek-R1-Distill-Qwen-1.5B
②7b需要4.7G
DeepSeek-R1-Distill-Qwen-7B
③8b需要4.9G
DeepSeek-R1-Distill-Llama-8B
④14b需要9G
DeepSeek-R1-Distill-Qwen-14B
⑤32b需要20G
DeepSeek-R1-Distill-Qwen-32B
⑥70b需要43G
DeepSeek-R1-Distill-Llama-70B
至于671b跑不了，需要404G
#新人报道#
RTX5080是16GB
GDDR7专用显存16GB
共享系统内存64GB
因此，总可用显存80GB
能跑
①1.5b需要1.1G
DeepSeek-R1-Distill-Qwen-1.5B
②7b需要4.7G
DeepSeek-R1-Distill-Qwen-7B
③8b需要4.9G
DeepSeek-R1-Distill-Llama-8B
④14b需要9G
DeepSeek-R1-Distill-Qwen-14B
⑤32b需要20G
DeepSeek-R1-Distill-Qwen-32B
⑥70b需要43G
DeepSeek-R1-Distill-Llama-70B
至于671b跑不了，需要404G
#新人报道#
展开
评论
1