AI算力小知识

随着AI的迅猛发展，现在算力变成了紧俏的资源，而市面上显卡的价格举高不下，GPU资源昂贵，尤其是像RTX 4090或A100这种高性能卡，对于大多数学生、个人开发者或初创小...

测试下英伟达这款最新的消费级旗舰和上一代RTX 4090在模型训练场景下性能差异多大？ 基于Pytorch框架来训练ResNet-50模型，使用CIFAR-10数据集进行测...

最新版ComfyUI的预置模板里面已经包含了多个Wan2.2模型的应用，这里基于ComfyUI的预置工作流模板来测试Wan2.2的模型在3090和4090两张显卡下文生视频...

使用`vLLM`测试下大模型并发推理场景下3090和4090两张显卡的性能表现，看下4090是否在高并发场景下具备更高的扩展性。...

Ollama和vLLM是目前最常见的两个大模型部署工具，在部署大模型推理服务的时候，对应的场景下如何选择，用于平衡部署的成本和推理的性能？这里用3090显卡实测Ollama...

RTX 3080 20G显卡是基于3080 10G魔改的卡，目前市面比较多得被用于小规模参数的大语言模型推理场景，被认为是性价比比3090还高的推理显卡。 实测其大模型推理...

显卡的性能在不同的使用场景下会有所差异，如模型训练和模型推理，这里我们使用Ollama进行Qwen3大模型的部署，选择英伟达的RTX 3090和4090这两张显卡进行性能实...

我们选择了英伟达的RTX 3090和RTX 4090两张显卡，基于深度学习的训练场景进行性能实测，来比较下被称为「上一代卡皇」的 3090 和「当前消费级主力」的 4090...

AI时代GPU算力已经变成了普遍的需求，那么在购买显卡或者租用GPU云算力的时候，怎么选择合适的显卡呢，需要关注哪些参数？...