冰清105

赞

1

|

搜索文章

关注了

赞了这篇文章

@字节跳动

·

2年前

GPTQ&OBQ：量化你的GPT

Quantization：模型量化，通过把浮点数转为定点数、降低访存来在引入较少误差的情况下，降低模型大小，推理时延，大幅提升模型性能。...

2

评论

加入于

2023-09-26