Lora 微调 vs 全参数微调，该如何选择？
随着大模型的飞速发展，在短短一年半间就有了大幅度的技术迭代更新，LoRA，QLoRA，AdaLoRa，ZeroQuant，Flash Attention，DPO等技术效果已经在工业界逐渐得到验证。过去半年又涌现出更多效果更好的技术和模型，从Mamba2，Jamaba，TTT……
更多精彩🉑
#每日快讯#
随着大模型的飞速发展，在短短一年半间就有了大幅度的技术迭代更新，LoRA，QLoRA，AdaLoRa，ZeroQuant，Flash Attention，DPO等技术效果已经在工业界逐渐得到验证。过去半年又涌现出更多效果更好的技术和模型，从Mamba2，Jamaba，TTT……
更多精彩🉑
#每日快讯#
展开
评论
点赞