1. 安装 causal-conv1d 1.2.1版本
下载github发布的whl文件:github.com/Dao-AILab/c…
git clone https://github.com/Dao-AILab/causal-conv1d.git
CAUSAL_CONV1D_FORCE_BUILD=TRUE pip install --user -e .
# pip install causal-conv1d==1.2.1
pip install causal_conv1d-1.2.2.post1+cu118torch1.13cxx11abiTRUE-cp38-cp38-linux_x86_64.whl
2. 安装 mamba-ssm 1.2.2版本
pip install mamba-ssm==1.2.2
# CSDN博主说 mamba-ssm版本要和causal-conv1d一致,但是我发现mamba-ssm高一点一样可以
causal-conv1d 和 mamba-ssm的安装参考:最详细的mamba讲解及环境配置(包含踩坑心得)_mamba环境配置-CSDN博客
3. 安装 triron 2.1.0 版本
pip install triton==2.1.0
# 对于CUDA版本为 11.* 的情况下,需要安装triton==2.1.0,以避免报错 Triton Error [CUDA]: device kernel image is invalid
-
如需了解Triton Error [CUDA]: device kernel image is invalid 报错原因,可以看这个帖子: scGPT的重新安装 - 掘金 (juejin.cn)
-
另外需注意,mamba2下,需要配置ldconfig的环境变量,可参考此帖子:FileNotFoundError: [Errno 2] No such file or directory: 'ldconfig' · Issue #2878 · triton-lang/triton (github.com)
-
vim .bashrc # 加入ldconfig的路径信息(通常保存在/sbin目录下) export PATH=$PATH:/sbin:/usr/sbin
mamba-ssm代码学习参考博客
Mamba部分代码解读及使用_manba模型代码-CSDN博客
【论文阅读笔记】Mamba模型代码理解_mamba代码-CSDN博客
Mamba和S4解读_state space model s4模型-CSDN博客