目录
一、Win系统安装详细教程
安装系统要求:cuda11.8、python3.10
1、准备
根据下面的步骤,创建虚拟环境(如果已经有对应的环境,则可以跳过):
conda create -n your_env_name python=3.10.13
conda activate your_env_name
conda install cudatoolkit==11.8 -c nvidia
pip install torch==2.1.1 torchvision==0.16.1 torchaudio==2.1.1 --index-url https://download.pytorch.org/whl/cu118
conda install -c "nvidia/label/cuda-11.8.0" cuda-nvcc
其中,your_env_name是自己的虚拟环境名字。
注意:安装前没有packaging的需要先安装:
conda install packaging
上述工作准备好后,按下面步骤安装causal_conv1d和mamba_ssm。
2、安装Triton
Triton是安装mamba的依赖,需要先安装。
离线文件下载链接:triton-2.0.0-cp310-cp310-win_amd64.whl
1)下载后,通过cmd命令符进入到该文件的文件夹路径:
首先进入指定文件的指定盘符(直接在cmd内输入该文件所在盘符+“:”,即冒号即可),例如进入D盘:
d:
然后,进入文件所在文件夹(直接cd+所在路径):
cd D:\Desktop\Baidu001
2)安装Triton
安装前,先进入创建的虚拟环境中:
conda activate your_env_name
直接pip install 文件名(含后缀),即可安装:
pip install triton-2.0.0-cp310-cp310-win_amd64.whl
2、安装causal_conv1d
causal_conv1d也是安装mamba的依赖必须库。
离线文件下载链接:causal_conv1d-1.1.1-cp310-cp310-win_amd64.whl
下载后,按照安装Triton步骤一样,进入文件的路径在进行pip安装:
pip install causal_conv1d-1.1.1-cp310-cp310-win_amd64.whl
3、安装mamba_ssm
直接根据离线文件安装即可。
离线文件下载链接:mamba_ssm-1.2.0.post1-py3-none-any.whl
下载后,同样的按照安装Triton步骤一样,进入文件的路径在进行pip安装:
pip install mamba_ssm-1.2.0.post1-py3-none-any.whl
注意:安装的mamba库,需要进入到对应的虚拟环境才可以安装。
安装完成后,通过pip list可以查看到安装的库。
二、检查是否成功运行
直接运行下面代码测试:
import torch
from mamba_ssm import Mamba
if torch.cuda.is_available():
device = "cuda"
else:
device = "cpu"
print("使用的是:{}".format(device))
batch, length, dim = 2, 64, 16
x = torch.randn(batch, length, dim).to(device)
model = Mamba(
# This module uses roughly 3 * expand * d_model^2 parameters
d_model=dim, # Model dimension d_model
d_state=16, # SSM state expansion factor
d_conv=4, # Local convolution width
expand=2, # Block expansion factor
).to(device)
y = model(x)
print("成功运行,模型输出维度为:{}".format(y.shape))
输出结果:
标签:Triton,教程,Windows,install,mamba,pip,Mamba,安装,cp310 From: https://blog.csdn.net/2301_77831163/article/details/142528861