就在昨天DeepSeek-R1模型问世即爆火,37B的大模型,你想部署一下试试吗?我就想试试,毕竟本人有8卡A100可以玩。
首先我们需要从Huggingface下载模型权重,我在国内,文件太大了,下载不了。有方法,有教程,请仔细看。
模型地址:https://huggingface.co/deepseek-ai/DeepSeek-R1/tree/main
下载工具:https://gist.github.com/padeoe/697678ab8e528b85a2a7bddafea1fa4f
1. 安装下载工具。
# 设置镜像地址
export HF_ENDPOINT="https://hf-mirror.com"
# 创建模型下载存放路径
mkdir model_download
# 进入该目录
cd model_download
# 下载所需的脚本
wget
https://gist.githubusercontent.com/padeoe/697678ab8e528b85a2a7bddafea1fa4f/raw/3ed815fdcef9a30bd985772ab95ca57801c80bfa/hfd.sh
# 修改文件的执行权限
chmod a+x hfd.sh
# 注册执行命令
alias hfd="$PWD/hfd.sh"
2. 下载模型
hfd deepseek-ai/DeepSeek-R1 --tool wget
如果不指定参数 --tool wget,会报如下错误, 建议加上 --tool wget:
aria2c is not installed. Please install it first.
如果你想用aria2进行下载,难么你需要安装aria2。
sudo apt update
sudo apt install aria2
我分别都体验了,感觉aria2更好用。
标签:R1,Deepseek,Huggingface,https,wget,aria2,hfd,下载 From: https://blog.csdn.net/weixin_39806242/article/details/145297639