关于UCloud(优刻得)旗下的compshare算力共享平台
https://www.ucloud.cn/
UCloud(优刻得)是中国知名的中立云计算服务商,科创板上市(股票代码:688158),中国云计算第一股,专注于提供可靠的企业级云服务,包括云服务器、云主机、云数据库、混合云、CDN、人工智能等服务。
compshare算力共享平台:
专注于提供高性价比算力资源,海量GPU,一键部署,即算即用,让AI训练、深度学习、科研计算效率翻倍。
https://console.compshare.cn/light-gpu/purchase/
<iframe allowfullscreen="true" data-mediaembed="bilibili" frameborder="0" id="8AdBy7zR-1717597761972" src="https://player.bilibili.com/player.html?aid=1105498537"></iframe>【compshare】(3):使用UCloud(优刻得)的compshare算力平台,新增加SD-webui和大模型镜像,可以快速启动,非常方便,部署特别简单
启动SD-webui 镜像
然后登陆进入,使用ubuntu 帐号:
ssh [email protected]
温馨提示:
当前镜像已预装nvidia-driver,cuda,conda,stable-diffusion-webui。
stable-diffusion-webui启动方式:
cd /home/ubuntu/stable-diffusion-webui
python launch.py --xformers --listen
启动好之后,通过浏览器访问: http://ip:7860即可,注意ip需要替换为云主机的外网ip,
如果无法访问请在控制台检查安全规则是否放行上述端口。
http://xxx.xxx.xxx.xxx:7860
还可以启动Llama3-Chinese大模型
发现启动端口不能访问,可以使用 8888 端口:
温馨提示:
当前镜像已预装nvidia-driver,cuda,conda,Llama3-8B-Instruct-Chinese。
Llama3-8B-Instruct-Chinese启动方式:
cd /home/ubuntu/llama3-Chinese-chat
conda activate llama3-chinese
streamlit run deploy/web_streamlit_for_instruct.py model/llama-3-8b-Instruct-chinese --theme.base="light" --server.port 8888
启动好之后,通过浏览器访问: http://ip:8888
效果还是不错的:
可以直接通过webui 进行模型的访问,测试,也带打字效果。
总结
新的镜像不错,简化了部署使用,更加的方便了。可以很快的搭建SD和大模型的平台了。
标签:...,UCloud,compshare,启动,xxx,webui,镜像,算力 From: https://blog.csdn.net/freewebsys/article/details/139460759