首先到底是买显卡还是租显卡呢? 这个问题其实很好回答,如果你需要高频率使用GPU服务器超过一年那就买显卡,因为租用显卡一年时间的成本就已经赶上了买显卡,甚至有的时候买的显卡用了一年之后还发现价格涨了。如果是导师给了你一笔几万的预算,那建议你自己去配置服务器,也算是为实验室增加了一笔可观的算力,而且还可以留个师弟师妹使用。
但是如果你是个人的话,建议你花大概9000的预算去配置一台深度学习的台式电脑,用于日常学习,显卡用3090就够了,性价比很高,24GB的显存,足够你学习大多数模型了。
至于这张显卡“跑不动”的模型,你这边可以上算力平台去租赁算力。算力平台租用算力省心省力,不用花时间去配置环境,平台集成了深度学习常用的框架,如TensorFlow、pytorch等等,而且不用你准备环境去放置服务器,另外就是显卡的种类很多,4090,V100,A100都有,你可以根据你的需要按需选择。
那么常见的云算力租赁平台有哪些呢?阿里云、腾讯云以及autoDL。这几个平台比较常见,他们各有优劣,阿里云和腾讯云是大厂技术服务质量高,但是他们的缺点也很明显,就是太贵了。以阿里云为例,他们的V100租一个月要3800,而这个价格在一些平台已经可以租到A800,甚至是A100了。另外由于禁售政策,他们平台没有A100,或者H100等等高端卡。
AutoDL会好一些,他们的产品的显卡种类比较繁多,价格也还可以,但是我最近又发现了一个宝藏的平台:深脑云Dbcloud
体验下来我发现他主要有以下几个优势
一 价格亲民
本着让算力不再成为科研路上的阻碍,让深度学习和数据科学容易起来这一理念,他们的算力租用性价比很高,像阿里云3800一个月才能租到V100,但是这边的话3500就能租到A100,40块钱就能租到一天的4090,新用户注册还有5元的优惠,学生和教职工的话还可以享有折扣。
二 GPU种类多种多样
深脑云Dbcloud平台有着几十种GPU型号,不管是深度学习专用卡V100、A100、H100还是图形领域专业卡如A6000、A5000以及性价比显卡4090、3090都有,基本来说可以满足你所有的需要。
三 开箱即用,小白也能上手
里面集成了深度学习常见的框架,比如TensorFlow和PyTorch等,用户无需进行繁琐的配置,一分钟即可使用,并且你还可以设置你专属的镜像,更契合你的使用特点。要是不明白的话官网还有帮助文档,从帮助你怎么选择GPU到怎么连接服务器,应有尽有,要是实在还是不会还有专属客户一对一相应,让环境不再是你学习的障碍。
上周我就在这里租了一天A800 80G来测试一下我跑的模型,因为我自有的设备实在是跑不动,只能租赁,体验下来整个租用服务还是比较好的,会有一对一的运维客服,你需要什么系统,能装的都可以给你提供,不懂的问题在群里提问,随时会有技术人员给你解答,租用要到期的时候,也会有人来提醒你是否准备续租,保存好自己需要的数据,A800还是很给力的,比我的电脑快了好多,让我原有的速度大概提高了6-7倍。所以我觉得,对于深度学习而言,自己的电脑配置可以跑一些常见的模型,正常的学习没有压力,对一些大模型,自己的电脑不能胜任的时候,再去借实验室的服务器跑,连实验室的资源不够用的时候再选择去租赁才是最划算的。
标签:A100,哪家,平台,学习,深度,显卡,算力,租赁 From: https://blog.csdn.net/sunly31489/article/details/144965865