大年三十炼丹么?这里有900张GPU,快来白嫖
低调安利薅羊毛平台
杨净 梦晨 发自 凹非寺
量子位 | 公众号 QbitAI
在学校里学AI最头疼的是什么?
排第一的肯定是组里算力不够,而且是永远不够,即使春节都不够。
我一个师妹最近就向我吐槽:
找导师吵了架终于在春节前回了老家,但过年时间也得炼丹!
实验室的显卡还不够用,现在家里只有个笔记本,根本跑不动!
我去问了一圈,发现AI学子春节也要炼模型这种事,还挺普遍。
比如投国际会议的,ECCV今年截止日期是3月7日,时间很紧张。
CVPR更要命,Rebuttal截止到2月1日大年初一早上8点,大年三十晚上写论文,真·难忘今宵。
也是很辛苦了,毕竟到了除夕之夜,连琅琊榜里的言侯都不炼丹了(狗头)。
对大多数学校来说算力总是不够用的。
如果是组里的工作或导师下的Deadline,可以直接找导师报销。
但也有人是自己要卷,额外投论文、搞比赛的,那就得自掏腰包了。
有一位资深“卷王”,满世界租GPU已经租出了心得。
去大型公有云整租服务器比较贵,现在有一些面向个人的云平台就便宜多了。
个人云上可以方便的租单卡,按小时租,使用起来比较灵活。
英伟达RTX系列显卡可以做到1-2元/小时,V100大概3-4元/小时。
而且要找那种主做机器学习市场的,在国外有vast.ai,国内有矩池云、恒源云、AutoDL等。
这些平台会对AI模型训练有专门适配,框架依赖、上传数据等方面都考虑到了,不用每次上机先花半天时间配置环境。
其中叫AutoDL这家春节还准备搞大促,号称限时免费,就很离谱。
但考虑到这个平台不怎么知名,在推荐给师妹刷好感度之前,我还是自己先看看。
验证一下这羊毛到底好不好薅。
ps. 虽是羊毛,下含推荐。
什么样的算(yang)力(mao)平台?
看了活动细则后我坐不住了:对新注册用户来说,限时免费居然是真的。
别看这一大段抵扣券啥的说了这么多,其实就是相当于春节7天,每天送80多元余额,7天将近600。
80多元什么概念?
如果用来租英伟达RTX 3090,租满一天24小时还有富余,再添点可以租两张。
按天送搞这么复杂,大概是为了限制每个用户的用量,毕竟是拉新的活动,不能让少数人把资源都占了。
要参加这个活动的门槛也不高,首先需要是新注册用户,然后只需要充值100元即可。
这100元可以配合抵扣券在春节期间租更好的卡,或在活动结束之后正常使用。
既然真的是羊毛,那我就先薅为敬了,也考察一下这家平台还有些什么名堂。
从提供的显卡种类看,选择还是很丰富的。
其他平台基本上仅涵盖英伟达的系列显卡,从TITAN Xp、K80到3090、A100、V100等。
而AutoDL提供的显卡,包括更多RTX系列中间型号,共超过900张,还有国产芯片,寒武纪、华为之类可以选。
这些国产芯片往往更加火爆,时常处于已租完的状态。
为了避免有同学不知道该如何选GPU,除了有专门的帮助文档外,平台还将GPU分成通用性、大显存、高主频CPU、多核心CPU、1元GPU等类别供其选择。
价格上,3090每小时只需1.99元,最贵的A100 80GB NVLINK每小时也只需7.98元。包月的话也大都在每天十几二十元不等。
在此,与其他平台几类常见的显卡价格来做个比较。
(数据截止至1月26日上午11:30,图中价格显示平台最低价格,部分厂商还有充值返券机制)
所以不论种类、还是价格上,AutoDL都有一定的优势。
官网还特别强调:这些价格在今年只会降低,不会提高。
除了硬件层面,AutoDL还为深度学习用户提供配套功能。
比如,内置深度学习框架及版本的镜像,除了必备的Pytorch、Tensorflow,还有PaddlePaddle、Miniconda、清华Jittor等。
还有一些常用的开源数据和预训练模型,比如ImageNet、BERT之类,免去下载上传的烦恼。
除了该有的显卡、工具,这个平台还有一些别处没有的功能和服务。
最有意思是升降配置和实例迁移。
比如调试代码的时候可以省钱用单卡,想加速训练了随时增加。
再狠一点还可以用5毛钱的TITAN Xp调试,到时候再把实例迁移到好卡上去运行,肝Paper不浪费一分钱。
数据上传方面,一般平台就是内置JupytorLab工具、支持FileZilla、XShell等软件之类。
在这基础上,AutoDL提供了网盘服务。
可以在实例间方便的共享数据,每个地区的网盘免费空间大小为20GB。
不过这一点,也不是AutoDL特有。像矩池云、恒源云也都有免费的存储空间,超出即采取收费模式。
实在不行,平台还支持邮寄硬盘。
讲道理,一般来说只有像谷歌、亚马逊这样的大平台才会提供这个服务。
而这样一个面向学生的AutoDL不光提供还免费,同学可直接将训练数据存储在硬盘里,然后邮寄到机房,由这边运维的同学帮忙物理挂载。
对了,内蒙A区还将在明年一季度升级并接入ipv6教育专网,数据上传的速度将再次提升。
综上所述,不管在价格活动、显卡可租的范围、还在特定功能上,AutoDL确实有羊毛可薅!
薅羊毛的“最佳实践”
基本情况看完了,那这个羊毛到底怎么薅才最划算,现在就来总结一下。
首先注册就送10元券,这个也相当于余额,是无使用门槛的,可以直接抵扣。
现在注册即送1个月的三级会员,可以享受6.5折。
一个月后记得用教育邮箱认证学生身份就可轻松保持会员等级,继续享受折扣。
按会员价,春节期间一个划算的选择是英伟达A40,2.98元*24小时是71.52元,用完抵扣券还有富余。
另外3090也是不错的选择,虽然显存比A系列小,但租两张的话单精度算力几乎翻倍,可以根据任务需求选择。
8两张3090在抵扣券范围内可以用20多小时~
以上是价格层面,如果想要薅尽最后一根羊毛,其实还有一些小技巧。
上传数据、调试代码等用不到GPU的阶段可以使用无卡模式开机。
这样只会调用0.5个CPU核,2G内存,无GPU,无论租的哪种配置,无卡模式价格都是一毛一小时。
如果一开始只需要少量算力做调试,也可以先开1块GPU,等正式训练需要多卡并行了再随时升降配置。
如果是一段时间内集中的需求,可以选择包天、包周、包月。
这样比按量计费还要再便宜10%左右,而且不用担心关机后GPU被其他用户占用。
嗯,说到关机的问题,别忘了在Python代码最后加上一句执行完成后关机,避免浪费。
毕竟很多时候自己也不知道代码要执行多久。
os.system("shutdown")
另外提醒一下,可不要想着把羊毛薅来挖矿,是会封号的。
如果你春节也有租显卡的需求,可以点击阅读原文去注册薅起来了。
要是你刚好在准备ECCV和CVPR论文,届时文章若被录用,联系AutoDL客服,还会收到666元无门槛优惠券。
如果你本来没什么deadline要完成,要不向卷王同学一样报名个机器学习比赛去卷一卷?
毕竟优惠活动是限时的,过了春节就没了。
最后,再附上一份各GPU型号简介供参考,看看你的模型适合跑在什么卡上。
更详细的选卡攻略,可以到帮助文档查看https://www.autodl.com/docs/gpu/
- 什么?程序员礼盒还自带大模型彩蛋,碰一下就可触发2024-12-09
- “我把4500多篇NeurIPS 2024论文,做成了AI搜索”2024-12-10
- 百度商业系统升级:七成客户加持AI营销能力,释放10倍商业空间2024-12-06
- 全国首个金融大模型成绩单:服务超2亿用户8大应用场景2024-12-06