买了Colab pro级会员,就一定能用上V100和P100?不,也有可能会分配到Tesla T4!
半个月前,谷歌推出pro+级会员,pro级会员“一脸懵逼”,在昨天的Reddit论坛上,网友“炸了锅”。
目前,谷歌Colab的GPU主要有4种:K80、T4、P100 和 V100 ,按照基准测试结果,它们的性能排序是:K80<T4<P100<V100。
对于Colab用户来说,充钱买Pro本身就是想要更好的算力,T4显然不符合他们对于GPU的期待。
Colab 免费版、Pro 、Pro + 有啥不同?
对于学生党和科研党来说,能用到谷歌Colab训练服务器的网站,即便是9.99 美元一个月(几乎60元人民币)的会员费,总比自己买或租 一个GPU 要划算得多。
但Colab 又上线一款新的会员服务——Colab Pro+,一个月 49.99 美元(几乎一个月300元人民币),对于习惯了 9.99 美元的用户来说,49.99 美元属实有点贵了。而且,这样一来,pro会员就处于尴尬的境地,“会员之上还有会员,四舍五入等于没买?”
至于这一个月 50 刀的花费,究竟升级了什么,谷歌在“常见问题解答”里写得非常清楚。总结一下就是:
免费的就只能用老古董 K80,Pro 和 Pro+ 用户可以使用 T4 和 P100 GPU,还可以优先使用 TPU;
Colab Pro+ 订阅者能享受更高的连接稳定性,即使关闭计算机或浏览器标签页后,笔记本也能继续执行,上限是 24 小时。
但是,在几乎所有服务中,资源供应还是没有保证,并且依然存在用量限额。
以下是问题解答的详细内容:
Colab Pro 和 Pro+ 提供哪些类型的 GPU?
订阅 Colab Pro 后,用户可以优先使用谷歌最快的 GPU;订阅 Pro+ 后,还可获享更多福利。例如,有时,当非订阅者只能使用 K80 GPU 时,订阅者却可以使用 T4 和 P100 GPU。此外,用户还可以优先使用 TPU。但是 Colab Pro 和 Pro+ 依然存在用量限额,并且可用的 GPU 和 TPU 类型可能会不时变化。
在免费版 Colab 中,用户对较快 GPU 和 TPU 的使用权限非常有限,用量额度也比 Colab Pro 和 Pro+ 低很多。
Colab Pro 和 Pro+ 中的笔记本可以运行多久?
在 Colab Pro 中,笔记本可以保持连接长达 24 小时,空闲超时设置相对宽松。但实际连接时长并没有保证,空闲超时设置有时会变化。Colab Pro+ 订阅者还可获享更高的连接稳定性。
在免费版 Colab 中,笔记本最长可以运行 12 小时,空闲超时设置比 Colab Pro 或 Pro+ 严格很多。
Colab Pro 和 Pro+ 提供多大内存?
订阅 Colab Pro 后,用户可以优先使用高内存虚拟机。订阅 Pro+ 后,还可获享更多福利。这些虚拟机的磁盘空间通常比标准 Colab 虚拟机大很多,订阅后可以通过一项笔记本设置启用高内存虚拟机。此外,当 Colab 检测到用户可能需要高内存虚拟机时,有时可能还会自动分配这样的虚拟机。
Colab Pro 和 Pro+ 虚拟机的磁盘空间通常也比标准 Colab 虚拟机大很多。不过,并不能保证资源供应,高内存虚拟机也存在用量限额。
免费版 Colab 不提供高内存偏好设置,也很少向用户自动分配高内存虚拟机。
什么是“后台执行”?
订阅 Colab Pro+ 后即可使用后台执行功能,当用户关闭计算机或浏览器标签页后,笔记本也能继续执行,并且执行时间可达虚拟机的生命周期上限,即 24 小时。在执行完每个单元格后,输出将保存到云端硬盘。和往常一样,资源供应并没有保证,并且依然存在用量限额。
Colab Pro 用户的执行时间更久,并且如果供应情况允许,用户可以将输出保存到云端硬盘。
如果用户没有订阅付费服务,则不能依赖于后台执行功能,当用户互动停止时,执行就会中断,接着系统很快就会删除虚拟机。
为什么 Colab Pro 或 Pro+ 不能就资源供应做出保证?
为了在 Colab 中以相对较低的价格提供更快的 GPU、更长的运行时和更大的内存,Colab 需要保持即时调整用量限额和硬件供应情况的灵活性。虽然无法做出保证,但预计只要将 Colab Pro 和 Pro+ 用于预定用途(即交互式计算),大多数订阅者遇到的用量限额问题会少之又少。
如何才能充分利用 Colab Pro 和 Pro+?
Colab Pro 和 Pro+ 中的资源会优先提供给最近资源用量较少的订阅者,以防少数用户独占有限的资源。为充分利用 Colab Pro 和 Pro+,请在完成工作后关闭 Colab 标签页,并在没有实际需求时避免选用 GPU 或额外内存。这样,用户在 Colab Pro 和 Pro+ 中遇到用量限额的情况就会减少。
Colab Pro 和 Pro+ 已在哪些地区推出?
Colab Pro 和 Pro+ 目前仅在以下国家 / 地区推出:美国、加拿大、日本、巴西、德国、法国、印度、英国和泰国。
网友:Pro + 是来挤占 Pro 资源的?
在国外Reddit 论坛上,一些网友对谷歌新上线的付费模式展开了讨论:49.99 刀的 Pro + 用户突然出现,Pro 用户可能不再拥有那样的优先权了……
“Colab Pro+ 看起来像几个月前的 Colab Pro,免费 Colab 用户以后岂不是要卑微到尘埃里?”
也有网友表示认同:谷歌该赚点钱了
相当于你付了会员费,但享受着约等于原来免费用户的权益。谷歌是下决心要用 Colab 赚点钱了?
谷歌Colab近年来动作不断,或许早已计划付费
去年有人发现,自己在运行 Colab 时获得的 GPU 是 Tesla V100:“是 V100,而不是 P100。因为我是 Colab pro版用户。”
但其实近三年来,Colab 的硬件历经几次升级。
先是19年 4 月,谷歌将 Colab 的 GPU 从古董级别的 K80 升级到了更加适合做低精度的推断的 Tesla T4,训练比 K80 快了很多。
19年 11 月,Colab 又一次开放了 P100,一年之内两次硬件升级。
要知道,Tesla V100 是英伟达上一代处理器架构 Volta 的首款设备,发布于 2017 年 5 月,其核心 GV100 GPU 包含 211 亿个晶体管,是上代 Tesla P100 的 1.37 倍,芯片面积则达到了 815 平方毫米,采用台积电 12nm FFN 专属工艺打造。
从薅羊毛的角度来说,P100 的性能已经足够优秀,但 V100 显然更加强大。
如今谷歌推出pro+会员,网友们在登录Colab后发现,事情没有想象得这么糟糕。
不少人去试了试,发现对于pro会员,搞到一个P100 GPU还是很容易的,应该不是想象中的“官方Pro降级”。“Pro会员拿到T4”的具体原因,可能只是恰好赶上了使用高峰期;此外,如果经常在高峰期大量使用GPU,会员的优先级也会下降。
但这并不意味着某个会员就一定能用上某个型号的显卡。
从这几年来看,谷歌Colab一直是采用免费的商业策略:先通过免费的东西把用户吸引过来,再挑选合适的商品卖给一部分用户。免费背后,本质是一种交叉补贴。
于是,靠补贴吸引用户就成为前期标准动作,之后再找商户就容易了。这也能解释谷歌从不断升级硬件时,就已经埋下了付费的注脚。