GPU性能越來越強,也導(dǎo)致服務(wù)器的價格越高,單臺百萬很容易
因為從事人工智能行業(yè)多年,所以對GPU服務(wù)器這一些了解,用過雙卡,4卡,8卡,甚至16卡都有涉足,價格幾萬一臺到上百萬的單臺GPU服務(wù)器都有,從早起的K40,K80,到現(xiàn)在的A100,3090 ,有一點感觸很深,進(jìn)入“GPU算力時代”,GPU性能越來越強,價格越來越高,也導(dǎo)致服務(wù)器的價格越來越高,單臺百萬很容易。
當(dāng)然也用過一些GPU云服務(wù)器,大廠的,比如:阿里云,騰訊云,華為云,但是這有一個問題,比較貴,而且不集成框架和數(shù)據(jù)集。所以本次重點只討論專門做GPU云的小廠,
目前用過的有:Gpushare.com 恒源云、Paperspace、FloydHub、Featurize、易學(xué)智能、矩池云、智星云、MistGPU、Openbayes、BitaHub
相對大廠,這些平臺的價格都比較便宜,其中最近在用的恒源云http://Gpushare.com ,價格不但便宜,而且集成了很多好用的功能,比如數(shù)據(jù)集,框架的集成,還有“恒源云 微信小程序“,可以隨時管理資源,如果機器沒有訓(xùn)練任務(wù),還會提醒你關(guān)機,真是良心平臺。
以下是他們平臺的GPU價格列表,而且學(xué)生和高校機構(gòu)還有專屬折扣(學(xué)生黨低于一下價格)
1080Ti 1.4 元/小時
2080Ti 1.8 元/小時
3080Ti 2 元/小時
3090 2.8 元/小時
RTX5000 4 元/小時
Tesla T4 2 元/小時
Tesla V100 5.5 元/小時
如果按照有效使用時間(每年差不多35%的時間跑任務(wù)),和購買物理機相比,幾乎無差異了。而且隨時切換,卡的種類很多,而且還有8卡高性能服務(wù)器,非常方便。
進(jìn)入正題:
接下來對比雙卡3090的GPU物理機 和 雙卡3090 云GPU服務(wù)器,做個詳細(xì)對比。
(選雙卡對比,因為單卡的話,有點浪費,4卡的話對學(xué)生黨還是挺貴的,)
以下對比的都是整機價格,包含CPU,內(nèi)存,硬盤,網(wǎng)絡(luò)
表格還不夠直觀,來一個曲線圖,更加直觀(三年緯度,硬件一般3年)
得出如下觀點:
1.如果你配的電腦三年的使用率低于40%,其實硬件的成本優(yōu)勢,并沒有發(fā)揮出來,
2.云主機,啟動成本低,跑幾個模型練練手,最多花費1000,然后在重新評估下利用率,再考慮是否入手物理機。
本次對比的服務(wù)器是一個DIY服務(wù)器,非品牌,品牌機價格更貴一些,只是建議,如果動手能力強,預(yù)算充足,愛折騰硬件,那買物理機當(dāng)然隨意了,畢竟自己的機器。