跳至主要內容
返回集團動態
Labs· 約 2 分鐘閱讀

GPU 雲伺服器新增按日計費方案

NVIDIA RTX 4090、RTX 5090 與 L40S 可按日租用,適合短期訓練、模型驗證與突發算力需求。

從今天起,搭載 NVIDIA RTX 4090、RTX 5090 與 L40S 的 GPU 雲伺服器提供按日計費。做一次短期訓練、驗證一個模型想法、為一場活動臨時擴容,都不必再為一整個月付費。

為什麼要做按日

過去一年,我們和很多做 AI 的客戶聊過,發現一個很普遍的情況:GPU 的需求是「一陣一陣」的。一個團隊可能這週要連續跑四天微調,下週只需要偶爾推論幾次;月底要給客戶做一次展示,那兩天需要四張卡,其他時間一張都用不上。

在只有月付的情況下,大家只能二選一:要麼包一整個月,看著機器閒置大半時間;要麼東拼西湊找短租,資料和環境每次重新搬。對剛起步的團隊來說,前者燒錢,後者燒時間。

適合哪些情境

  • 微調或評估一個 7B 到 30B 參數的模型,通常幾天內就能完成。
  • 產品上線前的壓力測試、推論延遲與吞吐量比較。
  • AI 視頻、數碼人或批次生圖,在特定日期有大量任務。
  • 學術研究或比賽,在截止日前集中算力衝刺。

三種卡,怎麼選

RTX 4090 性價比最高,24 GB 顯存足以應付大多數 7B 到 13B 模型的微調與推論,也很適合生圖與視頻。RTX 5090 有更大的顯存與更新的架構,適合需要多一點餘量的中型模型。L40S 是數據中心級的卡,48 GB 顯存、適合長時間穩定運行,也支援更完整的虛擬化與監控。

怎麼計費

按日方案以開通當下起算 24 小時為一天,可選 1、2、4 或 8 張卡,系統碟與數據碟按日另計。用完就可以刪除,不會有月付的剩餘天數。價格在產品頁即時顯示,與結賬金額一致;成長激勵計劃的餘額與返還,同樣可以用來支付按日賬單。

一個小建議:把資料放在機器外面

按日租用最大的好處是隨開隨關,所以我們建議把訓練資料、模型權重與檢查點放在物件儲存裏,而不是伺服器的本機硬碟。這樣今天刪掉機器,明天重新開一台,掛上同一個儲存桶就能接著跑。GPU 與物件儲存放在同一個地域,資料讀取最快,也不會產生跨地域流量。

什麼時候該選月付

需要 7×24 小時長時間推論的工作負載,仍建議選擇月付方案,或 A100、H100 等數據中心級的卡。海外地域的 GPU 伺服器與雲伺服器一樣,預設 1 Gbps 共享頻寬。不確定該選哪種、或者想把按日與月付搭配起來用,歡迎聯絡我們一起估算——很多客戶最後的做法是:實驗用按日,模型穩定後轉月付推論。

其他動態

  1. Group

    晟豐集團啟用新品牌與官方網站:把散落的業務收進一套系統

    新網站不只是一個門面。Labs 與 Capital 各自擁有獨立的後台,客戶、創業者與團隊的每一件業務和待辦,都能在同一個平台上完成。

  2. Capital

    Singfung Capital 完成第十六筆投資

    Capital 以常青結構運作,持續投資基礎軟件、應用 AI 與產業數碼化領域的早期公司。

  3. Capital

    Capital 開放產業轉型合作:替小微企業邁出最難的一步

    除了科技新創,我們也願意與能源、新興產業,以及被網絡浪潮衝擊的傳統行業合作。第一個案例,是佛山一間家居店。