Runpod 是什麼？
Runpod 是用於開發與執行 AI 工作負載的雲端平台，提供稱為 Pods 的專用 GPU 執行個體、可自動擴展的 Serverless 推論端點，以及用於分散式作業的多節點 Clusters。開發者可以在同一個帳號中實驗模型、進行微調，並部署推論服務。
使用者可以用自己的容器、框架與程式碼啟動 GPU 環境，也能透過 Runpod Hub 部署開源模型與範本。部署 Serverless 時，開發者需撰寫 handler，並透過 API 端點提供工作負載的存取介面。Runpod 負責管理請求佇列、worker 分配、自動擴展、日誌與指標。Public Endpoints 則提供預先部署的影像、影片、語言與音訊模型 API，無須自行設定基礎架構。
平台在 31 個區域提供超過 30 種 GPU 選項，並提供持久性儲存空間。費用依工作負載而異：專用 GPU 執行個體、推論 worker、模型請求與儲存空間各有不同的用量費率。需要確保資源供應或進行較大規模部署的團隊，也可以選擇預留容量與企業合約。
Runpod 能做什麼？
隨需 GPU Pods
啟動專用 GPU 環境，用於模型開發、訓練、微調與長時間執行的工作負載。
Serverless 推論
部署 API 端點，由平台管理請求佇列，並依需求調整 worker 數量。
多節點 GPU 叢集
在具備共用儲存空間的 GPU 叢集上執行分散式工作負載，也可選擇預留容量。
預先部署的模型 API
呼叫代管的影像、影片、音訊與語言模型，無須自行設定 GPU 基礎架構。
模型與部署範本
透過 Runpod Hub 部署開源模型與範本，或使用自己的容器與程式碼。
監控與持久性儲存
為已部署的 AI 工作負載存取執行日誌、指標與持久性網路儲存空間。
Runpod 適合誰？
- AI 開發者
- 使用 GPU 環境與推論 API 建立、測試、微調模型，並提供模型服務。
- 機器學習團隊
- 依需求選擇 GPU 硬體與叢集設定，執行訓練及分散式工作負載。
- AI 應用程式團隊
- 透過平台代管的 worker 與依用量計費的方式，擴展正式環境中的推論服務。
Runpod 要多少錢？
官方價格B300
US$8.99
H200
US$5.29
B200
US$7.99
RTX Pro 6000
US$2.49
H100 NVL
US$3.19
H100 PCIe
US$2.89
H100 SXM
US$3.99
A100 PCIe
US$1.79
A100 SXM
US$1.79
Pro 6000 MIG 48GB
US$1.29
L40S
US$1.09
RTX 6000 Ada
US$0.99
免費方案: resembleai / Chatterbox Turbo 公開端點可免費使用，費率為每 1,000 字元 0.00 美元。
常見問題
Runpod 的 GPU 運算如何計費？
費用依 GPU 與部署類型而異。Pods 採專用執行個體費率，Serverless 依推論 worker 的用量計費，Clusters 則有獨立費率；列出的 GPU 價格為每小時費率，而非月費訂閱。
可以部署自己的模型與容器嗎？
可以。Runpod 支援使用自己的容器、框架與程式碼，也支援透過 Runpod Hub 部署開源模型與部署範本。
可以不管理 GPU 基礎架構，直接呼叫模型嗎？
可以。Public Endpoints 提供預先部署模型的 API 存取，費用依模型及其計費單位而定。
Serverless 端點閒置時會收費嗎？
Serverless 端點可以將執行規模縮減至零，未執行時不收取端點運算費用。儲存空間則另外計費。
可以預留 GPU 嗎？
可以。Runpod 的企業業務團隊提供預留叢集與合約價格。
