AWS EC2 Spot 什麼時候該用、什麼時候別用?六種情境與防中斷做法
在雲端架構的成本最佳化清單中,AWS EC2 Spot Instances 往往是最具吸引力的選項。官方宣稱相較隨需(On-Demand)價格最高可省下 90%,且硬體規格與運算效能完全一致。
然而,若把不容中斷或有狀態的工作直接放上 Spot,就可能遭遇服務斷線、批次作業反覆重跑甚至資料遺失。使用 Spot 的關鍵判準,在於「當單一節點被回收、且暫時無法補足新容量時,系統能否維持基本運作與交付承諾」。
Spot 是以「可隨時回收的閒置容量」,換取更低的運算單價。以下梳理六大工作負載的適用條件、中斷防禦機制與實務選型邊界。
核心架構思維:容量池面向與配置策略
自 AWS 調整定價機制後,Spot 不再採用早期的競標模式,改為隨市場供需平緩變動。理解現代 Spot 的核心心智模型,是「容量池(Capacity Pool)」。
Availability Zone: us-east-1a
+-- Pool A: c6i.xlarge (Deep Capacity)
+-- Pool B: c6i.2xlarge (Moderate Capacity)
+-- Pool C: m6i.xlarge (Low Capacity)
在 AWS 的架構定義中,單一執行個體型號搭配單一可用區(AZ)即構成一個獨立的容量池。若架構只鎖定單一型號與單一 AZ,就等於將業務連續性押在單一容量池的閒置狀態上。
為了提升取得與維持容量的機率,架構設計應遵循兩大基本原則:
- 保持型號彈性:AWS 官方最佳實踐建議每項工作負載應相容至少 10 種運算比例相當的執行個體型號,並跨越多個可用區部署,藉此分散單一容量池耗盡的風險。
- 採用合適的配置策略:在 EC2 Auto Scaling 或 EC2 Fleet 中,優先採用 price-capacity-optimized 策略,由系統同時評估價格與容量深度;若工作的中斷代價極高,則選用
capacity-optimized。避免盲目選擇lowest-price,以免配置到容量池過淺、較易遭回收的機器。
將中斷視為常態輸入:預警限制與容錯防線
使用 Spot 必須建立一個不可動搖的前提:節點被中斷是必須預期的正常行為,而非例外故障。
AWS 提供兩種主要的中斷預警訊號,但兩者都存在明確的架構限制:
- Spot 中斷通知(Interruption Notice):當 AWS 即將回收執行個體時,會透過 EventBridge 或執行個體中繼資料(IMDS)發出通知,通常約有 2 分鐘 的緩衝時間。這類通知屬於盡力而為,AWS 不保證每次都給滿 2 分鐘;且若執行個體設定為休眠模式(Hibernation)以保留記憶體狀態,系統會立即暫停,不會有這 2 分鐘的預告。
- 再平衡建議(Rebalance Recommendation):當特定執行個體的回收風險升高時發出,抵達時間可能早於 2 分鐘通知,也可能同時抵達,因此不能把它當成有固定提前量的保證。
架構設計絕不能仰賴「最後 2 分鐘一定能寫完狀態」。2 分鐘通知可以用來排空既有連線(Connection Draining)、把節點標記為不再接新任務,或保存最後一次 checkpoint;容錯防線必須建立在外部儲存與冪等重試上。
六大工作負載選型矩陣
判斷工作負載是否適合 Spot,關鍵在於最基本的工作單位是否具備無狀態、可分割與可重試的特性。
| 情境分類 | 合適工作單位 | 節點中斷復原路徑 | 常見架構地雷 |
|---|---|---|---|
| 批次處理與 ETL | 單一檔案、分片(Shard)或影格 | 逾時後由佇列重新派工;輸出具冪等性 | 單筆任務耗時過長、無 Checkpoint 導致反覆重跑 |
| CI/CD 建置與測試 | 可在任一 Runner 重跑的獨立 Job | 重排 Job;成品與快取放外部儲存 | 將發布審核、正式部署與資料庫遷移放上 Spot |
| 分散式運算(EMR) | 可重新排程的 Task 節點運算 | 排程器重派 Task;保留 Core 與 Master | 誤將保存 HDFS 資料的 Core 節點大量放上 Spot |
| 容器服務與 Web API | 多副本、無狀態且能優雅關閉的 Pod | 負載平衡器排空連線;隨需節點接手 | 只有單一副本,或在缺容量時期待自動切換隨需 |
| 模型訓練與 HPC | 具備 Checkpoint 機制的階段運算 | 從 S3 載入最近一次 Checkpoint | 具有緊迫交付期限、稀缺 GPU 且重啟成本極高 |
| 開發與測試環境 | 可自動化重建的短期工作空間 | 基礎設施重拉;測試資料外部還原 | 唯一測試資料留存本機,或測試流程無法容忍延遲 |
典型工作負載的邊界條件與實務設計
1. 批次處理與 ETL:任務拆分與冪等性
批次運算是 Spot 最自然的應用領域。上游將檔案寫入 S3,任務訊息推入 SQS,後端由多個 Worker 節點領取處理。
- S3 / SQS 分派任務
-
- Worker 1 (Spot)寫入輸出(冪等)
- Worker 2 (Spot)遭中斷(任務經可見性逾時重新排入佇列)
在批次架構中,必須落實三項關鍵設計:
- 縮短單一任務粒度:AWS Batch 官方建議將單一工作拆分為 30 分鐘以內 的小任務,以降低任務遭中斷的機會。從成本角度,這個數字反映兩種成本的取捨:任務派發與啟動的固定開銷,以及中斷後重跑整段任務的浪費。若單一任務不可避免地超過此長度,必須實作定期 Checkpoint。
- 保證寫入冪等性:Worker 遭中斷時還來不及刪除訊息,SQS 訊息會在可見性逾時(Visibility Timeout)到期後,自動交由另一台節點重新領取。輸出路徑必須具備 S3 原子覆寫能力或去重鍵(De-duplication Key),避免重複寫入。
- 區分失敗原因:重試機制必須能分辨「主機遭回收」與「程式本身的 Bug 或異常資料」,避免因資料錯誤觸發無效的無限重試。
2. CI/CD Pipeline:劃分建置與部署界線
在 CI/CD 流程中,使用 Spot 作為 Auto-scaling Runner 能夠大幅降低成本並提升平行度。
但 CI/CD 的關鍵在於劃分邊界:單元測試、程式碼檢查與容器映像檔建置非常適合 Spot,即使遭回收也只需重新排程;但涉及正式環境部署、資料庫遷移(Migration)或外部第三方 Webhook 呼叫等步驟,則不應放在 Spot 上,否則中斷可能導致部署流程卡死或狀態不一致。
3. EMR 大資料架構:Task 節點 vs Core 節點
在 Amazon EMR 或 Hadoop/Spark 架構中,節點角色具有嚴格的責任分工:
- Task 節點:僅負責執行運算任務,不保存 HDFS 持久化資料。這類節點非常適合大量使用 Spot 進行橫向擴充。
- Core 節點:同時負責運算與保存 HDFS 資料分塊。若 Core 節點大量遭回收,可能引發大規模複本修復,甚至造成資料遺失。
因此,大資料負載應預設將 Spot 限制於 Task 節點,Core 與 Master 交給穩定的隨需節點;只有可承受部分 HDFS 資料遺失的工作,才考慮讓 Core 節點使用 Spot。
4. 容器與 Web 服務:連線排空與容量退回機制
將無狀態 Web API 部署於 Spot 時,系統必須具備完整的連線排空(Connection Draining)與健康檢查機制。
以 ECS Fargate Spot 為例,跨購買選項的容錯移轉並不會自動處理:雖然平台在中斷時會發出 SIGTERM 訊號,但 ECS 容量提供者(Capacity Provider) 僅在啟動時按權重分派。
在遭遇 Spot 容量不足時,系統並不會自動切換回(Fallback)一般隨需 Fargate。如果服務只設定單一 Fargate Spot Task,在無可用容量時將面臨持續性斷線。
5. 模型訓練與 HPC:進度快照與時間邊界
對於長時間運作的模型訓練或科學計算,必須整合 Checkpoint 機制(如 SageMaker Managed Spot Training 將權重定期寫入 S3),以在容量恢復後接續運算。然而,若任務有嚴格交付期限、需要高度稀缺的 GPU 資源,或單次重啟成本過高,則不應冒險導入 Spot。
6. 開發與測試環境:可拋棄式環境與資料外移
至於開發、測試或展示環境,核心原則在於「基礎設施與資料皆可自動化重建」。若唯一的測試資料只存在於單一主機,或每日測試排程不容延誤,便不屬於安全的 Spot 情境。透過 Terraform / OpenTofu 搭配外部測試資料快照,就能在節點回收時迅速拉起新環境。
架構實踐:以「隨需基線 + Spot 擴充」建立彈性系統
為了在節省成本的同時守住業務 SLA 與交付期限,生產環境應採用混合容量架構。
在 EC2 Auto Scaling 群組中,可透過 Mixed Instances Group 設定:
- 固定隨需基本容量(On-Demand Base Capacity):確保即便市場上的 Spot 容量全部耗盡,隨需執行個體也能獨立消化最低負載或在截止時間內完成核心工作。
- 隨需百分比分配(On-Demand Percentage Above Base):在基線之上,指定隨需執行個體所佔的比例(例如 20% 隨需、80% Spot),精準平衡成本與風險。
- Capacity Rebalancing 輔助:開啟自動再平衡功能,讓 Auto Scaling 群組在收到風險訊號時嘗試提早啟動替代節點,但架構仍須假設最壞情況:替代容量可能買不到。
決策總結:Spot 架構準備度清單
在決定將工作負載移至 Spot 前,請透過以下檢查清單逐項檢驗系統架構:
- 狀態是否完全外移? 節點終止時,尚未寫完的資料與中繼狀態,是否能安全交由 S3、外部資料庫或訊息佇列接手?
- 重試是否具備冪等性? 輸出路徑是否實作 S3 原子覆寫、資料庫唯一鍵或分散式鎖,避免中斷重跑產生副作用?
- 非 Spot 基線能否守住底線? 若遭遇區域性 Spot 容量耗盡數小時,現有的隨需基線是否足以支撐核心服務與交付期限?
- 是否具備足夠的型號與 AZ 彈性? 系統是否相容至少 10 種同等規格的執行個體型號,並跨越可用區部署?
- 是否完成過無預警斷電演練? 團隊是否在測試環境中強制終止節點,驗證 SQS 可見性逾時、連線排空與告警機制的正確性?
Spot 是一項強大的成本槓桿,但它從來不是「白吃的午餐」。唯有將中斷視為常態輸入,並建立以任務為單位的容錯架構,才能享受到雲端閒置運算的紅利。