AWS EC2 Spot 什麼時候該用、什麼時候別用?六種情境與防中斷做法

在雲端架構的成本最佳化清單中,AWS EC2 Spot Instances 往往是最具吸引力的選項。官方宣稱相較隨需(On-Demand)價格最高可省下 90%,且硬體規格與運算效能完全一致。

然而,若把不容中斷或有狀態的工作直接放上 Spot,就可能遭遇服務斷線、批次作業反覆重跑甚至資料遺失。使用 Spot 的關鍵判準,在於「當單一節點被回收、且暫時無法補足新容量時,系統能否維持基本運作與交付承諾」。

Spot 是以「可隨時回收的閒置容量」,換取更低的運算單價。以下梳理六大工作負載的適用條件、中斷防禦機制與實務選型邊界。


核心架構思維:容量池面向與配置策略

自 AWS 調整定價機制後,Spot 不再採用早期的競標模式,改為隨市場供需平緩變動。理解現代 Spot 的核心心智模型,是「容量池(Capacity Pool)」。

 Availability Zone: us-east-1a
 +-- Pool A: c6i.xlarge   (Deep Capacity)
 +-- Pool B: c6i.2xlarge  (Moderate Capacity)
 +-- Pool C: m6i.xlarge   (Low Capacity)

在 AWS 的架構定義中,單一執行個體型號搭配單一可用區(AZ)即構成一個獨立的容量池。若架構只鎖定單一型號與單一 AZ,就等於將業務連續性押在單一容量池的閒置狀態上。

為了提升取得與維持容量的機率,架構設計應遵循兩大基本原則:


將中斷視為常態輸入:預警限制與容錯防線

使用 Spot 必須建立一個不可動搖的前提:節點被中斷是必須預期的正常行為,而非例外故障。

AWS 提供兩種主要的中斷預警訊號,但兩者都存在明確的架構限制:

架構設計絕不能仰賴「最後 2 分鐘一定能寫完狀態」。2 分鐘通知可以用來排空既有連線(Connection Draining)、把節點標記為不再接新任務,或保存最後一次 checkpoint;容錯防線必須建立在外部儲存與冪等重試上。


六大工作負載選型矩陣

判斷工作負載是否適合 Spot,關鍵在於最基本的工作單位是否具備無狀態、可分割與可重試的特性。

情境分類合適工作單位節點中斷復原路徑常見架構地雷
批次處理與 ETL單一檔案、分片(Shard)或影格逾時後由佇列重新派工;輸出具冪等性單筆任務耗時過長、無 Checkpoint 導致反覆重跑
CI/CD 建置與測試可在任一 Runner 重跑的獨立 Job重排 Job;成品與快取放外部儲存將發布審核、正式部署與資料庫遷移放上 Spot
分散式運算(EMR)可重新排程的 Task 節點運算排程器重派 Task;保留 Core 與 Master誤將保存 HDFS 資料的 Core 節點大量放上 Spot
容器服務與 Web API多副本、無狀態且能優雅關閉的 Pod負載平衡器排空連線;隨需節點接手只有單一副本,或在缺容量時期待自動切換隨需
模型訓練與 HPC具備 Checkpoint 機制的階段運算從 S3 載入最近一次 Checkpoint具有緊迫交付期限、稀缺 GPU 且重啟成本極高
開發與測試環境可自動化重建的短期工作空間基礎設施重拉;測試資料外部還原唯一測試資料留存本機,或測試流程無法容忍延遲

典型工作負載的邊界條件與實務設計

1. 批次處理與 ETL:任務拆分與冪等性

批次運算是 Spot 最自然的應用領域。上游將檔案寫入 S3,任務訊息推入 SQS,後端由多個 Worker 節點領取處理。

  1. S3 / SQS 分派任務
    1. Worker 1 (Spot)寫入輸出(冪等)
    1. Worker 2 (Spot)遭中斷(任務經可見性逾時重新排入佇列)

在批次架構中,必須落實三項關鍵設計:

2. CI/CD Pipeline:劃分建置與部署界線

在 CI/CD 流程中,使用 Spot 作為 Auto-scaling Runner 能夠大幅降低成本並提升平行度。

但 CI/CD 的關鍵在於劃分邊界:單元測試、程式碼檢查與容器映像檔建置非常適合 Spot,即使遭回收也只需重新排程;但涉及正式環境部署、資料庫遷移(Migration)或外部第三方 Webhook 呼叫等步驟,則不應放在 Spot 上,否則中斷可能導致部署流程卡死或狀態不一致。

3. EMR 大資料架構:Task 節點 vs Core 節點

在 Amazon EMR 或 Hadoop/Spark 架構中,節點角色具有嚴格的責任分工:

因此,大資料負載應預設將 Spot 限制於 Task 節點,Core 與 Master 交給穩定的隨需節點;只有可承受部分 HDFS 資料遺失的工作,才考慮讓 Core 節點使用 Spot。

4. 容器與 Web 服務:連線排空與容量退回機制

將無狀態 Web API 部署於 Spot 時,系統必須具備完整的連線排空(Connection Draining)與健康檢查機制。

以 ECS Fargate Spot 為例,跨購買選項的容錯移轉並不會自動處理:雖然平台在中斷時會發出 SIGTERM 訊號,但 ECS 容量提供者(Capacity Provider) 僅在啟動時按權重分派。

在遭遇 Spot 容量不足時,系統並不會自動切換回(Fallback)一般隨需 Fargate。如果服務只設定單一 Fargate Spot Task,在無可用容量時將面臨持續性斷線。

5. 模型訓練與 HPC:進度快照與時間邊界

對於長時間運作的模型訓練或科學計算,必須整合 Checkpoint 機制(如 SageMaker Managed Spot Training 將權重定期寫入 S3),以在容量恢復後接續運算。然而,若任務有嚴格交付期限、需要高度稀缺的 GPU 資源,或單次重啟成本過高,則不應冒險導入 Spot。

6. 開發與測試環境:可拋棄式環境與資料外移

至於開發、測試或展示環境,核心原則在於「基礎設施與資料皆可自動化重建」。若唯一的測試資料只存在於單一主機,或每日測試排程不容延誤,便不屬於安全的 Spot 情境。透過 Terraform / OpenTofu 搭配外部測試資料快照,就能在節點回收時迅速拉起新環境。


架構實踐:以「隨需基線 + Spot 擴充」建立彈性系統

為了在節省成本的同時守住業務 SLA 與交付期限,生產環境應採用混合容量架構。

在 EC2 Auto Scaling 群組中,可透過 Mixed Instances Group 設定:

  1. 固定隨需基本容量(On-Demand Base Capacity):確保即便市場上的 Spot 容量全部耗盡,隨需執行個體也能獨立消化最低負載或在截止時間內完成核心工作。
  2. 隨需百分比分配(On-Demand Percentage Above Base):在基線之上,指定隨需執行個體所佔的比例(例如 20% 隨需、80% Spot),精準平衡成本與風險。
  3. Capacity Rebalancing 輔助:開啟自動再平衡功能,讓 Auto Scaling 群組在收到風險訊號時嘗試提早啟動替代節點,但架構仍須假設最壞情況:替代容量可能買不到。

決策總結:Spot 架構準備度清單

在決定將工作負載移至 Spot 前,請透過以下檢查清單逐項檢驗系統架構:

  1. 狀態是否完全外移? 節點終止時,尚未寫完的資料與中繼狀態,是否能安全交由 S3、外部資料庫或訊息佇列接手?
  2. 重試是否具備冪等性? 輸出路徑是否實作 S3 原子覆寫、資料庫唯一鍵或分散式鎖,避免中斷重跑產生副作用?
  3. 非 Spot 基線能否守住底線? 若遭遇區域性 Spot 容量耗盡數小時,現有的隨需基線是否足以支撐核心服務與交付期限?
  4. 是否具備足夠的型號與 AZ 彈性? 系統是否相容至少 10 種同等規格的執行個體型號,並跨越可用區部署?
  5. 是否完成過無預警斷電演練? 團隊是否在測試環境中強制終止節點,驗證 SQS 可見性逾時、連線排空與告警機制的正確性?

Spot 是一項強大的成本槓桿,但它從來不是「白吃的午餐」。唯有將中斷視為常態輸入,並建立以任務為單位的容錯架構,才能享受到雲端閒置運算的紅利。