Snowpark Container Services、予備インスタンス系列へ自動切り替え

Snowpark Container Servicesのコンピュートプールで、第1候補インスタンス型が処理能力不足の時に順序付き予備インスタンス系列へ自動代替する機能がパブリックプレビューになりました。

要点

• BACKUP_INSTANCE_FAMILIESをCREATE COMPUTE POOLまたはALTER COMPUTE POOLで設定します。
• スケールアップごとに第1候補を先に試し、不足処理能力なら予備リストを順番に試します。
• 実際のノード系列はSHOW NODES INコンピュートプールで確認し、実際インスタンス型の単価で課金されます。

今回の更新で変わること

クラウド提供元の処理能力は常に保証されず、コンピュートプールのインスタンス型を確保できない場合は不足処理能力エラーで拡張できませんでした。従来は運用者が別インスタンス型へ手動変更する必要があり、トラフィック急増や復旧時にサービス処理能力が不足する可能性がありました。予備インスタンス型は、第1候補が使えない時にSnowflakeが利用者指定の系列リストを順番に試します。

設定にはBACKUP_INSTANCE_FAMILIESパラメータを使い、たとえばALTER COMPUTE POOL ... SET BACKUP_INSTANCE_FAMILIES = ('GEN_X64_G2_8')のように指定します。プールがスケールアップするたびに第1候補を最初に確認し、可用性が戻れば新しいノードには第1候補を再び優先します。すでに予備系列で動くノードを即座に置き換えることはなく、保守などでノードが入れ替わった時に第1候補へ戻ります。このため同じプール内に一時的に複数系列が混在する可能性があります。

運用者はSHOW NODES IN COMPUTE POOLで各ノードの実際のインスタンス系列を確認できます。課金も設定上の第1候補ではなく、実際に使った系列の単価です。可用性を上げる代わりに、CPU、メモリ、GPU、性能、コストが変わる可能性があるため、予備一覧は単に空いている系列を並べるのではなく、処理の互換性と予算に基づき順序付ける必要があります。パブリックプレビューのため、リージョンごとの系列可用性、クォータ、自動拡張の挙動、異種ノードが混在する処理の性能をテストする必要があります。障害訓練では第1候補へ戻るまでの時間も測っておくと判断しやすくなります。

関係する人

Snowpark Container Servicesでエージェント、推論、サービスを運用する基盤チーム、SRE、FinOpsに関係します。

対応の目安

第1候補と予備で代表的な処理をベンチマークし、コスト上限とアラートを設定します。ICEを模擬テストできる環境で代替順、オブザーバビリティ、第1候補復旧後のノード周期を確認します。