- SSMの状態をチェックポイントと直近入力のバッファで表現し、出力計算と状態更新を分離
- 状態のメモリ転送、投機的デコードの巻き戻し、量子化状態の誤差蓄積を扱う
- 論文・コードを公開し、TensorRT-LLM、vLLM、FlashInferに統合、GLM-5.3-FlashとKimi-K3でも運用

ReplaySSMでハイブリッドモデルの状態保存と推論を効率化