日本語訳
線形弾性的キャッシュ（Linear elastic caching）は、ページの退避（eviction）を「スキーレンタル問題」として定式化し、軽量な機械学習を用いてメモリフットプリントとキャッシュミスのトレードオフを最適化することで、キャッシュの総コストを最小化します。
現代の高性能なデータベースシステムやクラウドサービスは、頻繁にアクセスされるデータをRAM上に保持するインメモリキャッシュに依存しており、これにより低速なディスク処理を回避し、ユーザーが期待する極めて高速な応答時間を実現しています。しかし、このパフォーマンスには（文字通り）コストが伴います。高速メモリは高価であり、一部のサーバーレスクラウドプロバイダーでは、わずか1 GiBのメモリに対して1日あたり最大3ドルを請求することもあります。
歴史的に、キャッシュ管理は固定リソースの問題として扱われてきました。通常のキャッシュでは、エンジニアがキャッシュ用に特定のメモリ量を割り当て、システムはスペースが不足した際にどのデータを保持するかを決定するために、最近最も使われていないデータ（LRU）を置換するなどの退避ポリシーを使用します。これは古典的な「ゴルディロックス」問題（ちょうど良い塩梅の難しさ）を引き起こします。キャッシュサイズが小さすぎるとパフォーマンスが急落し、ピーク需要に合わせて大きすぎると、アイドル状態のメモリに数千ドルを無駄にすることになります。
Conference on Innovative Data Systems Research (CIDR) 2025で発表された論文において、私たちはリアルタイムのワークロードに応じてキャッシュサイズを動的に調整し、キャッシュ管理の総所有コスト（TCO）を最小化するよう設計された新しいアプローチ「線形弾性的キャッシュ」を提案します。メモリを固定の事前割り当てリソースとして扱うのではなく、キャッシュされたデータのサイズとそれがキャッシュに保持される時間の両方に対してコストが線形に発生するユーティリティとして扱います。メモリフットプリントを時間経過とともに積算される変動コストとして扱うことで、システムパフォーマンスを損なうことなく、費用を大幅に削減できることを示しました。
メモリへの「スキーレンタル」アプローチ
動的なキャッシュサイズ決定の課題を解決するために、古典的な「スキーレンタル問題」を利用してみましょう。期間が不確かなスキー旅行に行くと仮定します。毎日、少額の１日分の料金でスキーをレンタルするか、あるいはより高額な先行投資でスキーを購入してそれ以降は無料で滑るか、という選択に直面します。何日間滑るかが正確に分かっていれば選択は容易ですが、その情報がない場合、総支出を最小化するアルゴリズムが必要になります。
同様に、線形弾性的キャッシュにおいては、すべてのデータが類似したジレンマに直面します。データにアクセスされた際、システムは次の2つの選択肢から選ばなければなりません：データをRAMに保持し、それが占有するメモリに対して継続的なコストを支払うか、メモリコストを節約するためにデータを退避させるが、そのデータがすぐにまた必要になった場合の「購入」コスト（レイテンシとI/Oペナルティ）のリスクを冒すかです。
私たちの中心的な理論的貢献は、これら2つの要因、すなわち「退避ポリシー」と「レンタル期間」を個別に最適化できることを証明した点にあります。この分離は、クリーンで実用的な実装に非常に適しています。スキーレンタルアルゴリズムを使用して、ページの生存時間（TTL、レンタル期間に相当）を決定できます。TTLが満了する前にページが再アクセスされない場合、そのページは自動的に退避されます。しかし、もしキャッシュが物理的に満杯になった場合は、LRUのような従来の退避ポリシーが介入してスペースを管理します。
線形弾性的キャッシュのテスト
理論が現実世界で通用することを確認するため、私たちは以下の2つの主要なソースを用いて広範な実験を行いました：
本番ワークロード：このシステムをSpannerに統合しました。
Googleのインフラに依存しない汎用的な結果であることを保証するため、業界のベンチマークから公開されている様々なキャッシュトレースに対してテストを実施しました。
私たちは、ページのアクセスパターンとコストに基づいて、ページ要求ごとにキャッシュされたページに生存時間（TTL）を割り当てる実用的なアルゴリズムを開発しました。Spannerは毎秒数十億件の要求を処理するため、このTTL予測モデルは極めて軽量である必要があります。そこで私たちは、数行のC++コードに変換可能な浅い決定木を採用しました。その結果生成されるコードは解釈も容易であり、ワークロードの特性に関する貴重な洞察を与えてくれます。このモデルは、データのサイズ、キャッシュミスのコスト（データがキャッシュになく、ディスクなどの他の低速なシステムから取得する必要がある場合のペナルティ）、および実行されているデータベース操作のタイプなどの特徴量を考慮して、各ページの最適なTTLを予測します。
私たちは、Spannerの本番サーバーにこの弾性的キャッシュポリシーを数ヶ月にわたって統合しました。標準的な固定サイズキャッシュと比較して、結果は顕著でした：
キャッシュミスはわずか5.5%増加しました。
総所有コスト（TCO）：約5%削減されました。
極めて重要なのは、アルゴリズムが「コストを認識」しているため、キャッシュミスのわずかな増加はストレージからの取得コストが低いデータに集中し、結果として実際のI/Oコストへの影響はわずか0.5%という無視できるレベルに留まった点です。
線形弾性的キャッシュは、クラウドインフラストラクチャに対する考え方の転換を象徴しています。静的なピークロード用プロビジョニングから脱却し、動的でコスト認識型のモデルへと移行することで、高いパフォーマンスと経済的効率性を両立したシステムを構築できます。
Spannerのワークロードにおける、学習されたスキーレンタルポリシーの評価は、コアインフラに適用された場合、小さく軽量な機械学習モデルであっても非常に大きなインパクトをもたらし得ることを実証しています。クラウド環境がリソースに対してよりきめ細かな従量課金制（pay-as-you-go）を提供し続ける中、弾性的な戦略は、グローバルなフットプリントの最適化を目指すすべての大規模サービスにおいて不可欠なものとなるでしょう。