Prompt Caching

読み方は「プロンプトキャッシング」。意味と使われ方を根拠つきで確認できます。

Prompt Caching
プロンプトキャッシング

複数資料で一致

30秒で分かる答え

Prompt Cachingは、同じシステム指示、ツール定義、長い資料など、繰り返し送るプロンプトの一部をキャッシュして再利用する方法です。入力処理の遅延や費用を抑えられる場合がありますが、対象条件、保持時間、料金、モデル対応は提供元ごとに異なります。保存機能や学習とは別物です。

繰り返し使うプロンプトの一部を再利用して処理を効率化する方法

Prompt Cachingの意味・使い方

要点と背景

一行でいうと

繰り返し使うプロンプトの一部を再利用して処理を効率化する方法

Prompt Cachingは、複数のリクエストで繰り返し使うプロンプトの一部を、一定期間再利用できるようにする最適化手法です。対象には長いシステム指示、ツール定義、共通の文書、会話の前半などがなり得ます。OpenAIとAnthropicはいずれも、再利用できる入力部分をキャッシュすることで、繰り返し処理の遅延や入力コストを抑えられる仕組みを公式資料で案内しています。ただし、どこまでをキャッシュできるか、最小トークン数、キャッシュの有効時間、無効化条件、適用される料金、対応モデルはサービスごとに違います。ユーザーごとの最新情報を自動保存する機能や、モデルを追加学習するFine-tuningとは別の仕組みです。機密情報を含むプロンプトでは、キャッシュの分離、保持期間、アクセス範囲、削除条件を確認して設計します。再利用される部分と毎回変わる部分の境界を誤ると、古い指示や別ユーザーの文脈が混ざるおそれがあるため、実際の提供元の仕様とログで確認します。

使われる分野・文脈

掲載データの使用場面

API最適化LLM運用コスト削減レイテンシ改善長文プロンプト

確認時の注意

断定を避けるポイント

OpenAIとAnthropicの公式資料で、繰り返す入力部分の再利用による遅延・コスト最適化を確認した。キャッシュは学習や永続記憶ではない。

関連する用語

同じ分野・使用文脈から探す

根拠資料と確認状況

確認日・出典

確認状態

複数資料で一致

最終確認

2026/8/21

調査した根拠と項目別の確認履歴をもとに掲載しています。

掲載方針を見る

読み方と意味を、
分けて確認。

正式名称、意味、使われる分野を分けて記録しています。