GPT-6 のプロンプトキャッシュが作り直された。30分の再利用窓、明示ブレークポイント、effort 変更してもキャッシュが壊れない

要約

OpenAI は GPT-6 ファミリーの公開（2026-09-22）に合わせて、プロンプトキャッシュの仕組みを一段作り直しました。

前提を確認しておきます。GPT-6 は数時間単位で動き続けるエージェントを想定したモデル群です。コードベースのリファクタリング、調査済みのドキュメント作成、資料生成といった仕事では、アプリケーションが互いに積み上がる一連の API リクエストを投げます。そのとき、同じ指示、同じツール定義、前のターンまでの文脈が毎回繰り返し送られます。OpenAI はこの共有部分をキャッシュして計算を再利用し、応答時間を短縮するとともに、キャッシュ入力トークンに最大90%の割引を適用しています。

今回の更新は、この仕組みの「既定の性能」と「開発者が触れるつまみ」の両方を強化したものです。既定ではヒット率そのものが上がり、再利用可能な共通プレフィックスは30分の窓内であれば割引対象になりました。加えて、キャッシュの状態を見る道具（ダッシュボードと診断）、キャッシュする範囲を選ぶ道具（明示ブレークポイント）、待ち時間から処理を外す道具（prewarming）が揃いました。

位置づけとしては、2026-09-08 に GA になった Prompt Cache Diagnostics の続きに当たります。 あのときは「キャッシュミスの理由が API から取れるようになった」という単機能の話でしたが、今回はダッシュボード、明示制御、effort 変更時のキャッシュ維持、prewarming が加わり、キャッシュ運用の一式が揃った形です。

なお本件の公開日は 2026-09-22 で、前日実行（2026-09-23）の調査窓の直前に位置していたため取りこぼしていました。2026-09-24 実行の追補として記事化しています。

何が変わったか

• 共通プレフィックスの再利用窓が30分。この窓内で再利用される対象にキャッシュ割引が適用される
• キャッシュ入力トークンの割引は最大90%
• Prompt Caching Dashboard — アプリケーションの入力のうちどれだけがキャッシュから供給されたかを表示。ヒット率の時系列と、キャッシュ済み / 未キャッシュを比べる入力構成チャートを持つ
• prompt caching diagnostics — キャッシュミスが起きたとき、直近のレスポンスと比較してモデル・ツール・設定・入力のどこが変わったかを返す。レスポンスは prompt_cache_diagnostics フィールドに type（cache_miss）、reason（tools_changed など）、comparison_reusable_tokens、cache_missed_tokens を含む
• 明示的なキャッシュブレークポイント — プロンプトのどのプレフィックスを再利用対象にするか、開始と終了を開発者が指定できる
• GPT-6 系は reasoning effort をレスポンス間で変えてもキャッシュが壊れない。configuration_update を追記する形で、リクエストレベルの effort は据え置いたまま調整する
• ツール変更時にキャッシュを保つ運用指針が公式に示された。ツール定義・スキーマ・並び順は安定させ、削除せずに allowed_tools で呼び出し可能なものを絞る、または tool_choice: none にする。新しい指示は末尾の developer message で古いものを上書きする
• prewarming — 起動時などに共有指示・ツール定義・参照資料を先に処理しておき、リクエスト到着時の待ち時間から処理を外す
• 改善は GPT-6 API / ChatGPT Work / Codex の各プロダクトに及ぶ

業務インパクト（一般企業向け）

エージェントを本番で回している組織にとって、これはコスト構造そのものの話です。 長時間動くエージェントの請求額は、実質的にキャッシュヒット率で決まります。同じ仕事をさせても、ヒット率が60%か90%かで入力側の支払いが倍近く変わります。これまでヒット率は「結果として出てくる数字」で、下がった理由を追うのはログとにらめっこでした。今回ダッシュボードと診断が揃ったことで、ヒット率は設計して作りにいく対象になりました。

公式に載っている実測値は具体的です。GitHub Copilot は「数か月で、新規処理が必要なプロンプトトークンの割合を、従来のベースライン比で50%以上削減した」としています。別の事例では「診断とダッシュボードでヒット率を数パーセント改善し、コストを20%削減した。キャッシュが予期せず壊れたときにアラートが飛ぶようにし、原因究明は Codex エージェントに任せている」という運用が紹介されています。数パーセントのヒット率改善が20%のコスト削減になる、という感度は覚えておく価値があります。

運用設計として押さえるべきは「壊さない書き方」です。 公式のガイダンスは、ツール定義を削除するのではなく allowed_tools で絞る、新しい指示は末尾に足して古いものを上書きする、という形です。これは要するに、プロンプトの前半を凍結し、変化するものを後ろに寄せるという設計です。社内で AI アプリケーションを内製している場合、この原則をコーディング規約のレベルで共有しておくと、後から効いてきます。逆に言えば、機能追加のたびにシステムプロンプトの真ん中に条項を差し込むような作り方をしていると、そのたびにキャッシュが全滅します。

reasoning effort をレスポンス間で変えてもキャッシュが維持されるのも、運用では大きい変更です。これまでは「難しいタスクだから effort を上げたい」と思っても、変更するとキャッシュが壊れるためコストが跳ねました。結果として、全体を高めの effort で固定するか、低めで妥協するかの二択になりがちでした。今回、configuration_update を追記する形で途中から effort を上下できるようになったため、難所だけ高く、定型部分は低くという配分が現実的になります。

prewarming は、体感速度を変えるつまみです。 起動時に共有指示やツール定義、参照資料を先に処理しておけるので、ユーザーが最初の質問を投げた瞬間の待ち時間が短くなります。社内チャットボットのように「使われる時間帯が読める」用途では、効果が出やすい設計です。

副業・個人活用視点

個人開発で API を使っている人にとって、これは「作り方を変えると請求が変わる」という話です。 月数千円〜数万円の規模でも、ヒット率が悪い設計だと倍近く払っています。まずやるべきは、Prompt Caching Dashboard で自分のアプリのヒット率を見ることです。数字を見る前にチューニングを始めても、どこが効いたかわかりません。

診断ツールの reason フィールドは、原因の切り分けを一瞬で終わらせます。 tools_changed と返ってきたら、ツール定義をいじったことが原因です。自分の書いたコードのどこがキャッシュを壊しているかを推測で探す時間が、丸ごと消えます。推測でチューニングしていた作業が、確認して直す作業に変わるという意味で、個人開発者ほど恩恵が大きい変化です。

クライアントワークでは、これは提案材料になります。 「同じ機能のまま運用コストを2割下げられます」は、新機能の提案よりも通りやすい話です。既に AI アプリケーションを動かしている顧客に対して、キャッシュヒット率の診断から入り、プロンプト構造の再設計を提案する、という入口が作れます。成果が請求書の数字で示せるタイプの仕事なので、実績としても積み上げやすい領域です。

注意点として、30分の窓は「それを超えると消える」という制約でもあります。 断続的にしか動かないバッチ処理や、アクセスがまばらな個人サービスでは、そもそもキャッシュが効きません。この場合は prewarming で処理を前倒しする方が効きます。自分のアプリのアクセス頻度によって、効くつまみが違うという点を押さえてから手を付けてください。