公開前にトークンコストと遅延を試算する
収録 2026-11-05
機能の生死は、バグよりコスト曲線で決まることが多い。
モデルを呼ぶ機能を出します：[機能と呼び出し方]。コストと遅延の予算を試算してください：1）一回あたりの入力・出力トークンを見積もる式と単価を示す；2）DAU、呼び出し頻度、再試行率、キャッシュ率から、保守的・想定・最悪の三シナリオを計算する；3）コストを膨らませる設計（長い文脈、多重再試行、直列呼び出し）を指摘する；4）削減手段と副作用（キャッシュ、切り詰め、小型モデル、バッチ）を示す；5）遅延予算、タイムアウト、縮退方針を示す；6）公開後に監視すべき指標を三つと、その閾値。「プロンプトを最適化」のような漠然とした提案は不要。
当サイトオリジナル
中国語の原文
置き換えるプレースホルダー 1
括弧の中をご自身の情報に置き換えてから送ってください。
[機能と呼び出し方]
使い方
まず最悪ケースの月額を計算し、それから作るかどうかを決める。
こう変えてみる
- コードを書く前に要件と制約を復唱させる。
- 全体書き換えではなく、最小の変更とロールバック方法を出させる。
得られる成果物
- そのまま使える最小変更（コピー可能なコード）
- 影響範囲：変更ファイルと追従が必要な呼び出し元
よくある失敗
- 一度に十ファイル変更させ、何が原因か分からなくなる。
- エラーだけ貼ってコードとバージョンを省くと、使えない修正が返る。
出力のチェック
- 変更は動いて戻せて、無関係なコードに手を入れていない。
- 境界条件（空・巨大・同時実行）が説明かテストで押さえられている。
使いどころと注意
- 向いている用途：要件と制約を復唱させてから、最小限の動く変更を出させる。
- 注意：エラーにはバージョンと最小再現を添える。無いと一見もっともらしいが合わない修正が返る。