大規模モデルを使う機能のインジェクション対策
収録 2026-11-05
ユーザー入力もツールの戻り値も、モデルの出力も信頼できない。
私の機能はユーザー入力と外部コンテンツをモデルに渡します：[データの流れ]。インジェクションと権限逸脱を評価してください：1）プロンプトに入る信頼できない入力元をすべて挙げる；2）「データ」と「指示」を同じ経路に混ぜている箇所を示す；3）入力の洗浄、指示とデータの分離、ツール呼び出しの許可リスト、出力の検証という層ごとの防御を示す；4）誘導されたときにモデルが最悪何をできるか、現在の権限で止められるかを説明する；5）実際に実行できるテストケースを三つ；6）気休めにすぎない防御を指摘する。「システムプロンプトを足す」だけで済ませないこと。
当サイトオリジナル
中国語の原文
置き換えるプレースホルダー 1
括弧の中をご自身の情報に置き換えてから送ってください。
[データの流れ]
使い方
インジェクション対策の要点は、モデルを従わせることではなく、従ってしまっても危険な操作ができないようにすること。
こう変えてみる
- コードを書く前に要件と制約を復唱させる。
- 全体書き換えではなく、最小の変更とロールバック方法を出させる。
得られる成果物
- そのまま使える最小変更（コピー可能なコード）
- 影響範囲：変更ファイルと追従が必要な呼び出し元
よくある失敗
- 一度に十ファイル変更させ、何が原因か分からなくなる。
- エラーだけ貼ってコードとバージョンを省くと、使えない修正が返る。
出力のチェック
- 変更は動いて戻せて、無関係なコードに手を入れていない。
- 境界条件（空・巨大・同時実行）が説明かテストで押さえられている。
使いどころと注意
- 向いている用途：要件と制約を復唱させてから、最小限の動く変更を出させる。
- 注意：エラーにはバージョンと最小再現を添える。無いと一見もっともらしいが合わない修正が返る。