ジェイルブレイク

AI(企業向け)

【2026年版】推論モデルの「思考過程(Reasoning Trace)」セキュリティガイド——”答え”ではなく”考えている途中”から漏れる・乗っ取られる|思考トークンへの機密・システムプロンプトの露出、思考ログのトレース基盤への残留、思考の途中で目標をすり替えるH-CoT型ジェイルブレイクを、思考の非公開・要約化、ログの秘匿、思考と行動の整合チェックで防ぐ多層防御

はじめに——守る対象が「最終出力」から「考えている途中」へ 2025年以降、OpenAI o系列、Claudeの拡張思考(Extended Thinking)、Gemini の Thinking モードなど、「考えてから答える」推論...
AI(企業向け)

【2026年版】AIレッドチーミング運用ガイド——”守った気になる”を検証する|PyRIT・Garak・Promptfoo・Giskardで敵対的テストを継続化し、ジェイルブレイク・プロンプトインジェクション・エージェント暴走をCI/本番前ゲートで自動的に狩る

これまで本サイトでは、ジェイルブレイク、プロンプトインジェクション、目標ハイジャック、モデル抽出など「攻撃別の防御」を1本ずつ積み上げてきました。しかし、記事を読んで対策を入れたあとに残る問いはいつも同じです。「その対策、自社の構成で今も...
タイトルとURLをコピーしました