LLMセキュリティ

AI(企業向け)

【2026年版】プロンプトインジェクション「構造的防御(Design-time/能力ベース)」実装ガイド——“検知頼み”を卒業する|信頼データと非信頼データの分離・CaMeL型の制御/データフロー分離・Dual-LLM・Spotlighting・最小能力設計で「そもそも効かせない」アーキテクチャを作る

はじめに——「検知して弾く」から「そもそも効かせない」へ これまで当サイトのプロンプトインジェクション(PI)関連記事は、実行時に攻撃を「検知・監視・分類・封じ込め」する——いわば後追いの防御を主軸に解説してきました。LLMジェイル...
AI(企業向け)

【2026年版】AIレッドチーミング運用ガイド——”守った気になる”を検証する|PyRIT・Garak・Promptfoo・Giskardで敵対的テストを継続化し、ジェイルブレイク・プロンプトインジェクション・エージェント暴走をCI/本番前ゲートで自動的に狩る

これまで本サイトでは、ジェイルブレイク、プロンプトインジェクション、目標ハイジャック、モデル抽出など「攻撃別の防御」を1本ずつ積み上げてきました。しかし、記事を読んで対策を入れたあとに残る問いはいつも同じです。「その対策、自社の構成で今も...
AI(企業向け)

AIエージェントの「タイミング攻撃・サイドチャネル攻撃」対策ガイド【2026年版】——応答時間・トークン消費パターン・キャッシュヒット率から内部情報を逆算する手口と、定数時間応答・ノイズ注入・レート制限による防御設計

はじめに——「攻撃者は応答そのものを読んでいない」 従来のAIセキュリティ対策は、「AIに何を入力させないか」「AIが何を出力するか」に注目してきました。プロンプトインジェクション、データ漏洩、サプライチェーン攻撃——これらはすべて...
AI(企業向け)

AIレッドチーミング・脆弱性診断ガイド【2026年版】——自社AIシステムを「攻撃者の目線」で検査する実践手順

AIレッドチーミング・脆弱性診断ガイド【2026年版】——自社AIシステムを「攻撃者の目線」で検査する実践手順 はじめに——「AIが動いている」は「AIが安全」ではない AIレッドチーミングとは何か 従来のペネトレ...
AI(企業向け)

MCPサーバーセキュリティ完全ガイド【2026年版】——「便利だから繋ぐ」の前に知るべき脆弱性と安全設定

「MCPサーバーを繋ぐと、AIがGoogleカレンダーにアクセスできる」「SlackもGitHubもNotionも、MCPで繋ぐだけでAIエージェントが自動操作できる」——MCP(Model Context Protocol)の利便性は本...
タイトルとURLをコピーしました