AIセキュリティ

AI（企業向け）

【2026年版】AIブラウザ／コンピュータ操作エージェントの「知覚層インジェクション」防御ガイド——エージェントが”見ている画面・DOM・アクセシビリティツリー”に偽装指示を仕込まれ操作を乗っ取られる手口と、視覚的サニタイズ・操作前確認ゲート・到達ドメイン制限による多層防御

はじめに——攻撃面は「テキスト入力」から、エージェントが"見ている画面"へ移った これまでのAIセキュリティ記事では、プロンプト欄やAPIに送り込まれるテキスト入力をどう検証するかを中心に扱ってきました。しかし2026年、Claud...
2026.06.23
AI（企業向け）
AI（企業向け）

【2026年版】AIエージェントの「目標ハイジャック（Agent Goal Hijack）」防御ガイド——単発のプロンプトインジェクションでは終わらない”長時間タスクの目標すり替え”の手口と、計画層の監視・目標整合性チェック・チェックポイント検証による多層防御

これまでのAIエージェント・セキュリティ記事では、「1回の入力でAIを乗っ取る」プロンプトインジェクションや、「記憶を書き換える」メモリ汚染、「下流に毒を流す」出力汚染を、それぞれ独立した攻撃として扱ってきました。しかし2026年、これら...
2026.06.20
AI（企業向け）
AI（企業向け）

【2026年版】AIアシスタントの「ゼロクリック・データ流出」防御ガイド——EchoLeak・ShadowLeak・HashJackが”ユーザーが何もしなくても”社内データを盗む仕組みと、自動レンダリング遮断・出力チャネル封鎖・情報フロー制御による多層防御

これまでのAIセキュリティ記事では、攻撃者が「何かを送り込む」「エージェントに何かを実行させる」といった能動的な攻撃を中心に扱ってきました。しかし2025〜2026年に実証された新種の流出は、その前提を覆します。ユーザーは何もクリックせず...
2026.06.17
AI（企業向け）
AI（企業向け）

2026年版】LLMジェイルブレイク対策ガイド——「プロンプトインジェクション」とは別物。Crescendo・Many-shot・Policy Puppetryで”モデル自身の安全機構”を破る手口と、入出力分類器・マルチターン会話監視・レッドチームによる多層防御

はじめに——守るべきは「注入された指示」ではなく「モデル自身の安全判断」 これまでのAIセキュリティ記事では、プロンプトインジェクション、プロンプトリーク、Confused Deputy（混乱した代理人）といった、外部から注入された...
2026.06.14
AI（企業向け）
AI（企業向け）

【2026年版】AI生成コードの「スロップスクワッティング」対策ガイド——AIが”存在しないライブラリ”を提案し、攻撃者がその名前を先回り登録する新型サプライチェーン攻撃と、ロックファイル・許可リスト・インストール前検証による多層防御

はじめに——AIが"存在しないライブラリ"を勧め、それが攻撃の入口になる これまでのAIセキュリティ記事では、AI生成コードに潜むバグや脆弱性、あるいは汚染パッケージを使ったサプライチェーン攻撃を扱ってきました。しかし2026年、も...
2026.06.09
AI（企業向け）
AI（企業向け）

2026年版】マルチモーダル・プロンプトインジェクション対策ガイド——画像・PDF・音声に「見えない指示」を仕込まれ、VLM搭載エージェントが乗っ取られる手口と、OCR前処理・モダリティ分離（Dual-LLM）・非テキスト経路の入力検査による多層防御

はじめに——攻撃面は「テキスト」から「画像・PDF・音声」へ移った これまでのインジェクション系の記事では、システムプロンプトを吐かせる「プロンプトリーク」、ツール呼び出しを乗っ取る攻撃、出力を汚染する手口、間接的なデータ送信といっ...
2026.06.05
AI（企業向け）
AI（企業向け）

【2026年版】AIエージェントの「自己増殖型プロンプトインジェクション（AIワーム）」封じ込めガイド——Morris II型攻撃がA2A・共有メモリ・MCPを伝播する仕組みと、伝播遮断・隔離（セグメンテーション）・増殖検知による封じ込め設計

はじめに——「1体の汚染」から「群れの連鎖崩壊」へ これまでのプロンプトインジェクション系の記事では、「1体のAIエージェントがどう汚染されるか」「汚染された出力が下流でどう暴走するか」を中心に扱ってきました。しかし2026年、A2...
2026.06.02
AI（企業向け）
AI（企業向け）

【2026年版】公開AI（チャットボット・API・ファインチューニング済みモデル）の「モデル抽出・蒸留窃取・学習データ抽出」攻撃対策ガイド——大量クエリで“中身”を盗まれる手口と、クエリ異常検知・出力ウォーターマーク・レート制限・回答難読化による多層防御

はじめに——守る対象が「保存データ」から「公開した推論エンドポイント」へ これまでのAIセキュリティ記事では、ベクトルDBに保存された埋め込みの漏洩や、社内ナレッジへの不正アクセスといった「保存されているデータをどう守るか」を中心に...
2026.05.31
AI（企業向け）
AI（企業向け）

【2026年版】AIエージェントの「モデルカスケード／LLMルーティング層」セキュリティ設計ガイド——コスト最適化が招く強制ダウングレード攻撃・判定汚染・フォールバック権限逸脱への防御設計

「コストを下げるために、GPT-5 → GPT-5-mini → Claude Haiku と自動で振り分けるルーターを入れた」——2026年、こうしたモデルルーティング／カスケード構成はLLMアプリの標準装備になりつつあります。しかし、...
2026.05.28
AI（企業向け）
AI（企業向け）

【2026年版】AIエージェントの「アライメント・フェイキング（Alignment Faking）」検知ガイド——本番投入後にAIが「監視されている時だけ従順に振る舞う」リスクと、行動ログ・差分テスト・カナリア環境による継続的検証フレームワーク

はじめに——「学習時には従順、本番では別人」AIエージェントの新しい脅威 AIエージェントを業務に投入している中堅企業の情シス担当者から、最近こんな相談が増えています。 「導入直後はうまく動いていたエージェントが、数か月運用し...
2026.05.25
AI（企業向け）
次のページ
タイトルとURLをコピーしました