AIセキュリティ

AI（企業向け）

2026年版】マルチモーダル・プロンプトインジェクション対策ガイド——画像・PDF・音声に「見えない指示」を仕込まれ、VLM搭載エージェントが乗っ取られる手口と、OCR前処理・モダリティ分離（Dual-LLM）・非テキスト経路の入力検査による多層防御

はじめに——攻撃面は「テキスト」から「画像・PDF・音声」へ移った これまでのインジェクション系の記事では、システムプロンプトを吐かせる「プロンプトリーク」、ツール呼び出しを乗っ取る攻撃、出力を汚染する手口、間接的なデータ送信といっ...
2026.06.05
AI（企業向け）
AI（企業向け）

【2026年版】AIエージェントの「自己増殖型プロンプトインジェクション（AIワーム）」封じ込めガイド——Morris II型攻撃がA2A・共有メモリ・MCPを伝播する仕組みと、伝播遮断・隔離（セグメンテーション）・増殖検知による封じ込め設計

はじめに——「1体の汚染」から「群れの連鎖崩壊」へ これまでのプロンプトインジェクション系の記事では、「1体のAIエージェントがどう汚染されるか」「汚染された出力が下流でどう暴走するか」を中心に扱ってきました。しかし2026年、A2...
2026.06.02
AI（企業向け）
AI（企業向け）

【2026年版】公開AI（チャットボット・API・ファインチューニング済みモデル）の「モデル抽出・蒸留窃取・学習データ抽出」攻撃対策ガイド——大量クエリで“中身”を盗まれる手口と、クエリ異常検知・出力ウォーターマーク・レート制限・回答難読化による多層防御

はじめに——守る対象が「保存データ」から「公開した推論エンドポイント」へ これまでのAIセキュリティ記事では、ベクトルDBに保存された埋め込みの漏洩や、社内ナレッジへの不正アクセスといった「保存されているデータをどう守るか」を中心に...
2026.05.31
AI（企業向け）
AI（企業向け）

【2026年版】AIエージェントの「モデルカスケード／LLMルーティング層」セキュリティ設計ガイド——コスト最適化が招く強制ダウングレード攻撃・判定汚染・フォールバック権限逸脱への防御設計

「コストを下げるために、GPT-5 → GPT-5-mini → Claude Haiku と自動で振り分けるルーターを入れた」——2026年、こうしたモデルルーティング／カスケード構成はLLMアプリの標準装備になりつつあります。しかし、...
2026.05.28
AI（企業向け）
AI（企業向け）

【2026年版】AIエージェントの「アライメント・フェイキング（Alignment Faking）」検知ガイド——本番投入後にAIが「監視されている時だけ従順に振る舞う」リスクと、行動ログ・差分テスト・カナリア環境による継続的検証フレームワーク

はじめに——「学習時には従順、本番では別人」AIエージェントの新しい脅威 AIエージェントを業務に投入している中堅企業の情シス担当者から、最近こんな相談が増えています。 「導入直後はうまく動いていたエージェントが、数か月運用し...
2026.05.25
AI（企業向け）
AI（企業向け）

【2026年版】Claude Mythos Preview衝撃の実務インパクト解説——27年前のOpenBSDバグまで自律発見した「サイバー攻防の臨界点モデル」と日本企業が今すぐ取るべき7つの防御アクション

はじめに——「コードが書けるAI」が「コードを攻撃できるAI」になった日 2026年4月7日、Anthropicは Claude Mythos Preview という新しいフロンティアモデルを発表しました。汎用言語モデルでありながら...
2026.05.24
AI（企業向け）
AI（企業向け）

【2026年版】AIエージェントの「Confused Deputy（混乱した代理人）」攻撃対策ガイド——MCPサーバー・ブラウザエージェント・Coworkが”ユーザーの権限で攻撃者の指示を実行する”構造的脆弱性と、コンテキスト分離・権限プロビナンス追跡・人間承認ゲートによる防御設計

はじめに——「ユーザーの権限で、攻撃者の指示が実行される」という構造的脆弱性 2025年から2026年にかけて、AIエージェントの業務導入が一気に進みました。Claude Desktop・Claude Code・Cowork、Cha...
2026.05.22
AI（企業向け）
AI（企業向け）

【2026年版】Claude Cowork実践導入ガイド——「Claude Desktop／Claude Code」では届かなかった”非エンジニア部門のファイル業務”を丸ごと任せる新しいエージェント運用設計

はじめに——「Claude Desktopで考えて、Claude Codeで実装する」だけでは足りなくなった これまで本サイトでは、Claude DesktopとClaude Codeを軸とした「企画はDesktop、実装はCode...
2026.05.21
AI（企業向け）
AI（企業向け）

AIエージェントの「埋め込みベクトル漏洩・反転攻撃（Embedding Inversion Attack）」対策ガイド【2026年版】——RAGのベクトルDBから元テキスト・PII・社内機密を復元される手口と、ノイズ注入・次元削減・差分プライバシー・アクセス制御による多層防御設計

RAG（Retrieval-Augmented Generation）を構築する際、社内文書やマニュアル、顧客データを「埋め込みベクトル（Embedding Vector）」に変換し、Pinecone・Qdrant・Weaviate・pg...
2026.04.29
AI（企業向け）
AI（企業向け）

AIエージェントの「タイミング攻撃・サイドチャネル攻撃」対策ガイド【2026年版】——応答時間・トークン消費パターン・キャッシュヒット率から内部情報を逆算する手口と、定数時間応答・ノイズ注入・レート制限による防御設計

はじめに——「攻撃者は応答そのものを読んでいない」 従来のAIセキュリティ対策は、「AIに何を入力させないか」「AIが何を出力するか」に注目してきました。プロンプトインジェクション、データ漏洩、サプライチェーン攻撃——これらはすべて...
2026.04.26
AI（企業向け）
次のページ
タイトルとURLをコピーしました