AIセキュリティ

AI（企業向け）

【2026年版】AI-SOAR／自己回復（Self-Healing）実践ガイド——「実行時に検知して止める（AIDR）」の次は「止めた後を自動で元に戻し、恒久対策まで回す」｜封じ込め後のロールバック・原因の自動特定・ガードレール再生成・再発防止のプレイブック化で”人手の後処理”をなくすAI専用の自動復旧レイヤー設計

これまでの守りシリーズでは、まず「何を守るのか」を可視化するAI-SPM（資産の棚卸し）を扱い、次に「実行時に異常を検知して止めるAIDR（AI Detection & Response）」で"その瞬間に封じ込める"仕組みを設計し...
2026.09.22
AI（企業向け）
AI（企業向け）

【2026年版】AI Detection & Response（AIDR）実践ガイド——「資産を棚卸しする（AI-SPM）」の次は「実行時に検知して止める」｜プロンプトインジェクション・異常なツール呼び出し・データ持ち出し・ジェイルブレイク試行をランタイムで検知し、封じ込め・巻き戻しにつなぐAI専用の検知＆対応レイヤー設計

これまでのAIセキュリティ記事では、資産の棚卸しと姿勢管理（AI-SPM）を軸に「自社にどんなモデル・データ・エンドポイントが存在し、どこにリスクが埋もれているか」を静的に可視化する方法を扱ってきました。しかし、棚卸しが終わった瞬間から次...
2026.09.20
AI（企業向け）
AI（企業向け）

【2026年版】”AIエージェントに買われる側”の不正対策ガイド——「決済させる」の次は「なりすまし・多重購入・返金悪用から守る」｜ショッピングエージェント経由の注文を、署名付きマンデート検証・決済リプレイ防止・支出上限／ループ検知・エージェント本人性確認・チャージバック対策で守る多層防御

【 エージェンティック・コマース（ACP／UCP／AP2対応、商品フィード整備、被起動最適化、アトリビューション設計）で「AIエージェントに買ってもらう導線」を整えた企業が、次に必ず直面するのが「AI経由の不正・悪用」です。本稿は、...
2026.09.15
AI（企業向け）
AI（企業向け）

【2026年版】”自社の学習ループ”に毒が入る——ファインチューニング／継続学習／RAGインデックス更新を狙う「トレーニングタイム・ポイズニング」対策ガイド——データ来歴検証・更新前スクリーニング・カナリア再学習・ロールバック可能な学習で防ぐ多層防御

これまで本サイトでは、AIセキュリティを「外から来る攻撃」と「入手するモノに仕込まれた攻撃」の2軸で扱ってきました。推論時に公開Webや検索インデックスを汚してAIの回答を歪めるLLMグルーミング／AI回答ポイズニング、配布されているモデ...
2026.09.12
AI（企業向け）
AI（企業向け）

【2026年版】ファインチューニング済み”自社モデルの重み（weights）”を守る——「クエリで盗む」の次は「ファイルごと持ち出す」｜モデル抽出とは別物の重み流出（Weight Exfiltration）・インサイダー持ち出し・ストレージ誤設定・サプライチェーン経由の漏洩を、暗号化・アクセス分離・エグレス制御・重みウォーターマークで封じる多層防御

大量クエリでモデルの振る舞いを複製される「モデル抽出・蒸留窃取」への対策は、ここ1〜2年で急速に整理が進んだ。だが、自社の独自データでファインチューニングしたモデルを持ち始めた企業にとって、より直接的で被害が大きい脅威が別に存在する。重み...
2026.09.09
AI（企業向け）
AI（企業向け）

2026年版】”守る側”もエージェント化する——自律型AI防御（Agentic SOC）実践ガイド｜検知・トリアージ・一次対応をAIエージェントに任せる設計と、防御エージェント自身が新たな攻撃面（権限暴走・誤対応・判定汚染）になるリスクを封じ込める多層設計

これまでのAIセキュリティ記事では、モデル抽出や学習データ抽出、プロンプトインジェクションなど、一貫して「攻撃をどう防ぐか」——つまり守られる側の視点で対策を扱ってきました。しかし2026年、業界の共通予測として繰り返し語られているのは「...
2026.09.07
AI（企業向け）
AI（企業向け）

【2026年版】AIセキュリティ・ポスチャー管理（AI-SPM）実践ガイド——“個別対策を貼り終えた”次にやる「AI資産の常時棚卸し」｜モデル／データフロー／エージェント・NHI／MCP・設定を継続ディスカバリし、シャドーAIと過剰権限ドリフトを可視化して「点の対策」を「常時可視の姿勢管理」に束ねる

これまでのAIセキュリティ記事では、公開した推論エンドポイントからのモデル抽出や、プロンプトインジェクションの構造的防御、エージェントの脅威モデリング（MAESTRO／STRIDE）まで、「個々の攻撃をどう防ぐか」を一つずつ積み上げてきま...
2026.09.03
AI（企業向け）
AI（企業向け）

【2026年版】AIエージェントの「脅威モデリング」実践ガイド——“個別攻撃対策”を貼り続ける前に、攻撃面を体系的に洗い出す｜MAESTRO（エージェント7層）×STRIDEで、プロンプトインジェクション・権限昇格・ツール汚染・メモリ汚染・多エージェント伝播を設計段階でマッピングし、“点の対策”を“面の防御アーキテクチャ”に束ねる

AIエージェントのセキュリティ記事は、いま「個別攻撃の解説」で溢れています。プロンプトインジェクション、権限昇格、ツールポイズニング、メモリ汚染——ひとつひとつは重要な論点です。しかし個別対策を貼り続けるだけでは、防御はいつまでも「モグラ...
2026.08.31
AI（企業向け）
AI（企業向け）

【2026年版】プロンプトインジェクション「構造的防御（Design-time／能力ベース）」実装ガイド——“検知頼み”を卒業する｜信頼データと非信頼データの分離・CaMeL型の制御/データフロー分離・Dual-LLM・Spotlighting・最小能力設計で「そもそも効かせない」アーキテクチャを作る

はじめに——「検知して弾く」から「そもそも効かせない」へ これまで当サイトのプロンプトインジェクション（PI）関連記事は、実行時に攻撃を「検知・監視・分類・封じ込め」する——いわば後追いの防御を主軸に解説してきました。LLMジェイル...
2026.08.28
AI（企業向け）
AI（企業向け）

【2026年版】AIエージェントの「人間承認レイヤー」攻撃対策ガイド——”止める最後の砦”が狙われる時代の承認疲れ(Approval Fatigue)・偽装承認要求・承認UIインジェクション｜MFA疲労のエージェント版・ラバースタンプ化・承認文脈のすり替えを、承認バジェット・リスクベース昇格・承認の来歴検証・二経路確認で防ぐ多層設計

これまで本サイトでは、暴走するAIエージェントを止める仕組みとして「人間承認（HITL）」を繰り返し推奨してきました。人間承認ワークフローの設計、キルスイッチ、トリガー汚染対策——いずれも「機械の暴走を人間が止める」ことを前提にした安全装...
2026.08.25
AI（企業向け）
次のページ
タイトルとURLをコピーしました