AI（企業向け）

AI（企業向け）

【2026年版】”自社の学習ループ”に毒が入る——ファインチューニング／継続学習／RAGインデックス更新を狙う「トレーニングタイム・ポイズニング」対策ガイド——データ来歴検証・更新前スクリーニング・カナリア再学習・ロールバック可能な学習で防ぐ多層防御

これまで本サイトでは、AIセキュリティを「外から来る攻撃」と「入手するモノに仕込まれた攻撃」の2軸で扱ってきました。推論時に公開Webや検索インデックスを汚してAIの回答を歪めるLLMグルーミング／AI回答ポイズニング、配布されているモデ...
2026.09.12
AI（企業向け）
AI（企業向け）

【AgentOps・フリート編】”1体を運用する”から”群れを運用する”へ——エージェント・フリート管理の運用規律｜数十〜数百のエージェント／インスタンスを「在庫（インベントリ）・設定ドリフト・一斉更新・ヘルスチェック・段階ロールアウト」で束ね、”どこかの1体が静かに壊れている”を検知・封じ込める運用設計

本記事は、AgentOps連載の続編です。連載①〜⑧では基本的に「1体のエージェントをどう生み育て、監視し、リリースするか」——つまり個体のライフサイクルを軸にしてきました。本稿はその上位レイヤー、すなわち群（フリート）としてエージェント...
2026.09.11
AI（企業向け）
AI（企業向け）

【2026年版】ファインチューニング済み”自社モデルの重み（weights）”を守る——「クエリで盗む」の次は「ファイルごと持ち出す」｜モデル抽出とは別物の重み流出（Weight Exfiltration）・インサイダー持ち出し・ストレージ誤設定・サプライチェーン経由の漏洩を、暗号化・アクセス分離・エグレス制御・重みウォーターマークで封じる多層防御

大量クエリでモデルの振る舞いを複製される「モデル抽出・蒸留窃取」への対策は、ここ1〜2年で急速に整理が進んだ。だが、自社の独自データでファインチューニングしたモデルを持ち始めた企業にとって、より直接的で被害が大きい脅威が別に存在する。重み...
2026.09.09
AI（企業向け）
AI（企業向け）

【2026年版】AEO×「エージェント・セッション分析」ガイド——”引用される・操作される”の次は”サイト上でタスクを完了できるか”｜AIエージェント（ChatGPT Atlas・Comet・Operator）の来訪を識別し、どこで詰まり・離脱するかを可視化して「エージェントのタスク完了率」を上げる計測ループ

「AIに引用されるための最適化（AEO）」、「AIに操作されやすいサイト設計（AX最適化）」——ここまでは"入口"の話でした。しかし2026年、AIブラウザ（ChatGPT Atlas・Perplexity Comet）や操作エージェント...
2026.09.08
AI（企業向け）
AI（企業向け）

2026年版】”守る側”もエージェント化する——自律型AI防御（Agentic SOC）実践ガイド｜検知・トリアージ・一次対応をAIエージェントに任せる設計と、防御エージェント自身が新たな攻撃面（権限暴走・誤対応・判定汚染）になるリスクを封じ込める多層設計

これまでのAIセキュリティ記事では、モデル抽出や学習データ抽出、プロンプトインジェクションなど、一貫して「攻撃をどう防ぐか」——つまり守られる側の視点で対策を扱ってきました。しかし2026年、業界の共通予測として繰り返し語られているのは「...
2026.09.07
AI（企業向け）
AI（企業向け）

【AgentOps実装編】”1エージェント＝1トレース”では追えない——マルチエージェント分散トレーシング設計｜A2A／MCP境界をまたぐW3C Trace Context伝播・trace_id継承ルール・OpenTelemetry Collectorのサンプリング／PII秘匿／”テレメトリ自体のコスト”制御・まだ”Development”段階のGenAI規約をバージョンピン留めして本番運用する

はじめに——「1エージェント＝1トレース」では、本番のマルチエージェントは追えない AgentOps連載③（オブザーバビリティ編）では、1つのエージェントが「考え→ツールを呼び→また考える」という一連の軌跡（トラジェクトリ）を、1本...
2026.09.06
AI（企業向け）
AI（企業向け）

【AgentOps⑧・連載完結】“落ちない前提”を捨てる——非決定的エージェントのインシデント運用規律｜障害分類・SEV定義・オンコール・封じ込め／巻き戻し・ポストモーテムを評価フライホイールへ還流

本連載「AgentOps」では、AIエージェントを本番運用するための7つの要素——評価・可観測性・コスト・メモリ・権限・デプロイ・インシデント——を、一つずつ掘り下げてきました。本稿はその第七要素であり、連載の完結編にあたります。テーマは...
2026.09.05
AI（企業向け）
AI（企業向け）

【2026年版】AEO×「AIエンジン更新ボラティリティ」追随ガイド——コンテンツを変えていないのに被引用が急変する“供給側の変化”を早期検知し、Citation Decay（自社起因）と切り分ける監視・対応ループ

はじめに——SEOでは「Googleコアアップデート追随」が当たり前の運用になりました。順位が一夜で動けば、まず「アルゴリズムが変わったのか、自サイトが陳腐化したのか」を切り分け、様子見か再最適化かを判断します。ところがAEO（Answe...
2026.09.04
AI（企業向け）
AI（企業向け）

【2026年版】AIセキュリティ・ポスチャー管理（AI-SPM）実践ガイド——“個別対策を貼り終えた”次にやる「AI資産の常時棚卸し」｜モデル／データフロー／エージェント・NHI／MCP・設定を継続ディスカバリし、シャドーAIと過剰権限ドリフトを可視化して「点の対策」を「常時可視の姿勢管理」に束ねる

これまでのAIセキュリティ記事では、公開した推論エンドポイントからのモデル抽出や、プロンプトインジェクションの構造的防御、エージェントの脅威モデリング（MAESTRO／STRIDE）まで、「個々の攻撃をどう防ぐか」を一つずつ積み上げてきま...
2026.09.03
AI（企業向け）
AI（企業向け）

【AgentOps⑦・デプロイ】”テストは緑、本番は別物”の落とし穴——エージェント・デプロイのライフサイクル運用規律｜「何がリリースか」の再定義（プロンプト／モデル／ツール定義／メモリスキーマ）・カナリア／シャドー／段階的自律のプログレッシブデリバリー・オンライン評価ゲート（②評価と直結）・サイレントなモデル更新へのバージョンピン留め・状態を持つエージェントのロールバック設計で「リリースが事故になる」を防ぐ運用設計

この連載では、AIエージェントを「作って動かす」段階から、「運用として回し続ける」段階へと視点を移してきました。②評価で品質の測り方を、③観測でシステムの見える化を、④コストでユニットエコノミクスを、⑤メモリで長期記憶のライフサイクルを、...
2026.09.02
AI（企業向け）
次のページ
タイトルとURLをコピーしました