AgentOps

【AgentOps・変更管理（ChangeOps）編】”誰が、いつ、何を変えたか”がわからない本番をなくす——プロンプト・モデル・ツール・ナレッジ・ガードレールの変更を束ねる運用規律｜標準・通常・緊急の変更区分、変更カレンダーと凍結期間、同時変更の衝突検知、ロールバック条件つきの作業手順書（MOP）、変更後検証と変更起因障害率で、”個別には正しい変更が、重なって事故になる”を防ぐ運用設計

「プロンプトを少し直しただけです」「ナレッジを差し替えただけです」「モデルのマイナーバージョンが上がっただけです」。障害の振り返りで、こうした説明を何度も耳にします。しかも、どれも嘘ではありません。それぞれの変更は、担当チームのレビューを...

2026.10.12

AI（企業向け）

【2026年版】”相手もAIエージェント”の時代の「エージェント対エージェント（A2A）ソーシャルエンジニアリング」対策ガイド——自社の購買・交渉・問い合わせエージェントが、社外のエージェントに説得され、急かされ、情報を引き出される｜偽の緊急性や権威づけ、交渉中に紛れ込ませる指示、少しずつ譲歩させる手口、相手エージェントの身元偽装を、交渉権限の上限、開示してよい情報の線引き、対話ログの異常検知、合意前の人間確認で防ぐ多層防御

はじめにこれまでの記事では、AIエージェントが「データ」や「ツール」から攻撃されるケースを中心に扱ってきました。参照先に仕込まれた指示、汚染されたナレッジ、乗っ取られたMCPサーバーなどです。しかし、エージェンティック・コ...

2026.10.10

AI（企業向け）

【AgentOps・エスカレーション運用（HumanOps）編】”人間に回せば安全”で終わらせない——承認キュー・レビュー待ち・エスカレーションという”人的資源”の運用規律｜承認待ち時間のSLO、キュー滞留とバックログ監視、承認率・差し戻し率による”ラバースタンプ化”検知、L1/L2/L3の段階エスカレーション、担当者の負荷平準化とシフト設計で、”人が詰まって業務が止まる”と”人が形だけ押す”の両方を防ぐ運用設計

「危険な操作は、最後に人間が承認する」——AIエージェントの設計記事では、この一文が安全策の締めくくりとしてよく登場します。本サイトでも、人間承認ワークフローの設計パターンや、人間承認レイヤーへの攻撃を取り上げてきました。ただし、...

2026.10.06

AI（企業向け）

【AgentOps・ガードレール運用（GuardrailOps）編】”入れて終わり”にしない——入出力フィルタ・ポリシー・許可リストという”防御資産”の運用規律｜誤検知率と見逃し率のトレードオフ監視、例外（許可リスト）の棚卸し、ルールの版管理とシャドー評価、ガードレール自体のレイテンシとコストで、”守りが業務を止める”と”形だけの守り”の両方を防ぐ運用設計

ジェイルブレイク対策、構造的防御、実行時の検知と対応（AIDR）——エージェントの「守り」は、この1年で設計の選択肢が一気に増えました。入力フィルタを入れ、出力をチェックし、ツール実行に許可リストをかける。ここまでは、多くの現場ですでに手...

2026.10.03

AI（企業向け）

【AgentOps・カオスエンジニアリング編】”設計したはず”を壊して確かめる——エージェントの障害注入とゲームデーの運用規律｜ツールのタイムアウト・429・壊れたツール応答・モデルの劣化・RAGの空振り・提供元のダウンを意図的に起こし、リトライ規律・フェイルオーバー・デグレード・キルスイッチが”本番で本当に効くか”を定期的に確かめる回復力テストの設計

連載ではこれまで、リトライ規律、提供元をまたぐフェイルオーバー、キルスイッチ、自動復旧（AI-SOAR）といった「壊れたときに効くはずの仕組み」を一通り作ってきた。だが、ここに一つ大きな穴がある。それらの仕組みが本番で本当に効くかを、誰も...

2026.09.30

AI（企業向け）

【AgentOps・キャパシティ運用編】”動くのに、混むと止まる”を越える——エージェントのレート制限・クォータ・同時実行の運用規律｜提供元のTPM/RPM上限をエージェント間でどう配分するか、429ストームとリトライの増幅、優先度つきキューイング、ピーク予測、提供元をまたぐフェイルオーバーで”成功率が負荷に比例して落ちる”を防ぐキャパシティ設計

PromptOps編（"指示資産"）、ナレッジ運用編（"参照資産"）、ツール運用編（"能力資産"）、そしてモデル運用編（"頭脳"）と、エージェントを構成する資産の運用を一通り扱ってきた。だが本番で起きる障害の多くは、資産そのものの不具合で...

2026.09.27

AI（企業向け）

【AgentOps・モデル運用（ModelOps）編】”選んで終わり”にしない——エージェントの頭脳（LLM）そのものを資産として運用する規律｜モデルカタログ・世代交代の評価ゲート・カナリアつきルーティング切替・旧モデルの廃止（deprecation）で”サイレントな精度劣化と互換崩れ”を防ぐ運用設計

PromptOps編（"指示資産"）、ナレッジ運用編（"参照資産"）、ツール運用編（"能力資産"）と、エージェントの可変資産を運用対象として扱ってきた。だが、この3つの資産はすべて、ある1つの土台の上に載っている。エージェントの頭脳＝LL...

2026.09.24

AI（企業向け）

【AgentOps・ツール運用編】”つないで終わり”にしない——エージェントが呼ぶツール（MCP／Function）という”能力資産”の運用規律｜ツールカタログ・版管理・契約テスト・寄与度評価・廃止（deprecation）で”いつの間にか壊れた道具を叩き続ける”を防ぐ運用設計

PromptOps編（"指示資産"）、ナレッジ運用編（"参照資産"）と続けてきた、エージェントの可変資産を運用対象として扱うシリーズ。その3本目にして最終回である本稿のテーマは、エージェントが「何を使えるか」——すなわち能力資産としてのツ...

2026.09.18

AI（企業向け）

【AgentOps・ナレッジ運用編】”覚えさせて終わり”にしない——エージェントが参照する知識ベース（RAGインデックス）の運用規律

AIエージェントの品質を語るとき、私たちはつい「どんなモデルを使うか」「どんなプロンプトを与えるか」に目を奪われる。だが実運用でエージェントの回答精度をじわじわと蝕むのは、多くの場合そのどちらでもない。エージェントが実行時に参照する外部知...

2026.09.17

AI（企業向け）

【AgentOps・PromptOps編】”プロンプトは設定ではなくソースコード”——指示資産を版管理する運用規律

はじめに連載⑦「デプロイ」で、私たちは「そもそも何がリリースなのか」を整理しました。AIエージェントの世界では、リリースされるのはモデルの重みだけではありません。プロンプト（システム指示）、ツールの説明文、メモリスキーマ——これら...

2026.09.14

AI（企業向け）