データ来歴

AI(企業向け)

【AgentOps・ナレッジ運用編】”覚えさせて終わり”にしない——エージェントが参照する知識ベース(RAGインデックス)の運用規律

AIエージェントの品質を語るとき、私たちはつい「どんなモデルを使うか」「どんなプロンプトを与えるか」に目を奪われる。だが実運用でエージェントの回答精度をじわじわと蝕むのは、多くの場合そのどちらでもない。エージェントが実行時に参照する外部知...
AI(企業向け)

【2026年版】”自社の学習ループ”に毒が入る——ファインチューニング/継続学習/RAGインデックス更新を狙う「トレーニングタイム・ポイズニング」対策ガイド——データ来歴検証・更新前スクリーニング・カナリア再学習・ロールバック可能な学習で防ぐ多層防御

これまで本サイトでは、AIセキュリティを「外から来る攻撃」と「入手するモノに仕込まれた攻撃」の2軸で扱ってきました。推論時に公開Webや検索インデックスを汚してAIの回答を歪めるLLMグルーミング/AI回答ポイズニング、配布されているモデ...
タイトルとURLをコピーしました