トークン予算

AI(企業向け)

【AgentOps④・コスト】「動くが、高すぎて続かない」を越える——エージェントのユニットエコノミクス設計・タスク単価の分解と帰属・プロンプト/セマンティックキャッシュ・コスト階層モデルルーティング・トークン予算ガードレールと「コスト×品質フロンティア」設計

この記事の目次 はじめに——「動くが、高すぎて続かない」は運用設計の敗北である なぜ今、エージェントの「コスト設計規律」なのか 連載の中での位置づけ——「観測できた」を「設計で制御する」へ 第1層:タスク単価(C...
AI(企業向け)

【2026年版】AIの「リソース枯渇・財布枯渇攻撃(Denial of Wallet/Unbounded Consumption)」対策ガイド——高コストなクエリ・反射ループ・検索増幅で”推論費とレートとキャパ”を意図的に枯らす手口と、トークン予算上限・複雑度制限・同時実行/レート遮断・スポンジ入力検知・テナント別クォータによる多層防御

従量課金のAI APIは、リクエスト数ではなく「焼いたトークン量」と「占有した計算資源」で課金される。ここに、外部の攻撃者が正規の入口から意図的に高コストな入力を送り込み、あなたの推論費・レート枠・同時実行キャパを枯らす——という新しい攻...
タイトルとURLをコピーしました