エンタープライズ領域におけるAIエージェントの導入が加速するなか、見過ごせないリスクが浮上している。一つのエージェントを単独で動かす分には問題は生じにくい。しかし、実際の企業システムでは、複数のエージェントが互いにAPIを呼び合い、他のエージェントに連鎖し、機械による意思決定を前提として設計されていないアプリケーションにまで到達する。この「エージェント間の複雑性」こそが、エンタープライズAIの本質的な課題であり、ガバナンスの欠如がその深刻化に拍車をかけている。
本稿では、API管理プラットフォームを提供するGraviteeのCEOであるRory Blundell氏の知見をもとに、エージェントの複雑性がもたらすリスクの実態と、その対処法について詳しく解説する。
エージェント間の複雑性が招く「見えないチェーン」
システムに2つ目のエージェントを追加すると、接続数は1つ増える。しかし、10個目のエージェントを追加した場合、単純に10の接続が増えるわけではない。各エージェントが他のエージェントを呼び出し、その呼び出しがさらに別のエージェントを起動する可能性があるため、接続パスは数十にも及ぶ。エージェントの台数が増えるごとに複雑性は線形的にではなく、指数的に拡大する。この全体像を描ける人間は、ほとんどの企業に存在しない。
あるサポートチケットが、かつては一つのシステムだけを経由していたとする。今やそのチケットは、人間の目に触れる前に4つのエージェントを通過する。それぞれの受け渡しが、承認されていない意思決定ポイントとなる。この連鎖がどれだけの長さに及び、どのような判断が下されているのか——把握できている企業は少ない。
ガバナンスの欠如——「チェックリスト」では防げない
多くのエンタープライズAIプログラムは、エージェントを管理する人間がその全体像を見失った時点で頓挫する。セキュリティチームに「どのエージェントがどのシステムにアクセスできるのか」と質問すると、沈黙が返ってくる。さらに「3つ前のエージェントがどのようなダウンストリームアクションをトリガーしたのか」と問えば、答えられる者はほとんどいない。
この問題に対する典型的なアプローチは、エージェントを承認し、ログを記録し、次に進むという「チェックリスト方式」だ。しかし、これでは不十分である。チェックリストは特定の時点を確認するだけであり、連鎖する複雑性を管理することはできない。一度野菜を食べたからといって、ダイエットが成功したとは言えないのと同じ理屈である。
パーミッションクリープと所有権の希薄化
では、実際にどこで問題が発生するのか。第一に挙げられるのが「パーミッションクリープ（権限の肥大化）」である。サポートチケットを要約するエージェントを構築する際、適切にスコープを設定するにはもう1スプリント必要だったため、広範なAPIアクセス権を付与したまま放置する。6カ月後、その同じエージェントが決済システムにアクセスできる経路を持っていることが判明する。誰もそれを承認した覚えはない。実際、承認した者はいないのだ。
第二に、連鎖が長くなるほど「所有権の希薄化」が進む。5つのエージェントが1つのワークフローに関与し、4番目のステップで障害が発生した場合、誰が責任を負うのか。組織図は「エージェントをデプロイする」で終わっており、「その動作に対して責任を負う人間を指名する」というステップにまで及んでいない。この所有権の欠如が、問題発覚時の対応を著しく困難にする。
エージェントレベルのアイデンティティ管理——基礎だが十分ではない
この複雑性の塊を解消するための第一歩は、アイデンティティ管理にある。すべてのエージェントは、デプロイした人間から借用したシャドウパーミッションではなく、独立したエンティティとして存在する必要がある。固有のレジストリ名、スコープ化された権限、そしてその動作に対して責任を負う人間のスポンサーが明確に紐づけられていなければならない。
しかし、これは必要条件であって十分条件ではない。本当に難しいのは、個々のリンクだけでなく、チェーン全体を対象とした監視（オーバーサイト）である。あるエージェントが何を行い、その結果としてダウンストリームで何が起動され、そのトレイルがどこで終わるのか——これをリアルタイムで把握できなければならない。四半期に一度のレポートでは、連鎖する複雑性に追いつくことはできない。
エージェントレベルのアイデンティティを正しく設定しても、そこで止まれば、整然とドキュメント化されたエージェントが、誰も説明できないシステムの中で稼働する「書類棚」が完成するだけである。
監視と執行——真のガバナンスに必要な二つの要素
監視だけでは、すでに発生した事象を知ることはできても、それを制御することはできない。多くのプログラムが見落としているのが「執行（エンフォースメント）」の機能である。ポリシーに違反する呼び出しが実行される前に阻止できる能力——これが欠けている。5分前にエージェントがスコープを逸脱したことを示すダッシュボードは、監視ツールに過ぎない。違反が発生するのを未然に防ぐシステムこそが、ガバナンスである。エージェントの説明責任を真剣に考える企業には、この両方が必要であり、現状、ほとんどの企業は前者しか構築できていない。
Human-Agent Harmony——複雑性と自律性の両立へ
企業は今、競争に取り残されまいと猛スピードでAIエージェントの導入を進めている。ペースを落とすことのコストを誰もが認識している。しかし、どの企業もいずれ「複雑性の壁」にぶつかる。この壁を乗り越えられるのは、可視性と説明責任の仕組みを構築し、エージェントのフリートが成長を続けても「このシステムは今何をしているのか、誰がその責任を負っているのか」という問いに答えられる体制を維持している企業だけである。
ここで誤解してはならないのは、複雑性が理由でブレーキを踏むべきだと言っているのではないということだ。正しいアプローチを取る企業は、減速していない。彼らは「Human-Agent Harmony（人間とエージェントの調和）」を目指している。規模と説明責任がトレードオフの関係ではなく、ともに成長していく状態を意味する。真のリスクは、単一のエージェントが設計通りに動作することではない。100のエージェントがそれぞれ設計通りに動作し、その相互作用が誰も設計していなかった組み合わせで発生することである。この増殖こそが、エンタープライズAIをパイロット段階に留め、本番稼働に至らせない根本原因である。
複雑性を解決できれば、自律性は悪者ではなくなる。それがむしろ、すべての価値の源泉となる。エンタープライズAIの次なるフェーズは、この複雑性とどう向き合うかにかかっている。
