MIT（マサチューセッツ工科大学）と自動運転技術企業Motionalは、自動運転車の判断ミスを人間に理解可能な形で説明する新しい人工知能「Concept-Wrapper Network（CW-Net）」を開発した。この研究成果は、2026年6月に科学誌『Nature』に掲載されている。深層学習モデルがブラックボックス化する問題を解決し、自動運転車の行動理由を「接近する停止車両」「サイクリストに接近中」といった具体的な概念でリアルタイムに示すことができる。
自動運転の「不可解な行動」を可視化する新手法
自動運転車は、カメラやLiDARセンサーからのデータを基に深層学習モデルが軌道を決定する。しかし、その内部の推論プロセスは極めて複雑で、なぜ突然ブレーキをかけたのか、なぜ緊急車両の進路を妨害するような挙動を見せたのか——原因の特定は困難を極める。こうした「ゴーストブレーキ」とも呼ばれる不可解な動作は、安全性ドライバーや同乗者の状況認識を曖昧にし、事故リスクを高める要因となっている。
CW-Netは、この問題に対処するために開発された「概念ラッパーネットワーク」である。既存の自動運転プランナー（計画モジュール）のアーキテクチャ内部に組み込まれ、モデルの内部表現を人間が理解できる「概念」に変換する。具体的には、130万もの走行シーンのデータセットを用いて訓練された概念分類器が、入力データ内の高次元特徴を「停止車両に接近中」「歩行者が近くにいる」などのラベルにマッピング。そして、その概念に基づいて最終的な行動決定を強制することで、説明の因果的忠実性を保証する。
ブラックボックスを解きほぐす仕組み——「CW-Net」の動作原理
CW-Netの核心は、従来のプランナー性能を損なわずに説明可能性を付与する点にある。通常、機械学習モデルの内部はニューラルネットワークの重みとして表現され、人間の解釈が及ばない。CW-Netはこの「中間表現」を、システムが理解できる概念空間に射影する。そして、最終的な軌道決定の際に、その概念のみを入力として使うように設計されている。
これにより、モデルが「なぜそのような行動を選択したのか」の理由を、因果関係のレベルで正確に説明できる。研究チームのEoin Kenny氏（元MITポスドク、現J.P. Morgan Chase上席AI研究者）は、「自動運転のような高リスク環境では、説明が誤解を招くものであってはならない。CW-Netは因果的に忠実な意思決定を行うため、説明の信頼性が保証される」と強調する。
説明はリアルタイムで出力され、車両の軌道と同時に安全性ドライバーや同乗者に提供される。これにより、「なぜ車が止まったのか」を即座に理解でき、システムの動作検証やエンジニアによるトラブルシューティングが大幅に効率化される。
実車テストで確認された効果——安全性ドライバーの予測精度が向上
研究チームは、Motionalの自動運転タクシー（ロボタクシー）を私設トラックで走行させ、CW-Netの有効性を検証した。その結果、CW-Netが提供する説明が、安全性ドライバーの状況予測能力を有意に向上させることが確認された。
特に注目すべきは、次のような事例だ。あるテストで、車両がサイクリストに接近するたびに停止した。ドライバーは「サイクリストを検知したから停止した」と想定していた。しかしCW-Netの説明は、モデルがサイクリストを適切に認識できていないことを明らかにした。実際には、モデルはサイクリストの検知に失敗しており、衝突コースを選択したものの、接近しすぎたために緊急ブレーキが作動したのだ。
この情報を得たドライバーは、類似の状況で早期に減速する、あるいは手動運転モードに切り替えるといった適切な対応が可能になる。さらに、エンジニアはこのデータをもとにモデルの障害を修正し、将来の同様の失敗を防ぐことができる。
ラスベガスの実道路で収集されたデータを用いたオンラインシミュレーション研究でも、同様の結果が得られた。非専門家のユーザーを対象とした大規模なテストでは、CW-Netの説明があるグループは、ないグループに比べて自動運転車の挙動を的確に予測できた。
研究チームと掲載誌
本論文の共同上席著者は、MIT航空宇宙工学科教授でCSAILインタラクティブロボティクスグループディレクターのJulie Shah氏と、Motionalの研究科学者Momchil Tomov氏。筆頭著者はEoin Kenny氏。Motionalチームからは、Akshay Dharmavaram氏、Sang Uk Lee氏、Tung Phan-Minh氏、Shreyas Rajesh氏、Yunqing Hu氏、そしてMotionalの社長兼CEOであるLaura Major氏が参加している。論文は『Nature』に掲載された。
自動運転の透明性と信頼を築く——今後の展望
現在のCW-Netは、特定の概念セットに限定されている。研究チームは今後、より多様な概念をカバーできるようモジュールを拡張するとともに、異なる訓練手法や設計技法を探求し、性能向上と解釈可能性のさらなる改善を目指す。
Julie Shah氏は「我々がテクノロジーの動作を信頼し予測できる方法で構築しない限り、その利用は不安定で安全でない基盤のままになる」と述べている。自動運転の社会実装が進む中、CW-Netのような説明可能AI（XAI）の手法は、技術の信頼性確保と、ドライバーや歩行者との適切な信頼関係構築に不可欠な役割を果たすと考えられる。
「我々の研究は、高リスク環境における解釈可能性の重要性を示している。これは、自動運転車に限らず、他の安全クリティカルなAIシステムを構築する上でも考慮されるべきだ」とKenny氏は締めくくった。CW-Netは、単なる学術的成果ではなく、実用的な安全技術としての可能性を明確に示したと言える。
