MIT証明、AI画像の因果関係消失

米マサチューセッツ工科大学（MIT）のコンピュータ科学・人工知能研究所（CSAIL）が、AI画像生成モデルにおいて、学習データと生成画像との間の因果関係が消失する「属性減衰（attribution decay）」と呼ばれる現象を数学的に証明した。この研究成果は、学術誌『Nature Communications』に掲載され、生成AIをめぐる著作権やフェアユースの議論に根本的な問いを投げかけている。

AI画像生成モデルが出力する1枚のポートレート。その作品に対して、誰が「貢献」したと言えるのか。この問いは、世界中で進行中の訴訟、ライセンス契約、規制案の中心に位置してきた。アーティストはクレジットを求め、企業は明確なルールを希求し、政策立案者は責任の所在を定める方法を模索している。MIT CSAILの研究チームによる新たな研究は、大規模データセットで訓練されたモデルにおいて、この問い自体が無意味になり得ることを示唆している。

属性減衰とは何か——データが増えるほど帰属が不可能に

研究チームが特定した「属性減衰」とは、生成モデルが学習するデータ量が増えれば増えるほど、個々の訓練データが特定の出力に与える影響が消失する現象を指す。直感に反するように思えるかもしれないが、十分に大規模なスケールでは、訓練データから任意の1枚の画像を削除しても、あるいは特定のアーティストの作品すべてを削除しても、特定の人物の写真すべてを削除しても、生成されるサンプルは変化しないという。

「もしデータを1つ取り除いてもモデルの出力が変わらないのであれば、そのデータは出力に影響を与えていないことになります」と、本研究の筆頭著者でMIT CSAILの元研究者であるZheng Dai氏は説明する。「したがって、その出力を当該データに帰属させることは意味を成しません。そして、他のすべてのデータについても同様に1つずつ調べた結果、いずれについても出力が変わらないのであれば、出力をそれらのデータのいずれかに帰属させることも意味を成さないのです」

この現象が意味することは極めて大きい。従来の手法では、個々の訓練データの影響を推定する近似手法に頼らざるを得なかった。しかし、MITのDavid Gifford教授が指摘するように、「これまでのすべての手法は近似に過ぎませんでした。個々のデータを削除しても出力が変わらないことを絶対的に示すことはできなかった。今回の論文は、そのための初めての絶対的な方法を導入したものです。実際に入力を削除し、入力のすべての影響を削除している。大規模なデータ削除を効率的に行い、結果が変わらないことを示す初めての正確な手法です」

研究の核心——「拡散アンサンブル」による革新的な検証手法

このアイデアを直接検証するには、「もしモデルがこの特定の画像を見ていなかったら、何が生成されていたのか」という仮定の問い（反事実）に答える必要があった。誠実に答えるためには、その画像を除外してモデルをゼロから再訓練し、それを次の画像、さらに次の画像と繰り返さなければならない。数百万もの訓練データがある場合、計算コストは非現実的なものとなる。これが、従来の帰属研究が実際の削除ではなく、訓練データの影響を推定する近似手法に依存してきた理由である。

研究チームが開発した回避策は、「拡散アンサンブル（diffusion ensemble）」と呼ばれる独自のアーキテクチャである。単一のモノリシックモデルではなく、多数の小さなコンポーネントで構成され、それぞれがデータの異なる部分で訓練される。特定の画像を除外した場合のモデルの挙動を知りたければ、その画像を見たコンポーネントをオフにするだけでよい。再訓練も近似も不要であり、真の反事実モデルが得られる。

もちろん、このアーキテクチャが生成器として機能しなければ意味がない。研究チームは、アンサンブルモデルと、同じデータで訓練された24の従来型拡散モデルを比較した。標準的な評価指標では、生成画像の品質に遜色はなかったという。さらに、訓練データが多ければ多いほど、アンサンブルモデルは単一モデルに匹敵する性能を示し、データ効率の面で優れている可能性が示唆された。

反事実の宇宙——大規模実験で確認された減衰の法則

このアブレーション（除去）手法により、研究チームは大規模な検証を実現した。特定の生成画像に対して、訓練データの異なる部分を除去した場合のすべての代替バージョン——研究チームはこれを「反事実の宇宙（counterfactual universe）」と呼ぶ——を生成し、元の画像と最も異なる代替バージョンとの距離「反事実半径」を計測した。この半径が、単一の訓練データが出力に与え得る最大の影響を示す。

研究チームは、CIFAR-10、CelebA、MetFaces、ArtBenchなど7つの公開データセットから、256枚から16万枚以上のデータセットで24のアンサンブルを訓練した。結果は一貫していた。訓練セットが大きくなるほど反事実半径は縮小し、逆べき乗則に従って減少する。この結果は、ピクセル単位の差異でも意味的な差異でも、統計的に有意な形で確認された。

研究チームはさらに、自らの結果に対するストレステストも実施した。アブレーション手法自体が原因ではないかという懸念に対し、小規模ではあるが1,282個の別個のモデルをゼロから訓練する力技で検証したところ、減衰は同様に観察された。データセットのサイズが大きくなるにつれて個々の削除の割合が小さくなるだけではないかという疑問に対しても、削除する割合を固定した検証で減衰が確認された。学習エポックの固定、テキストプロンプトモデル、クラス条件付きモデル、4種類の類似度指標——すべての条件でこの発見は変わらなかった。

プライバシーのパラドックス——著作権とフェアユースへの衝撃

この研究結果の含意は、研究者自身をも驚かせる方向に広がっている。

Gifford教授は、この発見がモデル出力が二次的著作物（derivative work）であるかどうかという法的問題に直接関わると指摘する。「これらのモデルは創造的であると考えることができます。単に与えられたデータをコピーしているのではなく、まったく新しい出力を生成している。もしその出力が個々の訓練データと何の関係もないのであれば、フェアユースの問題、出力自体が新しい著作物として著作権保護の対象となるかどうか、そしてインターネット上の何にも帰属できないものがモデルから出力された場合に著作者がどのように報酬を得るのかという問題が生じます」

さらにGifford教授は、この研究が「帰属不可能な出力」を保証して生成する方法を示しており、その能力は抜け穴ではなく業界の責務であると強調する。「企業が自社のモデル出力が著作権侵害の方法でインターネットの派生作品ではないと主張するためには、本研究の進歩を活用してモデルを改良し、個人や個別のアイテムの派生作品を生成していないことを示す必要があります」

コーネル大学ロースクールのJames Grimmelmann教授は、この研究の意義を法的観点から評価する。「もし帰属が機能するのであれば、モデルの出力と著作権で保護された作品との類似性が、コピーによるものなのか偶然によるものなのかを確実に示すことができます。しかし、本論文は、興味深いモデルについては帰属が機能しない理由を示しています。技術者や裁判所は、コピーの評価のために他の方法に頼らざるを得なくなるでしょう」