カナダの著名な作家であり、「侍女の物語」の著者として世界的に知られるマーガレット・アトウッドが、近年のAIブームに対して非常に本質的な批判を投げかけた。彼女が使った言葉は「Garbage In, Garbage Out（ゴミを入れればゴミが出る）」というものだ。これはコンピュータサイエンスの世界では古くから使われている格言だが、今の生成AIの時代においても、これ以上ないほど的を射た表現だと僕は感じている。
データ品質こそがAIの生命線
AIモデル、特に大規模言語モデル（LLM）は、インターネット上の膨大なテキストデータを学習することで成り立っている。しかしそのデータの中には、偏見、誤情報、差別的な表現、著作権上グレーなコンテンツが大量に含まれている。アトウッドが指摘するのはまさにこの点だ。どれだけ洗練されたアーキテクチャやアルゴリズムを持っていても、学習データの質が低ければ、アウトプットの質も必然的に低くなる。
エンジニアとして日々AIと向き合っている僕からすると、この指摘は痛いところを突いてくる。モデルの精度やパラメータ数ばかりが話題になりがちだが、実際の現場では「このデータ、本当に使っていいのか」という問いに悩まされることが多い。データのクレンジングやキュレーションにかかるコストと時間は、モデルの開発コストに匹敵することも珍しくない。
作家の視点が照らすAIの盲点
アトウッドのような文学者がAIについて語ることには、特別な意味があると思っている。彼女は言語と物語の専門家として、AIが生成するテキストの「空虚さ」や「文脈の欠如」を鋭く感じ取っている。AIが生み出す文章は、表面上は流暢に見えても、人間が長年の経験や感情を通じて積み上げてきた文脈を本質的には持っていない。
また、彼女の発言は著作権問題とも深く結びついている。多くの作家たちが、自分の作品が無断でAIの学習データとして使われることに強い懸念を示している。アトウッド自身もその一人だ。良質なテキストデータの多くは、作家や研究者が心血を注いで書き上げたものだ。それを適切な対価や同意なしに使用することは、まさに「ゴミを入れる」行為の一つだと言えるかもしれない。
AI開発者が今すべきこと
アトウッドの批判を単なる「技術嫌い」として片付けるのは簡単だ。しかし僕はそうしたくない。むしろ、AIの内側にいるエンジニアこそが、この言葉を真剣に受け止める必要があると思っている。データガバナンスの強化、クリエイターへの適切な対価の支払い、そして学習データの透明性の確保。これらは技術的な課題であると同時に、倫理的な責任でもある。
「ゴミを入れればゴミが出る」という言葉は、AIが社会に浸透するほど重みを増していく。僕たちエンジニアは、ただ高性能なモデルを作るだけでなく、何を「材料」として使うのかについて、もっと真剣に議論していかなければならないと感じている。アトウッドの一言は、そのことを改めて気づかせてくれた。