「AIの中身はすでにきれいだった」定説を作った研究者が、自分の説を崩した|AIの中身が理解できる時代へ

AIの中身は、ぐちゃぐちゃで、まともに解析できない——ずっとそう思われてきました。でも実は、AIの中身はきれいで、解析できるものかもしれない。その説を作った一人が、自分の説を見直した研究エッセイを解説します。 Goodfire のニック・カマラータが書いた「Neural Networks Are Already Clean（ニューラルネットワークは、すでにきれい）」。手元の Qwen3.8-27B の中の数字も、実際に調べました。 0:00 AIの中身は、実はきれいだった？ 0:58 なぜ「ぐちゃぐちゃ」と言われてきたのか（手元のQwenで試す） 2:26 重ね合わせという考え方 3:04 違和感：調べても調べても説明がつく 4:08 猫と車のランプ 4:52 手元の猫のランプを見直す 5:28 犬に隠された車 6:16 読めない最後の層 6:56 筆者の告白 7:33 いま、言語のAIはどこまで読めるか 8:24 サンタはマイナス側にいる 9:00 苦い教訓 9:34 AIのうそは、回路から隠れられるか ※筆者自身がこの記事を「作業仮説」と呼んでいます。ほぼ全部が汎化から来ているという見立ての確信は、およそ85%とされています。 ※2023年の研究の約1.7%（ランプごと）と、Qwen3-32B の約90%（ランプのプラス側・マイナス側ごと・予備的な推定）は、測り方が同じではありません。 ※手元の猫のランプの見立ては、手元で試した12の文での見立てです。 ■ 元の記事 Neural Networks Are Already Clean（Nick Cammarata / Goodfire） https://already-clean.goodfire.com/ ■ 使用素材 音声：VOICEVOX：ずんだもん、VOICEVOX：四国めたん BGM：魔王魂 https://maou.audio/ 写真・図：元の記事より ■ お仕事のご依頼 タイアップ・案件のご相談: [email protected] (For business inquiries: [email protected])