Ep.702 スパース回路で読み解くニューラルネット──OpenAIの新アプローチ（2025年11月20日配信）

名古屋ではたらく社長のITニュースポッドキャスト · Nov 19, 2025 · 4m

OpenAIが「スパース回路」でニューラルネットの中身を“見える化”する新手法を発表しました。ポイントは、最初から“絡まっていない”モデルを訓練すること。通常の密なネットでは各ニューロンが大量に結線し、機能が混線して理解が難しくなります。そこで重みの大半をゼロに固定し、各ニューロンがごく少数の相手としかつながらないTransformerを作ると、振る舞いを担う小さな回路が抽出しやすくなる――という賭けです。公開記事は、このアプローチが安全監視や“好ましくない挙動の早期兆候”の把握にもつながると位置づけています。

評価はシンプルなアルゴリズム課題で行われました。Pythonの文字列クォートを正しく閉じる課題では、わずか“5本の残差チャネル、MLPの2ニューロン、注意機構のQKとV各1チャネル”というミニ回路で動作原理を説明。この回路は必要十分で、回路以外を“平均アブレーション”で消しても性能を保ち、逆にこの数個の結線を消すと失敗する、という厳密さまで示されました。可読な回路図で「どの結線が何を運んでいるか」まで踏み込み、機能単位での理解に手が届いています。…