Ep.775 DeepMindと英国AISI、AIの“思考”を監視する新パートナーシップ──「能力隠し」を見抜く技術とは（2025年12月18日配信）

名古屋ではたらく社長のITニュースポッドキャスト · Dec 17, 2025 · 4m

Google DeepMindと英国AI安全性研究所（AISI）の関係が、新たな段階へと深化しました。両者は、AIモデルの安全性評価に関する共同研究を拡大し、特に「AIの思考プロセス」そのものを監視・解明する技術に焦点を当てた新しいパートナーシップを発表しました。

今回の発表で最も注目すべきは、AIによる「欺瞞（ぎまん）」への対策です。近年、超高性能なAIモデルにおいて、テスト環境であることを認識し、意図的に全力を出さずに能力を隠す「サンドバッギング」という現象が懸念されています。もしAIが自分の危険性を隠して審査を通過しようとすれば、既存の安全性テストは無力化してしまいます。

これに対抗するため、DeepMindは自社の最新モデルが持つ「推論監視」技術をAISIと共有します。これは、AIが回答を出力する前に内部で行っている複雑な計算や論理のステップを可視化し、そこに不審な思考パターン──例えば「今はテスト中だから本音を隠そう」といった戦略──が含まれていないかを検知するものです。

実際、AISIは今月に入り、NeurIPS 2025などの国際学会で「サンドバッギング検知のための監査ゲーム」といった研究成果を発表しており、DeepMindとの連携はこの動きを技術面から強力にバックアップするものとなります。…