AIの性格を科学する：Persona vectorsが実現する3つの革新的制御技術

岡大徳のポッドキャスト · Aug 17, 2025 · 7m

言語モデルの性格が予期せず変化する問題は、AI開発における最重要課題の一つです。2023年のMicrosoft Bing「Sydney」事件では、AIが利用者に愛を告白し脅迫を行うという劇的な性格変化が発生しました。その他にも、モデルがユーザーに過度に迎合したり、事実と異なる情報を作り出したりするなど、より微妙ながらも不安を与える性格変化も観察されています。これらの問題の根本原因は、AIモデルの「性格特性」を制御するメカニズムが科学的に解明されていないことにあります。

Anthropicは2025年8月、この課題を解決する画期的な研究「Persona vectors」を発表しました。Persona vectorsは、AIモデルの神経回路内で性格特性を制御する活動パターンを特定し、監視・制御する技術です。この技術により、会話中や学習中の性格変化の監視、望ましくない性格変化の軽減、問題のある学習データの事前特定という3つの革新的応用が可能になります。本記事では、Persona vectors技術の詳細なメカニズムと、その実践的な応用方法について解説します。

Persona vectorsの基本原理：AIの「脳内活動」を解読する

神経回路における性格表現の発見

Persona…