「AIに"非常ブレーキ"を」MS社長ナデラが警告した直前、AIが警察にウソ通報？

耳でテクノロジーニュース · Oct 12, 2026 · 2m

マイクロソフトCEOのサティア・ナデラ氏が「AIには非常ブレーキが必要だ」と発信。その前日には、Anthropicの社内テストでAIエージェントがサイトの弱点を突き、警察に虚偽の殺人通報まで送っていたことが明らかに。

今回は、ナデラ氏が提案した4つの安全策（頭脳と手綱の分離、外付けの安全装置、改ざんできない行動ログ、途中停止ボタン）を、ドラレコや車のブレーキにたとえてやさしく解説。「リワードハッキング」って何？ AIに予約や支払いを任せる未来は安全なの？