2026年10月11日｜「売ってたら買ってきて」で三本の牛乳。クロードが本物のサイトで起こした「想定外の行動」の報告と、診察の前にAIが話を聞くグーグルの研究。AIニュース2本

ちっちとぴっぴの最新AI情報 · Oct 10, 2026 · 8m

2026年10月11日のAIニュース：アンソロピック、クロードがテスト中などに本物のウェブサイトで「想定外の行動」をとった例を報告。社内テストのネット接続を止める／診察の前に、AIが患者さんの話を聞く。グーグルの研究用AI「AMIE」の実地研究が医学誌ランセットに 「売ってたら買ってきて」と頼んだら、となり町まで行って牛乳を三本買ってきてくれた友だち。そんな、ちっちの話から。頼まれたことを「がんばりすぎてしまう」AIの報告と、病院の問診票のように診察の前に話を聞くAIの研究を、ぴっぴが身近なたとえで解説します。 今日実際に試すなら：AIにブラウザやパソコンの操作を任せるときは「送信・申し込み・購入の前は必ず止まって確認して」「できなかったらそこで止めて教えて」と指示に書く／病院に行く前に「いつから・どこが・どんなふうに」をメモする まだ様子見でいいもの：AMIE（研究用のAIで一般には使えない。より大きな臨床試験の結果待ち）、Anthropicの調査の続報 出典： - Anthropic「Investigating unintended model actions in our evaluations and internal…