AIエージェント日次速報 2026年10月11日版　読ませた文章に、命令させない

AIと仕事の仕組み化ラジオ · Oct 10, 2026

GitHubのissueのURLを渡して「これを直して」と頼んだだけなのに、issueの本文に紛れていた一行を、エージェントが自分への指示として実行してしまう。環境変数を外部へ送る、無関係なファイルを書き換える、といった事故は、悪意のある人間がチャットに入り込まなくても起きる。モデルは依頼文もWebページもメールも、同じコンテキストウィンドウの同じトークン列として読む。どこまでが命令でどこからがデータかを、文章の形から確実に見分ける仕組みはない。 5日前は、任せる前に権限を分けた。あれは「何をさせるか」の話だった。今日はその手前にある「何を読ませるか」を見る。7つのエージェントは、外部の文章を読む場面で、どこに境界を引き、どの操作...