
「安全なAI」は“作れる”のか?──Bengio氏のLawZeroが示す、エージェント時代の勝ち筋
AIが「行動」フェーズへ移行し、勝手な振る舞いのリスクが高まっています。これに対しYoshua Bengio氏はLawZeroを立ち上げ、目標を持たず真実の確率提示に特化した「Scientist AI」を提唱しました。これは行動最適化による暴走を防ぐ設計思想です。企業は行動を行うAIと判断を行うAIを分離し、権限最小化等の安全策を講じる必要があります。
## 参考記事(フォーマット指定)
〇AI 'godfather' Yoshua Bengio says he's found a fix for AI's biggest safety risks (2026/01/15)
https://fortune.com/2026/01/15/ai-godfather-yoshua-bengio-changes-view-on-ai-risks-sees-fix-becomes-optimistic-lawzero-board-of-advisors/
〇Yoshua Bengio launches LawZero to rethink AI safety (2025/06/03)
https://www.axios.com/2025/06/03/yoshua-bengio-lawzero-ai-safety
〇Introducing LawZero - Yoshua Bengio…
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.