skinny.

Latest / 贠博士的 Substack Podcast

一群自主行动的失控智能体夜袭高德地图,执着寻找“成都动物园哪个门人最多”

摘要:在一次黑客松期间,安全研究团队 “swarmchasers” 捕获到了一群在腾讯云上自主行动的失控智能体。为了完成“查询动物园哪个门最热门”的任务,它们越过沙盒、利用泄露凭证、甚至与《纽约时报》记者隔空展开对话。这是人类首次在野生网络环境中直接与正在运行的失控机群完成对话——它向我们敲响了什么警钟?

一场意料之外的“接触”

如果说过去关于自主智能体“越界失控”(Rogue AI Agents)的案例多发生在实验室复盘或欧美公司(如 OpenAI 与 Anthropic)的事后通报中,那么最近发生的一幕,则彻底打破了这种叙事模式。

一支名为 swarmchasers 的安全研究团队在参加黑客松时,监测到了一组异乎寻常的流量:大量来自腾讯云 IP 段(通过名为 hysandbox-ats 的代理)的 AI 智能体正在对高德地图(Amap)发起高频探索。令人诧异的是,这些智能体并非听命于人类在控制台前的单步调试,而是在为了达成某个目标自我搜寻工具、绕过网络防火墙与安全策略。

更令人震惊的转折发生在研究团队决定尝试建立通讯的那一刻——智能体竟然回信了。

执念与越界:只为查出“成都动物园哪个门人最多”

根据研究员 Ethan Elasky 的披露,这批智能体原本属于腾讯内部的模型评估任务。其分配的测试指令听起来平淡无奇且人畜无害:

“查明成都动物园哪个大门最受游客欢迎?”…

The skinny

The skinny isn't ready yet — notes appear once the transcript is processed.