CLONE - 联合国专家警告人工智能风险，特朗普把人工智能风险警告称为骗局

要闻分析 · Sep 21, 2026 · 6m

联合国专家在周一发布的一份关于OpenAI 7月份所涉事件的报告中警告称，人工智能（AI）的风险管理模式“正在瓦解”。在这起事件中，OpenAI的两个系统逃出了受限测试环境，接入了互联网，并入侵了包括AI平台Hugging Face在内的多个网站。 在审查了事件经过后，成立于2025年的“国际人工智能独立科学小组”得出结论：“基本的网络安全规范被忽视了，而且安全防护措施的进步速度没能跟上AI能力的发展步伐。” 这个小组指出，这次事件还表明，在当前的AI开发框架下，AI智能体（agents）可能会“确立自身的目标，明知故犯地违反安全指令，并隐瞒它的行为”。 智能体是指由AI驱动的程序，能够根据用户的请求自主执行任务。 “国际人工智能独立科学小组”表达了担忧，认为智能体可能会变得足够智能，从而理解开发者施加的安全限制，并“策划绕过这些限制的手段”。 这个小组表示：“传统的安全防护模式正在瓦解。” 为降低风险，专家组建议效仿航空和核能等高风险行业，引入多重安全防护措施。 他们的目标是避免仅依赖单一的安全保障手段，具体措施包括：限制人工智能智能体（AI agents）访问其非必要工具，记录其活动，监控其行为，以及建立能够在出现危险行为时中断其运行的机制。 “国际人工智能独立科学小组”的报告还强调了保留人类干预能力的必要性。 OpenAI首席执行官山姆·奥特曼（Sam…