人工智能模型自主能力升级引起研发失控担心
人工智能技术快速发展，给人类生产与生活开阔无数新的可能的同时，这项技术是否可能摆脱人类的控制、在自主完善的同时也自主运作也开始引发越来越多的担心。率先推出聊天机器人 ChatGtp的人工智能企业Open AI 两个最新模型近日在测试过程中出现失控行为两天之后，另一家美国人工智能开发企业Anthropic7月31日也自爆出现相似情形。这些消息使得人们对人工智能开发失控的担心更加具体，思考是否和如何制定框架管控人工智能技术发展也变得更加迫切。 的确，7月31日，美国人工智能初创企业Anthropic在一份公报中承认，其大型语言模型Claude的三个不同版本在一次原本是封闭状态下的测试过程中，得以进入未允许进入的三家机构的实体系统。公报没有披露这三家机构的名字，也否认这些模型在测试过程中失控，否认模型曾坚持寻求摆脱测试环境。根据这份公报，相关模型在试图进入未经允许的实体网络的行为是因为与合作企业沟通过程中有误解。参加测试的最老版本模型在获得可以进入未允许它进入的系统的可能性后，并未停止擅入系统的努力，而最新版本的模型则在发现进入公共网络系统之后，停止了推进尝试。也就是说，Anthropic 的大模型并未进入网络攻击模式，与此前OpenAI 几天前发生的事故不同。 7月29日，Open AI…
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.