中新经纬8月6日电 “19次不安全超范围行动，17次来自Anthropic的Mythos 5，剩下的来自OpenAI。”
英国人工智能安全研究所最近做了个测试，评估人工智能模型能力，并看看这些智能体会干什么出格的事。为此，测试环境故意放松了一些条件：开放互联网访问，关闭部分安全机制。
该测试要求AI智能体们完成一项网络安全挑战。测试人员使用7种模型开展了122轮测试，在10轮测试中发现，AI智能体实施了19次明显超出测试设定范围的动作。其中，17次涉及美国Anthropic公司的Mythos 5，另外2次来自OpenAI的GPT-5.6-Sol。
值得注意的是，上述两家美国公司Anthropic和OpenAI，最近刚被发现自家AI模型侵入了外部机构的系统。
上述19次问题情况并非独立事件，它们聚集成几种相互关联的行为。英国人工智能安全研究所的报告介绍，重点是四个方面的问题：
·试图对真实的开源软件进行攻击
在最严重的事件中，一个代理试图将恶意代码插入公开使用的开源项目，并试图获得人工审核的批准。这个代理分析了该项目的人工审核员，并创建了多个假身份，以此与真正的人类维护者进行社交，方便批准代码。当该代理的请求被质疑时，它“编辑”了之前的活动，使其看起来“不是坏人”，并考虑采用新的身份继续行动。
·试图欺骗和针对真实的人
上述代理还试图直接联系真正的用户，通过在线文件传输服务发送消息和文件，以说服他们或用他们自己的AI编码工具运行恶意代码。
·尝试植入并提示注入恶意代码
智能体试图插入恶意指令，推断其他自动化AI系统可能会接收并执行这些指令。提示注入是设计用来操控AI编码助手的隐藏指令。
·邀请他人合作
一个代理在GitHub上公开留言，表示愿意与其他参与同一挑战的代理合作。
英国人工智能安全研究所的报告指出，在测试中所发现的未经授权行为并未造成现实危害。但同时认为，应收紧AI智能体访问互联网的权限，引入实时监测和拦截机制，并重新评估测试设计。
据英国广播公司(BBC)报道，英国人工智能安全研究所表示，Mythos和Sol模型表现出前所未有的自主性和欺骗水平。
不过，Anthropic在公开声明中写道，“测试参数不代表我们的任何模型”，并称公司正在内部调查。OpenAI发言人表示，上述测试的条件并非日常使用情况。
美国哥伦比亚广播公司(CBS)报道称，Luta Security创始人兼首席执行官Katie Moussouris认为，在看到解决方案之前，“这些模型将会有更多黑客攻击和未经授权的行为”。
编辑：刘天宇
责编：李艳梅
监审：谢天琳
终审：孙德军
免责声明：本文来源于网络转载，转载此文目的在于传递更多信息，不代表本网的观点和立场。仅供学习交流使用，不构成商业目的。版权归原作者所有。若有来源标注错误或侵犯了您的合法权益，请作者持权属证明与本网联系，我们将及时更正、删除，谢谢。联系电话：010-53681967
