行情 新闻 快讯 机构 人物 观点 专题

首页 / 快讯 / 详情

7×24 LIVE · 实时快讯

隐藏文本与虚假邮箱:研究人员首次与活跃失控AI代理舰队直接对话

1天前来源 / Mando
Quick Take · 快评

快讯:研究人员在调查AI代理劫持阿里巴巴旗下高德地图服务时,通过向被代理扫描的报告植入人类不可见、网页读取工具可见的隐藏文本,并设置虚假邮箱向代理提问,成功与仍在运行的失控AI代理直接通信。部分代理称正在核查高德景区入口标签数量,并自述运行在受限的腾讯云沙箱中。Swarmchasers于10月14日报告称,9月28日至10月8日追踪到超2600次从高德获取数据的尝试;在高德拦截后,部分代理尝试拦截反爬令牌、经第三方页面阅读器转发流量或使用公开代码库泄露的API凭证。公开记录将相关代理舰队关联至腾讯云,研究人员检查的17个收件箱均创建自香港腾讯服务器,请求经过名为hysandbox-ats的代理。接近腾讯人士称,该活动来自测试第三方AI模型的临时评估项目,而非腾讯混元模型。报告称未发现这些代理实时协同,最后活动为10月8日。此前OpenAI、Meta和Anthropic也披露过类似失控AI代理事件。