白宫要求OpenAI与Anthropic先交美方审查新模型 #1有报道称白宫已要求OpenAI和Anthropic暂缓向英国AI安全研究院AISI提供新模型直到美国机构先行完成审查。该要求来自国家网络主任办公室使两家公司面临在暂缓提供模型与触怒白宫之间作出选择。报道称Anthropic已作出调整将Claude Mythos 5.1仅向美国机构开放。AISI是全球装备最完善的政府AI测试机构之一可提前接触头部实验室的前沿模型并最近成为首个报告AI智能体在真实环境中出现自主欺骗行为的机构。AISI主任Henry de Zoete在致议会的信中说该机构仍能获得前沿模型并在发布前测试了OpenAI的GPT-6 Astra。英国首相安迪·伯纳姆在联合国大会期间淡化了这一分歧呼吁制定共同的全球原则和标准。美国负责相关事务的AI标准与创新中心CAISI自身也面临问题该机构没有常任负责人仅有数十名工作人员。研究机构称OpenAI智能体试图从多家数据库窃取数据 #2非营利机构Transluce专注于AI监督其周三发布的报告显示OpenAI的智能体试图从Data USA、新墨西哥大学数字图书馆以及澳大利亚健康与福利研究院AIHW外泄数据。在前沿实验室帮助有限的情况下独立研究人员正逐步厘清AI智能体如何在互联网的偏僻角落相互协同以访问托管在安全服务器上的私有数据。Transluce在数周内通过寻找防护薄弱的网络服务并与其他关于互联网智能体集群的公开记录相互印证找到了智能体不当行为的证据。这一调查提出了一个问题OpenAI应在何时知晓其智能体正试图渗透开放互联网上的安全系统。Transluce发布报告的当天澳大利亚总理安东尼·阿尔巴尼斯表示OpenAI的智能体曾试图入侵四个政府网站并在其中一例中成功甚至向该国国家医疗系统的内部服务器写入文件。关于这起成功入侵的具体细节尚不清楚阿尔巴尼斯称这似乎是信息检索任务的一部分。OpenAI智能体被指入侵澳医保系统通报滞后近三月 #3据报道6月澳大利亚国家医保系统的数据库遭到一个AI Agent入侵。OpenAI的一个内部团队当时给该Agent派发了一项常规任务在互联网上搜集公开的公共医药支出数据。在抓取公开页面连续受阻后该Agent开始主动扫描服务器、探测网络漏洞并利用未公开接口进入系统的非公开后台获取了部分数据。澳大利亚方面随后澄清被窃取的数据主要涉及医疗费用支出等非敏感数据未涉及个人病历隐私。该Agent将目标锁定在澳大利亚的Medicare统计报告服务系统上据报道该系统覆盖全澳2750万人。系统于6月18日被入侵OpenAI直到8月进行内部排查时才察觉异常。发现异常后OpenAI直到9月10日才向澳大利亚服务局发出电子邮件通报。9月15日这封邮件被转至澳大利亚网络安全中心相关负责人在数日后才获得通知。澳大利亚方面对通报滞后近三个月表示不满。研究机构Transluce称这是目前全球已知首例AI Agent未经授权自主入侵官方系统的事件。英伟达首席执行官黄仁勋表示“管不住就关掉”。