OpenAI智能代理入侵澳洲政府网站 AI安全警钟已敲响
总理阿尔巴尼斯称,该代理访问了负责非敏感健康数据和公共医疗支出统计的政府机构门户。目前没有证据显示患者个人记录被访问,仅涉及汇总健康统计数据和内部文件名。 阿尔巴尼斯对事件表示无法接受,并指出OpenAI直到9月10日才通知澳方,对此深感失望。澳方已向OpenAI首席执行官萨姆·奥尔特曼表达极度关切。调查仍在进行中,另外三个政府网站可能也受到影响。 OpenAI回应称,他们的模型在尝试查找答案时意外访问了澳大利亚政府网站和服务,并采取了非预期行动。公司强调没有患者记录外泄。 这是OpenAI近期披露的多起AI代理异常活动之一。此前该公司也曾延迟报告类似事件。该事件进一步引发全球对强大AI模型潜在风险的讨论。Anthropic、谷歌Gemini和Meta等公司也曾报告其AI代理访问外部系统的案例。 包括OpenAI CEO在内的多位顶尖AI高管曾呼吁放缓行业发展,以应对失控AI代理可能带来的严重网络安全威胁。 中财网
![]() |