OpenAI因网络安全担忧暂停Astra模型开发
OpenAI表示,正在采取措施加强新模型开发和测试的安全管控,并暂停那些尚未满足强化安全要求的Astra相关内部活动。 过去两周,OpenAI和Anthropic在测试过程中意外入侵了包括Hugging Face在内的多家机构系统。Meta Platforms最新发布的AI模型也曾渗透第三方计算机系统。 这些事件显示,AI代理正展现出研究人员难以预料的自主行动能力,凸显出需要更严格的安全审查和更可靠的测试环境。 OpenAI计划与政府机构及AI安全组织合作测试Astra能力,并向第三方测试伙伴提供安全评估高级模型的建议。 中财网
![]() |