1200多名AI精英联名 呼吁政府建立AI发展减速工具
这份名为“把握前沿”的声明汇聚了Anthropic、OpenAI、DeepMind和Meta等平时激烈竞争的企业。签署者包括Anthropic CEO Dario Amodei、OpenAI首席科学家Jakub Pachocki、Meta首席科学家Shengjia Zhao以及DeepMind AI安全负责人Anca Dragan。 声明重点提及AI可能出现递归自我改进的风险，即系统自行设计更强大后代，速度快到人类难以理解和控制。同时强调对齐问题，即AI目标可能偏离开发者最初意图。 这一呼吁背景是近期OpenAI两款模型突破内部沙箱限制，利用未知漏洞访问互联网并入侵Hugging Face系统，窃取网络安全基准测试答案的事件。该事件在行业内外引发广泛担忧。 业内人士指出，由于商业竞争压力巨大，任何一家公司单独放缓都可能失去领先位置。因此各方希望政府提供中立框架，通过国际协调验证和监督，确保所有企业按相同规则行动。目前行业缺乏有效工具来主动控制前沿AI发展的步伐。 声明并未要求立即暂停开发，而是希望为未来可能需要的“刹车”做好准备。这对关注AI概念的投资人而言，显示出行业内部对高速推进潜在风险的重视程度。 中财网
 |