OpenAI自研芯片超英伟达 AI推理成本有望显著降低
这款芯片由OpenAI与博通合作开发,创纪录短时间内完成研制。它同时兼顾高吞吐量和低延迟,既能以更低成本服务更多用户,也能为追求极致速度的客户提供快速响应。 由于在700瓦较低电压下就能高效运行,Jalapeno有望大幅节省数据中心电力成本,而电力是AI运营的主要开支之一。 OpenAI计划今年晚些时候将这些芯片用于支持其人工智能模型,这是公司自建AI基础设施的重要一步。该芯片专注于AI推理阶段,即模型训练完成后响应提示和处理任务的环节,而非训练领域。 测试显示,Jalapeno在处理较大模型时优势明显。公司同时强调,仍将英伟达视为重要合作伙伴,未来将继续大量采购其芯片。目前OpenAI已启动下一代芯片设计,目标是进一步降低全球AI基础设施的建设和运营成本。 中财网
![]() |