OpenAI 推出了与 Broadcom 合作开发的首款定制推理处理器 Jalapeo。该公司表示，该处理器是专门为 OpenAI 的推理系统设计的，并得到了该公司自己的人工智能模型的协助。
Jalapeo 目前正在接受测试，早期结果表明与当前最先进的替代品相比，每瓦性能明显更好。与 Broadcom 的合作于 10 月正式宣布，外界猜测此举旨在减少 OpenAI 对 Nvidia GPU 的依赖。
与 OpenAI 类似，谷歌和亚马逊也创建了名为“AI 加速器”的定制芯片，以增强机器学习性能。 OpenAI 总裁 Greg Brockman 在宣布与博通合作后不久在播客中讨论了该公司的芯片开发战略。
“我们对工作量有深入的了解，”布罗克曼说。 “我们确实一直在寻找服务不足的特定工作负载，[并询问]我们如何构建能够加速实现的东西？”
Jalapeo 处理器针对推理进行了优化，其中涉及执行预构建的人工智能模型以响应用户命令。 OpenAI 强调了该芯片对于实时编码模型的低运营成本。预训练等性能密集型任务可能会继续依赖 Nvidia 硬件，但推理成本的降低可能会对 OpenAI 的财务状况产生积极影响。
优化推理系统对于人工智能向前发展的经济可行性可能至关重要。 OpenAI 专注于构建各种代理产品，包括 Codex 以及部署所需的数据中心。向定制芯片的转变使该公司能够进一步增强其基础设施。
该公司表示：“OpenAI 不仅开发前沿模型或在其之上构建产品；它还在设计其底层的基础设施：芯片架构、内核、内存系统、网络、调度、部署系统和产品体验。” “因为 OpenAI 跨堆栈运行，所以每一层都可以围绕同一目标进行优化：使其模型更快、更可靠、对用户来说更实惠。”
<小时/>
