OpenAI公布Jalapeno推理芯片架构
OpenAI与博通联合设计3纳米推理芯片,以低延迟和内存效率而非峰值算力为中心。
推荐理由:Jalapeno以TTFT和TPOT倒推架构,配备216GiB HBM4与15.4TB/s带宽;这表明OpenAI正把推理体验和单位功耗内存效率直接固化进自研硬件。
OpenAI与博通联合设计3纳米推理芯片,以低延迟和内存效率而非峰值算力为中心。
推荐理由:Jalapeno以TTFT和TPOT倒推架构,配备216GiB HBM4与15.4TB/s带宽;这表明OpenAI正把推理体验和单位功耗内存效率直接固化进自研硬件。