亚马逊与Cerebras达成AI芯片合作
亚马逊与AI芯片初创公司Cerebras Systems达成合作,将在AWS数据中心部署Cerebras芯片,与亚马逊自研Trainium3芯片协同工作,为客户提供更快速的AI推理服务。两家公司采用"分而治之"策略:Trainium3负责预填充阶段(将用户请求转换为token),Cerebras芯片负责解码阶段(生成最终回复)。
Cerebras估值231亿美元,今年早些时候已与OpenAI签署100亿美元芯片供应协议。该服务预计今年下半年上线,亚马逊表示其方案在性价比方面将优于英伟达与Groq的类似组合方案。
来源:WSJ

