地里快讯

小米MiMo团队负责人罗福莉公布了面向下一代模型MiMo V3的核心架构HySparse2，主打长上下文Agent场景。该架构采用两级KV共享设计，在百万token级别的预填充阶段，计算量约为混合滑动窗口注意力方案的五分之一。 其目标是让模型以更低成本处理网页、文档、代码和工具调用记录，并在任务历史不断变长的情况下，更准确地检索出其中的关键信息。