地里快讯

腾讯混元团队9月1日推出Hy4 preview轻量版模型，通过1-bit量化把模型权重从约1.5TB压缩到214GB左右，体积缩减约85%。据介绍，压缩后的模型在长文理解能力上几乎与原始模型持平，多轮长上下文检索表现基本处于同一水平，数学能力仅有小幅回落，整体都在可接受范围内，日常的编码辅助、工具调用、长文档处理和常规问答场景均可覆盖。 Hy4 preview是混元最新一代模型，参数规模达7700亿，支持百万级token上下文，已开源并接入腾讯多款产品。