腾讯混元优化Hy4 preview 降低复杂任务Token消耗
腾讯混元与WorkBuddy联合团队对Hy4 preview模型进行专项优化并全量上线,在不损失任务效果的前提下显著降低任务轮次及输入输出Token消耗。该模型总参数770B,激活参数49B,上下文长度1M,此次优化针对长思考、过度自我验证等问题展开。
腾讯混元与WorkBuddy联合团队今日宣布,针对Hy4 preview模型在复杂任务场景中存在的长思考与过度自我验证问题,已完成专项优化并实现全量上线。此次升级通过Bench指标与人工评测的双重监控体系,在确保任务效果不出现衰减的前提下,有效压缩了任务执行轮次及输入输出侧的Token开销。
作为腾讯近期在开源大模型领域的重要布局,Hy4 preview于8月28日首次亮相,其技术规格在发布时便引发行业关注——总参数规模达到770B,激活参数为49B,上下文窗口长度拓展至1M。官方此前表示,该模型在尺寸、上下文长度及数据规模上均进行了显著扩展,预训练与后训练环节的共同优化推动了智能水平的整体跃升。
从实际应用角度看,任务轮次的减少直接关系到推理链路的精简,而Token消耗的下降则意味着单位请求的算力成本得到控制。对于依赖长文本处理或复杂多步推理的企业级用户而言,这一改进有望降低单次任务的资源占用,提升响应效率。联合团队强调,优化过程始终以任务效果为底线,所有调整均在Bench基准测试与人工评估的双重验证下完成。
值得注意的是,此次优化并未改变Hy4 preview原有的模型架构与参数配置,而是聚焦于推理策略与验证机制的调优。这种软件层面的敏捷迭代方式,反映出腾讯混元团队在模型上线后持续响应实际反馈的工程能力。目前,优化后的版本已向全量用户开放,开发者可立即体验更新后的任务处理表现。
从行业视角观察,大模型在追求参数规模与上下文长度的同时,推理效率正成为下一阶段的竞争焦点。Hy4 preview的此次调整,为同类开源模型如何在复杂任务中平衡效果与成本提供了可参考的实践样本。后续该模型是否会在更多场景中延续此类优化路径,值得持续关注。