腾讯

课题背景：课题背景 随着MoE模型规模增长和Agent应用发展，推理服务面临更大的资源开销。专家权重与KV Cache带来显存和带宽压力，长思维链、多轮交互与工具调用进一步增加生成和执行成本。低精度量化、专家剪枝与投机推理为优化提供了空间，但压缩后的精度损失、复杂任务中的能力保持，以及训练与部署条件之间的差异，仍是规模化服务需要解决的问题。 本课题面向腾讯云MaaS服务，围绕模型压缩、推理过程优化和多模型服务开展研究。结合训练目标、优化方法与数据选择，探索精度恢复、思维链(CoT)压缩及面向模型路由的训练方法；同时开展草稿模型训练与投机推理研究。通过代码、数学和工具调用等任务验证，在保持模型效果的同时降低显存占用、响应时延和服务成本。 课题挑战 1. 高压缩率下的精度恢复：量化和剪枝会改变模型的数值计算与专家路由，不同任务的精度损失也不相同；恢复训练在少数数据集上有效，不代表长上下文和长尾能力都能保持。需要结合压缩配置设计训练目标和数据配比，将部署时的精度与计算方式纳入训练，减少训推差异，并控制精度恢复所需的训练成本。 2. CoT压缩与推理能力保持：缩短思维链可能减少重复推导，也可能删去必要步骤；相同的长度限制，对不同难度任务的影响并不一致。如何通过样本选择、监督微调或强化学习，兼顾答案正确性与推理开销，并避免模型学会提前作答而非高效推理，是需要解决的问题。 3. 大小模型训练与路由泛化：模型路由既需要训练出能稳定承担相应任务的小模型，也需要判断不同请求适合哪个模型。参数规模和平均榜单分数难以直接支持逐请求决策，模型更新还会改变适用范围。需要研究面向任务的模型训练、能力评估与路由策略学习，在满足质量要求的同时控制调用成本和误选风险。 4. 投机推理的接受率与计算开销：更复杂的草稿模型可能提高接受率，却也增加生成开销；离线接受率提升并不直接代表并发服务的吞吐提升。需要在目标模型固定的条件下，研究草稿模型训练、规模选择与验证配置，采用分布保持的验证机制，兼顾接受率与端到端生成效率。 5. 数据选择与任务评测的可靠性：校准、后训练和评测数据分别服务于配置选择、能力恢复与效果验证，所需的任务覆盖和样本难度并不相同。如何根据训练与评测结果调整数据配比，且不使优化过度适应某一类样本，是数据研究的重点。

课题要求：1、计算机、人工智能、数学、信息工程等相关专业的博士及优秀硕士，具有扎实的机器学习、概率统计和优化基础； 2、具有LLM训练研究或实践经验，熟悉预训练、监督微调（SFT）或强化学习中的至少一个方向，能够理解训练目标与优化算法，并设计实验验证改进方法； 3、熟悉Transformer或MoE模型，熟练使用Python、PyTorch，能够独立完成数据处理、训练代码实现与调试，具备分析损失异常、梯度异常和模型效果退化的能力； 4、对训练数据有较好的分析判断能力，能够从样本质量、任务分布和数据配比分析模型表现，结合训练曲线与评测结果提出并验证改进方案； 5、在机器学习、自然语言处理或大模型方向有高水平论文、深入项目实践或开源贡献者优先；有Megatron、DeepSpeed、verl等训练框架实践经验，或有分布式训练、训练稳定性优化经验者优先； 6、具有好奇心和自驱力，编程能力扎实，能够阅读和复现前沿研究，具备良好的沟通协作能力。