杭州华为企业通信技术有限公司

岗位职责：方向 1‑训推系统 1. 在昇腾平台开展大模型训推端到端性能优化，针对 Transformer、MoE、多模态模型做性能分析，优化训练吞吐、推理时延与硬件利用率，支撑千亿大模型训练与规模化部署。 2. 建设 Prefill/Decode、KV Cache 管理、连续批处理、动态调度、低时延高吞吐推理、量化低精度推理等推理核心能力。 3. 研发分布式并行策略与集合通信优化，包含数据 / 张量 / 流水 / 专家并行、通信计算重叠，推动 MoE、KV Offload、超节点通信技术落地。 方向 2‑算子技术 1. 完成 MatMul、Attention、MoE、RMSNorm、RoPE、KV Cache、量化算子等大模型核心算子开发与调优；基于昇腾芯片做 Tiling、访存、计算流水、算子融合、自动调优，构建高性能算子能力。 2. 迭代算子编程模型与算子框架，提升算子开发易用性，保障大模型计算模块高性能运行。 方向 3‑通用软件 1. 建设大模型训推软件栈，负责图编译优化、Runtime 调度、内存管理、算子框架、模型迁移、性能分析工具，打通模型‑框架‑编译器‑Runtime‑硬件全链路。 2. 开发 CANN 生态工具链，覆盖算子调试调优、量化压缩、推理加速、性能分析、故障诊断等开发者工具与工程化能力。 方向 4‑AI 系统应用 1. 基于工作流编排、RAG、向量检索、工具调用、多 Agent 协同构建昇腾生态智能 Agent 应用。 2. 实现性能预估、代码评估、问题定位、优化建议生成，构建领域知识库，提升 AI Infra 研发、调优、排障效率。 任职要求：训推系统方向：熟练 C++/Python，对大模型训推系统、分布式训练、高性能计算、系统优化感兴趣。 算子技术方向：熟练 C++，了解计算机体系结构、并行计算、编译优化；有 CUDA/Triton/CANN 算子优化经验优先。 通用软件方向：熟练 C++/Python，对系统软件、编译器、Runtime、性能分析、工程平台建设感兴趣。 AI 系统应用方向：熟练 Python，熟悉 Agent、RAG、工具调用、模型评测、AI 工程化落地。