一、团队与使命 我们是一家国产AI芯片公司的核心推理引擎团队，负责从算子到服务全栈的大模型推理优化。面向2027，我们的核心目标是： 开源引领：主导vLLM、SGLang等顶级开源框架的国产芯片适配与核心特性开发 Day0就绪：在DeepSeek/Qwen等SOTA模型发布当天完成极致性能优化 生态建设：打造易用、灵活、可扩展的推理SDK，赋能全球开发者 你将与顶尖工程师一起，直面千亿参数大模型、无限上下文、多模态融合的硬核挑战。 二、岗位职责 1. 推理引擎核心研发 • 参与vLLM、SGLang等开源推理框架的定制开发，包括调度器、KV Cache管理、显存优化等 • 参与高性能算子实现与优化，深入理解Transformer/MoE/MLA等模型在芯片上的运行 2.SOTA模型快速适配 • 建设自动化模型接入流水线，确保新模型发布当天完成国产芯片适配与性能验证 • 负责模型精度验证、性能基准测试与瓶颈定位 3.开源社区贡献 • 向开源项目提交代码（从Bugfix到新特性），逐步成长为社区Contributor • 跟踪前沿技术（FlashAttention-3、FP8推理、推测解码等）并落地实践 4.性能优化实战 • 运用量化、Continuous Batching、PD分离等技术在真实场景中实现推理加速 • 结合国产芯片架构特性进行算子级调优 开发者生态建设 参与推理SDK设计与开发，编写高质量文档和示例代码，服务全球开发者 三、任职要求 ★ 必备基础 • 2027届本科/硕士/博士，计算机、AI、软件工程、电子等相关专业 • 扎实的数据结构与算法、操作系统（内存管理、并发、I/O）、计算机体系结构基础 • 熟练掌握C++ 和Python，编码习惯良好 • 了解深度学习基础（PyTorch使用、Transformer基本原理） • 对LLM/VLM等大模型有基本认知，关注AI前沿 • 良好的英文文献阅读能力，自驱力强，善于独立解决问题 ★ 加分项（非必需，但会让你更闪光） • 有GitHub开源项目贡献（哪怕小PR）或个人技术博客 • 使用过vLLM、SGLang、TensorRT-LLM等推理框架 • 了解CUDA/OpenCL或国产芯片编程 • 有模型量化、剪枝、蒸馏等优化实践 • 有ACM、超算、AI竞赛获奖或相关论文发表 我们更看重你的潜力和热情，而非已有经验。 工作地点：北京 / 上海 / 成都（任选）