【岗位职责】 1. 使用 PyTorch 开发与维护推理引擎。 2. 面向实际模型与实际硬件平台部署模型推理服务。 3. 面向实际模型与实际硬件平台对服务进行端到端性能优化。 【任职要求】 任职要求： 1. 计算机科学或相关专业。 2. 具有良好的学习能力和团队合作精神。 3. 掌握 Python、C++、C 等编程语言，有良好的编程能力。 4. 熟悉 PyTorch 框架。 5. 了解大模型的完整推理流程，熟悉不同情形下模型推理的计算、访存、通信行为。 6. 了解大模型分布式推理原理、调度原理、量化原理、国内外最新大模型发展者，或具备相关优化经历者优先。