昕原半导体（上海）有限公司

岗位职责 1.自研芯片推理性能优化与瓶颈分析。负责基于自研芯片的大模型推理部署系统性能模拟与分析，精准定位计算、访存、通信及软硬件协同瓶颈，提出系统级的性能优化与软硬件协同设计方案。 2.LLM集群推理仿真模拟器研发。参与构建和优化大规模LLM集群推理部署仿真模拟器，针对不同并行策略（TP/PP/DP/EP/SP）、硬件拓扑及流量负载进行全链路仿真，为集群架构设计和部署策略提供数据支撑。 3.前沿模型与算子深度调研分析。持续跟踪学术界与工业界最新大模型算法架构与核心算子（如Attention变体、MoE等），深度量化分析新技术的参数量、计算量（FLOPs）、访存量（Memory Bound/Compute Bound）及精度敏感度（如FP8/INT4量化、KV Cache压缩等），输出专业的前沿技术与系统需求分析报告。 4.前沿推理框架与优化技术预研。跟踪并实践业界主流推理框架（如vLLM、TensorRT-LLM、TGI、SGLang等）及其前沿推理优化技术（如PD分离、Continuous Batching、Speculative Decoding、Chunked Prefill等），探索并推动新技术在自研平台上的适配与落地。 任职要求 1.计算机、电子工程、软件工程、人工智能、自动化等相关专业，硕士及以上学历。 2.熟练掌握 C/C++ 和 Python 编程，具备扎实的计算机体系结构、并行计算、操作系统及数据结构基础； 3.深入理解 Transformer 及主流 LLM 架构原理，了解常见的大模型推理优化技术（如算子融合、量化、FlashAttention、PagedAttention等）； 4.熟悉 Roofline 性能模型，对系统级性能分析工具（如 Nsight System/Compute、Perf 等）有一定了解； 5.了解主流推理框架（vLLM、TensorRT-LLM、FasterTransformer 等）的实现机制。 6.具备较强的自驱力、快速学习能力和解决复杂技术难题的热情； 7.具备优秀的逻辑思维、数据分析能力和良好的中英文文献调研阅读能力。