杭州群核信息技术有限公司

【岗位职责】 1、针对扩散模型（如图像生成、视频生成、3D生成）的高性能推理引擎，支持多步采样、动态分辨率、多种调度算法等特性； 2、借鉴PagedAttention等思想，优化扩散模型中的KV Cache（或中间状态）管理，减少显存碎片和冗余存储。探索步数压缩（如LCM/LoRA）、模型剪枝等技术与推理的协同设计； 3、应用INT8/FP8/INT4等量化技术，在最小化画质损失前提下大幅提升推理速度； 4、基于K8S构建弹性的推理服务集群，实现动态批处理、自动扩缩容，提升GPU平均利用率。设计优雅的请求排队和负载均衡策略； 5、跟踪业界最新的推理加速技术，评估并引入新技术以持续优化生产环境成本结构和性能天花板。 【任职要求】 1、精通Python和C ，具备优秀的代码优化和工程实现能力； 2、深入理解推理的全流程，熟悉常见优化技术。有丰富的ONNX/TensorRT/vLLM/TGI等推理引擎使用或二次开发经验； 3、对扩散模型的原理（前向/反向过程、去噪网络结构）有清晰认识，熟悉HuggingFace Diffusers库，并了解其性能瓶颈所在； 4、熟悉Docker/K8S等云原生技术，有模型服务的部署和调优经验，理解服务化指标（延迟、吞吐、SLO）。 【福利待遇】 1.月度餐贴； 2.弹性工时； 3.年度体检； 4.全员outing； 5.不定期团建等福利。 【职业发展】 在我们公司，您的职业成长拥有清晰的双通道（管理/专业）和七大发展阶段。 我们为您配备专业的学院制培训体系与多元激励（如期权、精英俱乐部等），旨在为每一位潜力人才提供全方位的资源支持，助您持续进阶，实现个人与公司的共同飞跃。 在这里，您的未来有无限可能。 【其他信息】 职位类别：计算机/互联网/通信/电子 招聘人数：5人 专业要求：计算机科学技术 / 计算机技术 / 计算机系统结构 / 计算机软件与理论 / 计算机软件与理论 / 计算机技术 / 计算机科学与技术 / 计算机科学与技术(软件开发与应用) 联系方式：槐北 193****3226 公司地址：杭州市拱墅区余杭塘路515号矩阵国际