杭州全诊医学科技有限公司
岗位信息
招聘岗位
AI算法工程师
工作城市
浙江省杭州
学历要求
本科
💰 薪资参考
5000-10000
是否笔试
未明确
招聘批次
校招
截止日期
未公布(以企业官网为准)
发布日期
2026-10-09
📋 岗位职责 / 任职要求
【岗位职责】
岗位职责
1. 负责大模型在私有化环境中的部署、适配、性能优化和稳定运行。
2. 根据不同算力卡、不同模型和业务场景,制定模型部署、资源配置和性能优化方案。
3. 结合业务量进行算力评估,包括日请求量、日生成 token 量、输入/输出 token 长度、并发量、响应时间等,判断模型和算力资源是否能够支撑业务运行。
4. 负责生成式模型、Embedding 模型、Rerank 模型、ASR 模型、OCR模型等服务的部署、压测和优化。
5. 基于 vLLM、TensorRT-LLM、SGLang、MindIE、Triton 等推理框架,完成模型服务化部署和性能调优。
6. 建立模型性能评估体系,输出显存占用、KV Cache、并发能力、吞吐量、响应时间、日处理能力等关键指标。
7. 解决私有化部署过程中的性能和稳定性问题,包括显存不足、推理速度慢、并发不足、资源利用率低等。
8. 沉淀标准化部署方案、压测方法、性能基线和问题排查流程,支撑后续项目交付。
#任职要求
1. 本科及以上学历,计算机、软件工程、人工智能等相关专业优先。
2. 具备大模型部署、推理优化或 AI Infra 相关经验。
3. 熟悉 Linux、Docker、Python、Shell,具备较强的工程实现能力。
4. 熟悉至少一种大模型推理框架,如 vLLM、TensorRT-LLM、SGLang、MindIE、Triton、LMDeploy 等。
5. 理解大模型推理机制,熟悉 KV Cache、Batching、并发、上下文长度、显存占用、吞吐量等概念。
6. 具备算力容量评估能力,能够根据 token 量、并发量、响应时间、日生成量等指标,评估模型和硬件资源是否满足业务要求。
7. 熟悉 NVIDIA GPU 、昇腾 NPU 等算力平台,有实际部署和调优经验。
8. 具备性能压测、日志分析和问题排查能力,能够独立定位和解决部署过程中的性能问题。
加分项
1. 有大模型私有化部署项目经验。
2. 有 NVIDIA H20、H100、H200、A800 或昇腾系列硬件平台使用经验。
3. 有模型量化、投机采样、长上下文优化、多模型共卡部署经验。
4. 有医疗、政企、金融等行业私有化交付经验。
## 岗位说明
该岗位需要从 0 到 1 建立公司内部大模型私有化部署、推理优化和算力评估体系,支撑不同客户、不同硬件、不同模型场景下的稳定交付。
【单位介绍】
全诊通致力于为医疗机构提供无限的专业医疗AI智能体,帮临床医生显著减负提效,涵盖智能病历、AI随访和决策辅助功能;为患者提供7*24小时一对一服务,包括AI导诊、AI咨询、数字人、AI诊后服务。还可为医疗机构提供“基础-模型-应用”一站式解决方案,自主研发的全诊大模型具备强推理、高精度、多模态特性,支持云服务和本地化私有部署。全诊大模型训推平台可支持构建医疗专业大模型完整工具链。
截至2025年底,全诊自主研发的大模型AI服务平台及产品已累计服务100+医院、1.6万+医生。在全诊通平台,AI平均每天可帮助医生生成10万+份智能病历、10万+条辅助决策,每天可提供15万+人次患者服务 。
投递方式
投递入口需登录后查看,登录 / 注册 即可使用🏢 该企业正在招聘的其他岗位
校招宝当前收录 杭州全诊医学科技有限公司 在招校招岗位 12 条,工作地点覆盖 浙江省杭州,学历要求含 本科、不限。以下为最近发布的部分岗位,可一并比较投递。
查看 杭州全诊医学科技有限公司 全部在招岗位与笔面经 ›
ℹ️ 信息来源
本条招聘信息由校招宝转载自 高校就业信息网,版权归原发布方所有,校招宝仅作信息聚合与导航。
该来源未提供原文链接
招聘信息以官方原文为准,投递前请核实截止日期与要求。如涉侵权或信息有误,请邮件联系 kknee@qq.com,我们将在 24 小时内处理。