华为云

岗位职责 【AI应用安全】 1、Agent 攻防红队： 针对智能体系统进行“提示词攻击”测试（如直接/间接提示词注入、越权提权），挖掘 Agent 在自主决策路径上的漏洞。 2、工具调用安全（Tool/Plugin Security）： 评估并设计 Agent 调用外部接口（API、数据库、Shell）时的安全校验机制，防止非法指令执行。 3、RAG 与隐私保护： 负责检索增强生成（RAG）过程中的数据权限控制，确保 Agent 在多租户、多角色环境下不发生敏感信息越权泄露。 4、防御组件研发： 开发与维护 AI 护栏（Guardrails）系统，对模型输入输出进行实时扫描、敏感词过滤及有害意图拦截。 5、业务风险建模： 针对特定业务场景（如 AI 助手、自动化办公）进行威胁建模，制定 Agent 行为的安全基线。 【AI模型与Infra安全】 1、模型鲁棒性与对齐： 评估大模型在面对对抗性样本（Adversarial Examples）时的稳定性，通过微调或对齐技术提升模型抗干扰能力。 2、训练数据安全： 负责数据采集与预处理阶段的“投毒（Poisoning）”检测，防止攻击者在训练集中埋下后门或恶意逻辑。 3、模型资产保护： 设计模型权重（Weights）的加密存储与访问控制方案，防止模型被盗取、非法反向工程或被恶意提取参数。 4、Infra 与算力平台安全： 负责 AI 集群（K8s/容器）的安全加固，监控分布式训练环境下的横向移动风险，防止算力被盗用。 5、供应链安全： 建立 AI 开源组件与预训练模型文件的安全扫描体系，防止加载包含恶意脚本的模型文件（如 Pickle 反序列化漏洞）。 岗位要求 【AI应用安全】 1、编程基础： 熟练掌握 Python，熟悉 LangChain、LlamaIndex 或类似的 Agent 开发框架。 2、AI 视野： 深入理解 LLM 的推理机制及 RAG 架构，熟悉 OWASP Top 10 for LLM 风险分类。 3、安全背景： 熟悉常见的 Web 安全漏洞（如 SSRF、注入、权限逻辑漏洞），并能理解其在 AI 场景下的演变。 4、加分项： 有过对主流 AI 应用（如 GPTs、大模型插件）的实战漏洞挖掘经验；熟悉差分隐私或脱敏算法。 【AI模型与Infra安全】 1、 熟练掌握 Python/C++，深入理解 PyTorch 或 TensorFlow 的底层机制。 2、 熟悉 Linux 系统安全、容器化技术（Docker/K8s）及云原生安全架构。 3、具备较强的数学基础，了解对抗生成网络（GAN）、对抗攻击算法（如 FGSM, PGD）或联邦学习。 4、加分项： 熟悉可信计算（TEE/SGX）在 AI 领域的应用；在 AI 安全相关顶会（如 USENIX, CCS, NeurIPS 等）有研究成果。