华为云

岗位职责：1、Agent 攻防红队： 针对智能体系统进行“提示词攻击”测试（如直接/间接提示词注入、越权提权），挖掘 Agent 在自主决策路径上的漏洞； 2、工具调用安全（Tool/Plugin Security）： 评估并设计 Agent 调用外部接口（API、数据库、Shell）时的安全校验机制，防止非法指令执行； 3、RAG 与隐私保护： 负责检索增强生成（RAG）过程中的数据权限控制，确保 Agent 在多租户、多角色环境下不发生敏感信息越权泄露； 4、防御组件研发： 开发与维护 AI 护栏（Guardrails）系统，对模型输入输出进行实时扫描、敏感词过滤及有害意图拦截； 5、业务风险建模： 针对特定业务场景（如 AI 助手、自动化办公）进行威胁建模，制定 Agent 行为的安全基线。 任职要求：编程基础： 熟练掌握 Python，熟悉 LangChain、LlamaIndex 或类似的 Agent 开发框架。 AI 视野： 深入理解 LLM 的推理机制及 RAG 架构，熟悉 OWASP Top 10 for LLM 风险分类。 安全背景： 熟悉常见的 Web 安全漏洞（如 SSRF、注入、权限逻辑漏洞），并能理解其在 AI 场景下的演变。 加分项： 有过对主流 AI 应用（如 GPTs、大模型插件）的实战漏洞挖掘经验；熟悉差分隐私或脱敏算法。