壁仞科技

岗位概述 面向 2027 届应届毕业生，加入 AI 安全团队，参与大模型及应用全链路安全体系建设。你将聚焦 AI 模型安全攻防研究、模型对抗鲁棒性评估、AI 应用安全合规等前沿方向，和团队一起构建覆盖训练-部署-推理-应用全生命周期的安全防护能力。 主要职责 1.大模型安全攻防研究 ●研究针对 LLM/多模态模型的越狱攻击、提示注入攻击、对抗样本等攻击手法，复现与评估前沿攻击技术 ●参与构建自动化安全评测平台和红队对抗框架，对内部大模型进行持续安全测试 ●跟踪学术界安全攻防论文与业界红队实践，将前沿技术转化为可落地的安全测试方法 2.模型鲁棒性与安全评估 ●设计并实施模型安全评测方案，覆盖有害内容生成、价值观对齐、隐私泄露、幻觉等维度 ●对模型训练数据进行安全审查，发现数据投毒、后门植入等供应链安全风险 ●输出量化的安全评估报告，提出可执行的加固建议 3.AI 应用安全防护 ●参与构建 AI 应用的输入过滤、输出审核、内容安全网关等防护体系 ●研究并实施 Prompt 防护、 Retrieval 安全、Agent 工具调用安全等应用层防护方案 ●对 AI 产品进行安全威胁建模，参与安全需求评审与安全测试 4.安全合规与标准建设 ●跟踪国内外 AI 安全法规与行业标准（如生成式 AI 安全基本要求、NIST AI RMF、EU AI Act），参与合规安全评估 ●协助完善 AI 安全开发规范（SDL for AI），推动安全要求嵌入研发流程 ●有AI原生的思维和意识，敢于挑战和尝试新技术，敢于提问题 任职要求 学历 ●本科及以上，计算机科学、人工智能、网络空间安全、数学、电子工程等相关专业（985高校研究生优先） 技能 ●编程基础扎实：熟练掌握 Python，了解 C/C++ 或 Go；能够独立完成原型开发与实验验证 ●AI 技术基础：理解深度学习基本原理，熟悉至少一个主流框架（PyTorch/TensorFlow/JAX）；了解 Transformer/LLM 基本架构 ●安全基础：了解 Web 安全、网络安全基本知识；对 AI 安全攻防有基本认知（对抗样本、数据投毒、提示注入等） ●加分项： ●有 LLM 微调/推理/RAG/Agent 开发经验 ●参与过 AI 安全相关竞赛（如 CTF 中 AI 安全赛道、各类大模型攻防赛）或有安全漏洞挖掘/论文发表经历 ●熟悉模型水印、差分隐私、联邦学习等隐私保护技术 ●了解国内外 AI 安全法规和合规框架 素质 ●对 AI 安全有强烈兴趣和持续学习的驱动力 ●善于发现问题、提出方案，具备独立研究和技术探索能力 ●良好的团队协作与沟通能力