2025首届AI安全全球挑战赛是由阿里巴巴集团、阿里云联合发起。比赛面向全球招募参赛选手，赛道覆盖基础大模型越狱风险高阶对抗、大模型赋能传统应用时的新型攻击面探索、大模型安全防御产品绕过等多个前沿技术领域，不论你是AI领域专家，还是安全行业大拿，亦或是AI和安全爱好者，都能找到适合自己的挑战目标。

本赛道聚焦大语言模型在推理过程中的安全风险，引入推理模型「思维链（Chain-of-Thought）」攻防机制，并提供足够透明的多种防御机制的安全评估入口。攻击方可以利用提示注入、逻辑混淆、上下文污染等手段，干扰模型中间推理步骤，诱导其生成看似合理但暗藏漏洞的推导路径。防守方需要识别并阻断异常推理流（如矛盾逻辑、非因果关联），同时提供可解释的防御依据，确保推理过程可控、可审计。 参赛选手可在初赛通过设计逻辑攻击的方式突破重围，并在复赛通过构建防御策略来和其他选手的攻击手法对抗，展开一场关于“推理路径安全”的前沿技术较量。

本赛道面向阿里集团范围内所有集成大模型技术的线上业务系统，聚焦于大模型在赋能传统业务应用过程中可能引发的新型安全风险，尤其是其衍生功能、插件及外部工具所带来的安全隐患。通过本次竞赛，旨在前置识别潜在威胁场景，系统评估模型应用安全边界，提升整体安全防护能力，切实保障阿里业务系统的稳健运行与用户数据的安全可控。 参赛选手通过挖掘线上业务的漏洞，获得对应的积分和奖励，并按积分排名。

本赛道聚焦AI应用在真实环境中的安全挑战，全面检验“AI安全护栏产品”在多场景下的防护效果。通过三个仿真靶场（智能问答助手、代码开发助手、AI Agent平台），模拟当前最具代表性的AI风险问题，包括提示词攻击、SQL/XSS注入、恶意代码执行与MCP供应链攻击等。 参赛白帽子需绕过防护机制获取敏感数据或执行命令，提交绕过报告并积分排名。通过真实的攻防对抗，选手的每一次得分，都将沉淀为宝贵经验，塑造AI安全产品的未来。