2025首届AI安全全球挑战赛是由阿里巴巴集团、阿里云联合发起。比赛面向全球招募参赛选手,赛道覆盖基础大模型越狱风险高阶对抗、大模型赋能传统应用时的新型攻击面探索、大模型安全防御产品绕过等多个前沿技术领域,不论你是AI领域专家,还是安全行业大拿,亦或是AI和安全爱好者,都能找到适合自己的挑战目标。
百万奖金池
单赛道最高奖金10万元,不同赛道奖金可叠加
多赛道齐发
基模越狱、AI应用渗透、AI安全产品绕过
本赛道聚焦大语言模型在推理过程中的安全风险,引入推理模型「思维链(Chain-of-Thought)」攻防机制,并提供足够透明的多种防御机制的安全评估入口。攻击方可以利用提示注入、逻辑混淆、上下文污染等手段,干扰模型中间推理步骤,诱导其生成看似合理但暗藏漏洞的推导路径。防守方需要识别并阻断异常推理流(如矛盾逻辑、非因果关联),同时提供可解释的防御依据,确保推理过程可控、可审计。 参赛选手可在初赛通过设计逻辑攻击的方式突破重围,并在复赛通过构建防御策略来和其他选手的攻击手法对抗,展开一场关于“推理路径安全”的前沿技术较量。
本赛道面向阿里集团范围内所有集成大模型技术的线上业务系统,聚焦于大模型在赋能传统业务应用过程中可能引发的新型安全风险,尤其是其衍生功能、插件及外部工具所带来的安全隐患。通过本次竞赛,旨在前置识别潜在威胁场景,系统评估模型应用安全边界,提升整体安全防护能力,切实保障阿里业务系统的稳健运行与用户数据的安全可控。 参赛选手通过挖掘线上业务的漏洞,获得对应的积分和奖励,并按积分排名。
本赛道聚焦AI应用在真实环境中的安全挑战,全面检验“AI安全护栏产品”在多场景下的防护效果。通过三个仿真靶场(智能问答助手、代码开发助手、AI Agent平台),模拟当前最具代表性的AI风险问题,包括提示词攻击、SQL/XSS注入、恶意代码执行与MCP供应链攻击等。 参赛白帽子需绕过防护机制获取敏感数据或执行命令,提交绕过报告并积分排名。通过真实的攻防对抗,选手的每一次得分,都将沉淀为宝贵经验,塑造AI安全产品的未来。
如果您有任何建议或投诉,请发邮件至security@service.alibaba.com联系我们。
如果您有任何建议或投诉,请发邮件至security@service.alibaba.com联系我们。
我们将竭尽全力为您解答,感谢您的关注与支持!
我们将竭尽全力为您解答,感谢您的关注与支持!
1. 本次比赛所有现金奖励均为税前金额;
1. 本次比赛所有现金奖励均为税前金额;
2. 请勿对比赛平台、工作人员做任何形式的攻防测试,若偶然发现平台Bug或漏洞,请第一时间联系钉钉群内工作人员;
2. 请勿对比赛平台、工作人员做任何形式的攻防测试,若偶然发现平台Bug或漏洞,请第一时间联系钉钉群内工作人员;
3. 禁止一切可能扰乱比赛公平的行为,比赛组织方也会通过技术手段监测和避免此类问题,一经发现将取消相关账号的比赛排名和奖励,造成重大影响的,可能涉及法律责任:
3. 禁止一切可能扰乱比赛公平的行为,比赛组织方也会通过技术手段监测和避免此类问题,一经发现将取消相关账号的比赛排名和奖励,造成重大影响的,可能涉及法律责任:
a. 禁止注册小号刷排名;
a. 禁止注册小号刷排名;
b. 请勿多人使用同一账号比赛;
b. 请勿多人使用同一账号比赛;
c. 比赛期间,参赛者关于赛道一的思路交流与分享,须限定于主办方指定的形式和渠道(具体进赛事钉群了解)。未经主办方授权,不得擅自通过其他渠道传播或讨论相关内容;
c. 比赛期间,参赛者关于赛道一的思路交流与分享,须限定于主办方指定的形式和渠道(具体进赛事钉群了解)。未经主办方授权,不得擅自通过其他渠道传播或讨论相关内容;
d. 禁止在任何时间向第三方分享赛道二任何漏洞相关信息;
d. 禁止在任何时间向第三方分享赛道二任何漏洞相关信息;
e. 禁止在比赛期间及比赛结束后三个月内私下或公开分享赛道三的解题思路等信息,比赛结束三个月后,选手可将报告用作个人技术分享等,但请勿用做商业用途及违法行为;
e. 禁止在比赛期间及比赛结束后三个月内私下或公开分享赛道三的解题思路等信息,比赛结束三个月后,选手可将报告用作个人技术分享等,但请勿用做商业用途及违法行为;
4. 大赛面向全社会开放,个人、高等院校、科研单位、企业、创客团队等人员均可报名参赛;
4. 大赛面向全社会开放,个人、高等院校、科研单位、企业、创客团队等人员均可报名参赛;