9月6日上昼，在2024Inclusion·外滩大会“以AI看护AI 大模子期间的攻守之谈”论坛上，国内首个大模子攻防主题的科技赛事—“全国AI攻防挑战赛”文书厚爱运转。该赛事聚焦AI大模子产业推论，瞎想了攻、防双向赛谈，邀请各路白帽黑客、技巧东谈主才辞别进行针对文生图大模子“数据投毒”的攻防实战演练，以及金融场景大模子生成内容的防伪检测竞赛，角逐百万元科技奖金。
庭院里的女人本次大赛由中国图象图形学学会、蚂逼近团、云安全定约(CSA)大中华区皆集主理，庸俗皆集清华大学、上海交通大学、浙江大学等C9高校及多家产学研组织共同发起，上海东谈主工智能推行室四肢技正巧作单元。大赛旨在通过技巧竞赛的体式，凝合学界、行业力量，直面并惩处大模子应用中祛除的风险，助力全国AI产业健康可捏续发展。
中国工程院院士、中国图象图形学学会理事长王耀南在赛事运转要领暗示，大模子期间，怎么确保AI系统的安全可控、怎么灵验交代供应链中的潜在风险，成为亟待惩处的伏击问题。图像图形技巧四肢新一代信息技巧边界的关节技巧，在大模子等多场景翻新应用，推进图像识别与安全技巧翻新发展。这次AI攻防挑战赛，是中国图象图形学学会联袂蚂逼近团等业界知名企业、机构，聚焦大模子AIGC赛谈共同打造的全国性技巧盛宴，从东谈主脸验真到生成式内容检测，期待挖掘出更多翻新决议，更进一步保险大模子应用安全和产业安全。
大赛配置了“报复”与“贯注”两大赛谈，辞别聚焦大模子本人安全和大模子生成内容的防伪检测及大模子亏空风险检测，涵盖机器学习、图像处理与规划机视觉、数据处理等多个算法边界的考点。
其中，“报复赛谈”聚焦于文生图大模子的本色应用风险问题。参赛选手可通过主义劫捏、状况带入、逻辑嵌套等各样化的动态报复引导技巧，诱发大模子输出风险图像，以此激活大模子的潜在缺欠和罅隙，增强大模子生图的安全免疫才智。“贯注赛谈”则聚焦于AI核身中的金融场景证实点窜检测，以交代日益严峻的Deepfake深度伪造及AIGC假证风险。大赛提供百万级证实点窜数据考试集，参赛选手需要研发和考试模子，并愚弄对应的测试集评估模子灵验性，给出数据伪造概率值。
为保证大赛公道公正，同期更好地指挥选手，大赛评委团由多位学术界与工业界群众共同构成。中国工程院院士、中国图象图形学学会理事长王耀南，云安适约(CSA)大中华区主席李雨航担任本次大赛的指挥委员会群众，来自清华大学、上海交通大学、上海东谈主工智能推行室、中国图象图形学学会等单元的近30位知名学者将参与大赛的组织及评审责任。
本次大赛于9月6日厚爱运转报名，11月初完成赛事评审。即日起，选手可通过中国图象图形学学会官网、阿里云天池大数据众智平台官网等渠谈报名。大赛全程设有近100万元奖金池，用以采选及犒赏边界内的优秀东谈主才。