今年以来，人工智能大语言模型应用取得突破进展，掀起新一波人工智能变革浪潮。为积极应对大模型安全带来的挑战，近日，由CCF大数据与计算智能大赛 (CCF BDCI)组委会、大数据协同安全技术国家工程研究中心联合360集团共同主办的2023 CCF BDCI 数字安全公开赛正式启动，并率先开启大模型安全赛道，面向全球发出赛题合作邀请。
如今，人工智能大模型发展已成为当前科技领域最为重要的突破之一，引发了全球科技力量的比拼追赶。然而，伴随着大语言模型在各数字领域的迅速普及和广泛应用，也衍生出一系列安全风险。此前，360对OpenAI、微软、谷歌等厂商的大模型开展安全风险评估显示，主流大模型均存在提示注入攻击等风险，可生成恶意代码、钓鱼邮件，漏洞利用程序等，存在安全隐患，并累计发现主流AI框架漏洞超过200个，影响超过40亿终端设备。
为积极应对大模型安全带来的挑战，2023数字安全公开赛将全面聚焦大模型安全，率先开启大模型安全赛道。本届大赛除了延续揭榜挂帅、众研众创的创新协作模式外，将突破传统的单一算法赛道，针对大模型安全的技术特点，拓展赛道类型和玩法，设置“人工智能大模型安全应用创新赛道（用大模型做安全）”和“人工智能大模型安全攻防赛道（让大模型更安全）”两大赛道，均属国内首创。
据了解，CCF BDCI数字安全公开赛自2021年开始举办，聚焦数字安全领域的算法需求，致力于推动产学研协同创新和成果转化，促进数据要素合规开放共享，打造数字安全人才培养、实践、选拔的平台。
本次2023数字安全公开赛计划将于8月中旬开赛，大赛产生的开放数据集、开放算法、解决方案、顶级专家与战队等都将沉淀在科技部指导的“安全大脑国家新一代人工智能开放创新平台”上。大赛组委会表示，即日起至2023年8月4日，主办方将面向全球发出赛题合作邀请，希望同全社会共同探索大模型安全业务难题，推进新型政产学研金创新合作，共同助力我国大模型实现安全可控发展。
