所在位置: 前沿科技首页 > 最新文章 > 人工智能  > 正文

校企联手打造全球顶尖AI安全赛事 邀“挑战者”模拟攻击人工智能

2020-09-27 13:35:39 来源: 经济日报-中国经济网 作者:

自动驾驶汽车突然无法识别前方障碍物?可能是人工智能系统已被黑客攻击。近日,第七届国家网络安全周刚刚闭幕,全球首个针对目标检测算法的对抗攻击竞赛也落下帷幕,这项全球顶尖AI安全赛事是清华大学联合阿里巴巴主办、数据挖掘顶会CIKM强力支持的安全AI挑战者计划第四期,旨在培养实战型的网络安全一流人才。

针对目前的人工智能安全问题,多位专家表示,人工智能作为我国重要发展战略之一,正面临着重要发展机遇,但当前以深度学习为代表的人工智能算法安全性不足,在实际应用中仍然存在安全隐患,解决网络空间的安全风险更需要高层次人才支撑,需要形成校企联合、产教融合的大格局,在实践中摔打培养人才。

 召集“挑战者” 共同打磨AI安全

重庆理工大学计算机科学与工程学院研三学生刘野从2019年8月开始参加安全AI挑战者计划,从第一期人脸识别对抗竞赛,再到第二期ImageNet图像分类对抗攻击竞赛、第三期全球首个辱骂文本对抗攻击竞赛,他每期都参加,最终在本期获得第一名,并报名参加了刚刚开启的第五期全球首个针对证件文档类图像伪造的对抗攻击竞赛。

目前,已有来自全球超过200所高校、100多家企业超6000支队伍参加这项赛事。第四期由清华大学人工智能研究院出题,挑战者通过向原始图像中添加对抗补丁的方式,使目标检测模型无法检测到图像中的物体,目的是为了发现目标检测模型的脆弱性,为此领域的工作者敲响警钟。

中国科学院院士、清华大学人工智能研究院院长张钹表示,人工智能作为国家重要发展战略之一,面临发展机遇的同时也带来了诸多挑战。“当前以深度学习为代表的人工智能算法在实际应用中存在严重的安全隐患,如何提升算法的安全性和可靠性,是清华提出发展第三代人工智能的重要目标之一,也是算法大规模部署和应用的基础。”张钹说,培养一流的人工智能安全技术人才,显得尤为关键。为了抵御未来AI面临的安全风险,清华大学联合阿里巴巴,以对抗样本为核心,提供场景、技术、数据、算力等支持,召集“挑战者”以防守者的身份共同打磨AI模型安全,同时为广大安全爱好者提供数字基建安全的试炼场,在高难度的真实攻防环境中提升技术,培养真正有安全实战能力的安全基建人才。

目前,安全AI挑战者计划目前已收到2000万条恶意样本,沉淀40多个具有前沿创新性的参赛源码和方案,激发出高校学生在安全AI领域极大的创造力,也为实际业务问题的解决贡献了力量,最大程度填补和缓解AI安全人才缺口。

以赛育人 培养实战型安全人才

就在比赛收尾之际,9月14日召开的国家网络安全宣传周上,多位学界、业界专家学者在高峰论坛主论坛上聚焦网络安全人才培养。信息工程大学校长郭云飞表示,当前我国的网络安全人才缺口在100万人左右,网络安全的本质在对抗,对抗的本质是攻防两方的博弈,因此网络安全人才必须做到理论和实践相结合,形成校企联合、产教融合的大格局,在实践中摔打培养人才,大家一条心一盘棋共鼓劲共担责任,就能为党和国家输送更多优秀的网络安全人才。

当数字技术正在构建前所未有的新世界,阿里安全团队面对的是互联网企业中最丰富的业态和风险。

阿里安全首席架构师钱磊介绍,阿里安全已从最初的网络安全攻防进化出了新一代安全架构的三层体系:从软件供应链安全、漏洞检测等多个维度保障数字基建的“安全基建层”,由攻防技术、数据安全技术等构建的“安全技术层”,以及兼具态势感知与应急响应能力的“安全运营层”,三者共同组成互联网安全服务的精细化防御“堡垒”。作为国内领先互联网企业,阿里巴巴将多年积累的安全标准及能力与社会共享,护航“新基建”,并通过校企合作等方式培养更多安全专业人才,安全AI挑战者计划正是其中一项重要举措。

张钹表示,清华大学在人工智能基础研究领域有长期的积累,此次联合AI领域的领军企业阿里巴巴,校企联合打造全球顶尖安全AI赛事,就是为了培养一流的实战型人工智能和网络安全人才,谋国家发展之所需,推动我国人工智能领域的快速发展。

责任编辑: 桂楷东