人脸识别系统频曝漏洞，自动驾驶汽车事故频发……近年来，人工智能领域安全事件频发，如何保障人工智能安全发展成为摆在行业面前的一道必答题。
日前，由科技部牵头部署的“科技创新2030‘新一代人工智能’2019年度定向项目启动会暨实施方案论证会”在360公司举办。会上，国家科技部及北京市科委的多位领导莅临指导，来自中科院信工所、中国科学技术发展战略研究院、清华大学等机构、院校的专家学者一致通过了项目实施方案。该项目是360牵头承建的“安全大脑国家新一代人工智能开放创新平台”的重要项目之一，将重点解决人工智能本身存在的安全风险、人工智能创新环境匮乏及在网络安全领域创新成果落地难等问题。同时，该项目还将赋能中小初创安全企业、垂直行业、人工智能产业，提升国家人工智能安全整体防御能力，打造人工智能的“安全底座”。
据了解，该项目集结了包括360 AI安全实验室、360安全工程院、360安全能力中心、清华大学人工智能研究院、中国科学院自动化研究所等国内顶尖AI安全专家团队，代表着我国AI安全领域的顶尖水平。此次定向项目的论证通过，也意味着国家级人工智能安全建设驶入快车道。
随着人工智能被写入“十四五”规划，我国人工智能发展也将迎来新浪潮，但人工智能的发展也面临诸多“安全瓶颈”。首先，人工智能在网络安全领域的创新和应用落地存在较大差距，很多场景研究尚处于学术探索研究阶段。其次，人工智能自身缺乏系统化安全性评测，人工智能软硬件各环节都存在严重的安全风险。此外，人工智能安全研究创新环境缺失，国内人工智能安全产业严重落后，缺少场景、数据、经验，也缺少安全生态。业内专家一致认为，人工智能与安全领域的关键技术研究与突破是推动人工智能行业产业进一步发展的关键，保障人工智能技术应用安全性的重要基础。
如何保障人工智能健康发展，已成为国家层面的重要议题。2017年，为响应国务院印发的《新一代人工智能发展规划》，科技部、发改委等在内的15个部委合力成立了新一代人工智能发展规划推进办公室，着手重点建设一批“国家新一代人工智能开放创新平台”。这些平台由行业领军企业承建，聚焦人工智能细分领域的开放创新，带动产业进步。360成为唯一入选的网络安全公司，扛下“安全大脑国家新一代人工智能开放创新平台”的承建工作。
目前，依托该平台，在人工智能安全领域，360已斩获不少成果。作为全球首个从系统实现角度对AI关键基础设施进行研究的团队，360 AI安全实验室发现主流机器学习框架及依赖组件漏洞100+个，影响范围包括Tensorflow、Caffe、PyTorch、OpenVINO等各大平台，漏洞数在全球各大厂商排名第一。同时，制定发布了未来安全创新计划X-Plan，开放百亿安全大数据推动解决行业安全难题。
今年政府工作报告强调，“基础研究是科技创新的源头”。未来，依托该平台，360将推动学术合作，带动产学界在“人工智能算法安全对抗”、“人工智能基础设施安全检测”、“人工智能在网络空间安全的关键场景应用”三方面展开创新研究。通过前沿理论基础研究，为构建人工智能开源软硬件基础平台及人工智能安全检测平台提供技术储备，降低人工智能技术安全技术风险，确保人工智能健康发展。同时，360将依托安全科技创新X-Plan计划，向AI安全领域科技创新者开放学术生态资金和安全数据，共建开放协同的人工智能科技创新体系。
