周鸿祎世界智能大会谈AI七大安全挑战 AI安全能力建设刻不容缓

360携手产学研 共建AI安全生态

6月24日,第六届世界智能大会在天津举办,三六零集团创始人周鸿祎出席大会并发表主题演讲。

他指出,面对人工智能的各种复杂安全挑战,网络安全行业应当被重新定义,将计算机安全、网络安全升维到数字安全,才能跟得上人工智能行业的发展需求,才能跟得上国家的产业数字化发展要求,才能保障人们进入数字文明时代。
据了解,本次大会由天津市政府与国家发改委、科技部、工信部、广电总局、网信办、中国科学院、中国工程院、中国科协共同主办,以“智能新时代:数字赋能、智赢未来”为主题,形成“会展赛+智能体验”“四位一体”模式。元宇宙媒体平台“N世界”作为主要媒体平台之一,全程直播第六届世界智能大会高峰会。

AI面临七大安全挑战 国家战略层面首提AI安全

周鸿祎在演讲中指出,人工智能在不断发展的同时,也面临着七大安全挑战,包括硬件可能被攻击、软件存在漏洞、专用通信协议可以能被篡改、算法可以被欺骗、数据可以被污染、应用上可能危害人类利益、社会伦理上可能超出现有规范等诸多风险问题,甚至引发混乱与恐慌。
“人工智能在数字化过程中扮演着至关重要的角色。”在周鸿祎看来,加快数字化发展已经上升为国家战略,产业数字化将是红海中的新蓝海。
他认为,产业数字化真正的价值是帮助很多传统企业,特别是制造业进行智能化改造升级,“人工智能则是推动产业数字化进入智能阶段的创新引擎,能够赋能智慧城市、数字政府、工业互联网、车联网等数字化场景实现智能化、自动化运转,比如说,未来数字城市里的智慧交通,既要有聪明的车,也要有智慧的路,车路协同才能真正重塑城市交通。”
面对不断升级的安全挑战,国家层面也高度重视人工智能安全的建设。《国家安全战略(2021—2025年)》就明确提出,要加快提升网络安全、数据安全、人工智能安全等领域的治理能力。“这也是国家战略层面首次提出人工智能安全的概念,说明人工智能安全是数字安全的一部分。”周鸿祎说。

360携手产学研 共建AI安全生态

“人工智能技术高速发展、带来安全新挑战的同时,也为解决数字安全风险提供了新的技术手段。”对于人工智能的风险与积极作用,周鸿祎认为需要辩证对待。

据他介绍,目前人工智能已经应用于数据分析、情报处理、智能防御等领域,在恶意代码检测、恶意流量分析、漏洞挖掘、僵尸网络检测、网络黑灰产检测等方面发挥着重要的作用。

以AI数据分析为例,借助人工智能,安全专家可以对多维度、海量、鲜活的安全大数据进行实时数据分析,以算力代替人力,提高海量安全事件的响应速度。

360一直高度重视人工智能安全,率先在行业进行布局,积极构建起人工智能安全能力体系。周鸿祎表示,360对自身积累的全球最大的安全大数据进行AI分析,形成了360云端安全大脑的原型,为行业或企业提供强大的数据和情报支撑,助力对网络威胁进行有效分析、溯源。

在安全大脑的赋能下,360还积极参与人工智能安全漏洞挖掘,发现150+个机器学习框架及供应链漏洞,涉及Tensorflow、Caffe、PyTorch等主流深度学习开源框架,并积极承担“安全大脑国家新一代人工智能开放创新平台”的建设,牵头研发的“人工智能安全测评与风险监测预警平台”入选工信部“人工智能产业创新任务揭榜单位”名单,有效夯实了人工智能安全的底座。

“人工智能方兴未艾,人工智能安全也还有很多挑战需要研究,这仅靠一家企业不能解决所有威胁,因此尤其要注重生态合作。”周鸿祎表示,为解决人工智能带来的安全威胁,360作为中国数字安全的领军企业,开放自身安全大数据,将产学研力量联合起来,共建AI安全生态,集中推动数字安全的创新。

此外,360还将倡导建立人工智能与安全开放创新体系,建立平台化机制,实现核心研究成果的对接与转化,赋能人工智能与安全相关的中小微企业、高校、科研院所,赋能中小初创安全企业、垂直行业、AI产业,共享技术成果,推动产业健康快速发展,提升国家人工智能安全整体防御能力。

版权所有,未经授权不得以任何形式转载及使用,违者必究。