网络空间安满是国家安全的重要组成部分。人工智能技能不光可以赋能网络空间安全办理，一起也为其带来了不确认、不安稳等许多应战。针对技能、军事与政治三个范畴，提出了我国网络空间人工智能安全办理的要点注重方向；从顶层规划、主体职责、人才培育、话语权等四个视角，提出了推进我国网络空间人工智能安全办理的几点举动。

　　“要坚持统筹推进各范畴安全，统筹应对传统安全和非传统安全。”网络空间作为联络国计民生的新空间，网络空间安满是国家安全所不行分割的重要组成部分，是“新边境”、“新蓝海”。近年来，跟着人工智能技能与互联网、大数据、实体经济的深度交融与继续浸透，人工智能本身的安全性以及关于政治、经济、军事、社会等各范畴安全带来的严峻影响，益发引起社会各界的高度注重。人工智能技能为网络空间安全注入了新的生命力，一起也带来了许多应战。我国有必要高度注重与自动应对网络空间安全布景下的人工智能安全危险，确保网络空间的调和、安稳与安全。

　　本文的研讨思路如图1所示。首要，剖析网络空间安全的界说与内涵，并从利害两方面剖析人工智能技能关于网络空间安全的影响；随后，从技能、军事、政治三个范畴，详细剖析网络空间人工智能安全办理的要点注重方向；最终，从战略、生态、人才、规范四个视角，提出我国推进网络空间人工智能安全办理的几点举动。

　　人工智能技能是网络空间安全的一把“双刃剑”[1]，在进步网络态势感知与防护的实时性、精确性、活络性，极大地进步网络进犯的自动化程度与功率的一起，也为网络空间安全带了极大的杂乱性与不确认性。

　　网络空间安满是网络空间中所有要素和活动免受来自各种要挟的状况[2]。从网络信息技能的本身逻辑看，网络空间安全可以分为三大范畴：

　　1）物理层面的物理体系安全。该层面的安满是网络空间安全的物质根底与基本确保，包含核算机硬件、互联网网路、物联网设备设备等，需求可以抵挡各种随机或人为的针对物理世界的损坏、毁伤、断网等要挟事情；

　　2）软件层面的网络体系安全。该层面的安满是确保网络环境和核算机体系安稳运转、用户信息与数据安全的根底，包含核算机体系、信息根底设备、核算机软件、用户数据等内容，需求可以抵挡各种歹意网络监督、侵略、勘探、浸透、降级与损坏；

　　3）信息层面的网络信息安全。该层面的安满是网络空间安全的中心寻求与重要确保，包含在网络环境中发生、流通讯息的保密性、可用性、完好性、可控性和不行狡赖性，方针是寻求网络信息在数据搜集、传输、存储、办理、剖析与处理运用等各个环节的安全性，防止对政治、军事、经济与社会发生不良影响与损害。

　　物理体系安全、网络体系安全与网络信息安全三者相互影响又互为交错，因为网络空间的杂乱性与级联效应，不管哪一方面的安全要挟都有或许关于网络空间的全体安全构成严峻影响，这一点在人工智能年代将愈加杰出。

　　近年来，国内外业界正在探究网络空间安全范畴与人工智能相结合的或许性与运用场景，测验经过运用机器学习、深度学习等技能剖析处理网络空间态势大数据，经过运用强化学习、常识图谱等技能自主、自动生成网络防护战略。人工智能技能将成为网络空间安全办理的强壮赋能器，有助于改善完善网络安全防护体系，高效、快速应对各类随机或故意要挟。

　　一是有助于愈加高效、自主、精准辨认应对网络空间安全要挟。经过对网络空间信息、行为、态势等大数据中所包含的网络空间安全要素、安全危险进行深度发掘与相关剖析，人工智能技能有助于构建动态、精准与高效的网络空间安全要挟感知预警体系，一起还能推进构建自适应、散布式协同与演进优化的网络空间安全要挟自动防护体系。

　　二是有助于推进网络安全办理新业态的弯道超车、变道超车。不管是战略立异仍是深度学习结构、人工智能（Artificial Intelligence，AI）芯片等战术运用，由人工智能赋能的网络安全新业态都备受注重。面对国外封闭与技能壁垒，我国不只有针对性地对专项技能展开“定点爆破”，更有望完成人工智能全体层面的“全面开花”，树立多点联动、具有我国独立、完好常识产权的人工智能技能体系，构成AI中心竞赛力，推进我国网络安全办理的弯道超车、变道超车。

　　三是有助于战胜网络安全办理专业人才人力资源的严峻缺少。依据McAfee公司查询显现，公司普遍认为需求添加高达24%的安全人员，才干有用应对网络要挟。特别是面对出人意料的新冠疫情，网络安全人员的全球化协同作业与要挟处置将面对许多应战[3]。运用人工智能技能结合网络安全人员的阅历，可以更好、更快地推进网络空间安全感知与防护体系的自主化、自动化，极大地下降安全危险剖析与要挟应对的技能难度与心思压力，进步网络安全办理的功率[4]。

　　人工智能技能的自主化、智能化程度越高，其“双刃剑”特征越显着。现在，国内外在竞相推进人工智能技能展开的一起，也在高度注重其或许包含的各种安全危险，活跃应对人工智能技能为网络空间安全办理带来杂乱性与不确认性等许多应战[5]。

　　一是人工智能技能有或许拉大我国与强国的信息技能代差。人工智能根底理论与要害算法等根底研讨水平的凹凸，将直接决议着人工智能技能的展开上限。当时，我国人工智能技能在根底研讨范畴与国外先进水平尚有必定距离，严峻限制了我国人工智能的可继续展开。依据2019年《天然》杂志文章《到2030年，我国能否在AI世界中成功领军？》[6]的核算，全球领军AI专家中68%散布在美国，我国仅占6%；在论文影响力方面，代表人工智能展开最前沿水平的高被引论文数目我国仅是美国的18.9%，排在全球第6位；93%的我国研讨者运用Tensorflow、Caffee等美国公司研制的人工智能开源结构。我国人工智能中心技能的自主性、安全性、可靠性，将是信息安全与网络空间安全的根本确保。

　　二是人工智能技能有或许加快推进网络空间兵器化战场化。人工智能技能将会进一步扩大网络空间安全在进攻和防护中的效果，使得“强者愈强，强者恒强”，推进网络空间攻防配备的研制与运用。美军也非常注重人工智能技能关于网络空间作战才干的使能效果[3]。近年来，美军接连推出了“自适应雷达对立”（ARC）、“自适应电子战行为学习”（BLADE）、“损坏者智能网电对立配备”（SRx）等认知网电对立项目[7-8]，经过网电空间态势的深度感知、网电对立战略的自主优化、网电对立效能的在线评价等人工智能与网电对立技能的深度交融来抢夺网电空间制权。我国有必要高度注重与警觉由人工智能推进的网络空间兵器化、战场化趋势。

　　三是人工智能本体安全危险有或许衍生网络空间严峻灾变。算法与数据是人工智能展开的中心要害，掌控的越多，供人工智能学习的资源就越多，就能获得打破性的展开，也就越有或许发生一些危险成果。跟着人工智能技能与网络空间的深度交融，人工智能的本体危险将有或许跟着网络空间特别是物联网的泛在互联而加以扩大，衍生演化出网络空间的严峻灾变，具体体现在[9]：一是物理世界危险。机械、化工、核工业等智能物联网体系的安全危险，或许会损坏大气、海洋、植被等地球环境。二是人身工业危险。无人机、无人驾驶轿车、医疗机器人等无人化智能体系的安全危险，或许会直接损害人类本身的生命与工业安全。三是国家社会危险。假造新闻、虚伪视频、金融欺诈等智能化社会网络的安全危险，或许会引发社会骚乱，损害国家安全。

　　网络空间人工智能安全办理是针对网络空间创立、运转、保持与维护中所选用的各类人工智能技能进行合理、合法、适度的办理与操控，确保人工智能本体技能的安全性并使其可以为网络空间安全办理服务。现在，世界各国关于网络空间范畴的人工智能安全办理，要点注重技能、军事与政治三个方面。

　　跟着2006年深度学习模型的提出，人工智能引入了层次化学习的概念，推进人工智能技能的井喷式、跨越式展开。凭借着当时信息化、网络化社会所堆集的海量大数据，以及并行图形处理器（Graphics Processing Unit，GPU）处理技能、超算技能等核算才干的飞速进步，深度学习可以从大数据中提取、发现、乃至洞见史无前例的常识，具有强壮的学习才干、推理才干与灵活性。特别是Google公司的人工智能围棋程序AlphaGo、IBM公司的专家辅佐体系Watson、以及Boston Dynamics公司的人形机器人等产品，体现了专用人工智能的打破性展开以及深度学习的巨大潜力，也昭示着深度学习技能在网络空间安全范畴广泛运用的或许性、必要性。

　　根据网络空间大数据供给的数据资源，深度学习技能进步了网络空间感知与防护手法关于各种不确认性环境的动态适应才干，可以对海量含糊、非线性、异构数据进行自动化的分类聚合与相关剖析，全面感知网络安全要挟，自主学习认知网络空间态势；可以自动生成与快速调整网络要挟防护战略，在与自主化、智能化网络空间进犯手法的攻防博弈中不断学习演进，逐渐构成适应性强、反响敏捷活络的网络空间安全防护“才智”。我国有必要高度注重网络空间安全办理范畴深度学习技能的最新展开，包含根据搬迁学习的高效要挟辨认技能、根据聚类剖析的精准要挟剖析技能、根据深度强化学习的自主防护技能等。

　　人工智能的本体安全关于网络安全具有多维依托联络。当时，深度学习等人工智能的算法尚缺少鲁棒性、可解说性较差、易扰与诈骗。例如，卷积神经网络（Convolutional Neural Networks,CNN）、人工神经网络（Artificial Neural Network，ANN）等要害算法存在安全隐患，经过假造数据、污染样本等方法可以搅扰乃至操作深度学习模型的运转成果。一起，深度学习的数据隐私性、可靠性较差，缺少密码维护，简单遭到盗取、损坏、假造，乃至严峻泄密。我国有必要筑牢人工智能本体的安全防地，进步深度学习等要害技能的可信性、可解说性，加强者深度学习软硬件的脆弱性剖析和防护，研制面向大数据的个人生物特征加密技能，确认深度学习算法与数据等要害根底设备的安全性、健壮性。

　　深度学习等人工智能根底理论与中心算法是推进网络空间人工智能安全办理的中心竞赛力与内涵驱动力，也是确保网络空间人工智能安全的最终屏障。现在，深度学习算法根底研制渠道也简直为美国Google等大公司所独占。许多公司与研讨人员需求将练习样本数据、人工智能算法经过世界互联网上传到境外网站，才干展开深度学习的研讨、开发与运用，这为网络空间人工智能安全办理带来了严峻应战。主张大力加强“Cyber+AI”理论研讨与技能储备，发挥我国在网络空间大数据、人工智能商业方式立异等方面的优势，大力推进国产深度学习渠道的大规划遍及与运用。

　　军事方面要点注重根据自主网络攻防兵器的混协作战。与陆、海、空等传统作战域不同，发生在网络空间的攻防博弈具有速度快、智能程度高、节奏改变快、技能难度大等杰出特征，网络空间作战的“秒杀性”越来越显着。一起，跟着网络空间关于人类社会日子、出产与作业的要害性支撑效果越来越强，人们也愈加注重网络攻防关于人类社会政治、经济、心思等方面的衍生性影响。只是依托人类本身的智力、膂力与才干，现已难以单独担任网络空间作战使命使命，有必要依托于自主化、智能化的网络攻防兵器，并在物理、网络、心思、社会等多个域展开混协作战。

　　混协作战是一种攻防鸿沟含糊，交融网络空间作战、心思战、金融战等多种作战款式于一体的新式作战举动，具有投入少、见效快，隐蔽性强、不易发觉，预见性差、难以防备等杰出特征。网络空间作战正是混协作战的中心与中心，是混协作战的典型非对称作战款式。

　　2014年以来，俄罗斯在混协作战理论指导下应对乌克兰与克里米亚形势的一系列战术战法，现已成为混协作战的实践模范，而网络攻防成为其间不行或缺的重要组成部分[10]。乌克兰政府网络体系曾遭到核算机病毒“毒蛇”的接连进犯，使得黑客获取很多乌克兰秘要。欧洲动力网络的多个工业办理体系也曾感染了可实时监控动力消耗、损坏打乱体系的“能量熊”核算机病毒。主张应该加强混协作战及其应对办法的理论与对策研讨，特别需求注重国外敌对势力经过互联网散布流言、网络保密、木马进犯等手法，对我舆情社情、要害根底设备的袭扰损坏。

　　现阶段在人工智能技能的赋能下，具有高度自主性的网络攻防兵器因为其内部本身理论与技能的不成熟性，以及外部人员运用的不合理性，有或许明显添加网络空间安全的不确认性。

　　一是深度学习等典型人工智能技能的根底理论树立在概率论和数理核算根底之上，并没有严厉的因果对应联络，而现有技能也难以预估自主网络攻防兵器的危险事情和安全鸿沟。同传统根据规矩、根据人类常识与判别的网络攻防兵器比较，根据人工智能的自主网络攻防兵器内生危险性更高。

　　二是自主进犯网络兵器的分散与不规范运用，将会对网络空间安全构成难以操控、难以评价的损害。2017年以来，不法分子运用美国国家安全局（National Security Agency，NSA）走漏的0 day缝隙“Eternal Blue”（永久之蓝）进行传达的WannaCry勒索病毒，至少感染了150多个国家的30余万名用户，严峻影响了金融、动力、医疗等关乎国计民生的重要作业，构成丢失达80亿美元[11]。

　　世界上需求构成限制自主网络攻防兵器的规章制度与条约规范，严厉自主网络攻防兵器的加密、解密与运用权限，完善自主网络攻防兵器的自我删去、撤销激活等功能。

　　人类战役前史的进程与结局充分证明，技能是战役形状演进的榜首推进力，是战斗力的中心组成部分[12]。

　　在军事范畴，自主化、智能化网络攻防具有技能性强、施行杂乱度高级特征，高度依托网络态势深度认知、攻防手法学习优化等先进技能。一起，怎么更好地在信息化、网络化、智能化战场中最大程度地发挥网络攻防作战效能，怎么更好地“以己之长攻敌之短”，特别需求经过战情虚拟仿真实验、实兵演习等手法，规划科学合理且赋有前瞻性的自主网络攻防作战概念。

　　近年来，美军顶层决策安排、军兵种、专业智库与军火商等安排，围绕着网络攻防深度交融于跨域作战、全域作战等全新作战理论，以应对所谓A2/AD才干为起点，先后推出了一系列备受注重的网络攻防作战概念。例如，2017年8月DARPA发布的“马赛克战”， 2017年10月CSBA推出的“电磁对立无人敢死队”（EMW Expendables）、2015年1月美国海军提出的“散布式杀伤”等[13]。这些作战概念为相关网络攻防、无人作战等指挥体系革新、部队练习演习、要害技能打破与兵器配备研制供给了使能方向与重要驱动力。主张从技能与军事两个层次知道与推进网络攻防配备与手法的研讨与建造，经过建造专业靶场、仿真体系、演习环境等办法，推进自主网络攻防技能的打破与验证、先进配备的实验断定与作战力气的战备练习。

　　网络舆情是广阔网民以网络为载体，关于某事情的情感、情绪、定见与观念的表达、传达与影响的会集体现。网络舆情管控是网络空间安全的重要组成部分，也是关乎国家政治安全的重要阵地。现在，国外特别注重将人工智能技能与交际网络紧密结合，归纳运用交际大数据深度发掘与剖析、舆情精准推送与办理，乃至虚伪新闻生成与传达等手法，经过网络空间关于社会民众心思与行为的衍生效应、扩大效应与演示效应，管控国内言论民意与社会矛盾，打乱、损坏乃至推翻别国政权与世界利益。

　　当时，各种交际手法的飞速展开与落地运用，现已推进人类构成了以世界互联网为中心、以移动互联网、泛在物联网为枝干的一张广泛联络、动态改变、规划巨大的交际大网络。而“AI+交际大网络”既可以反映个人的作业、喜好、政治倾向等纤细生物特征，又可以经过人与人之间的泛在社会联络极大地影响集体与个人的心思与行为。

　　经过根据核算机器学习的天然语言处理技能（Natural Language Processing, NLP）完成多源异构海量网络舆情实时监测搜集与结构化提取、根据常识图谱与图神经网络技能完成不同场景下的网络舆情常识体系构建、根据深度学习技能完成网络短语态度断定等手法，可以极速精准地描写网络个人与集体的“精确画像”。

　　经过根据无监督学习的生成对立网络（Generative Adversarial Networks, GAN）技能完成智能图画处理与虚伪图画生成、经过根据大数据聚类剖析完成个性化新闻分发与推送等手法，可以敏捷、精确、高效地关于方针受众心思与行为发日子跃或消极影响。

　　近年来，在美国、英国等西方国家推举中，接连呈现运用网络交际渠道布置“机器人水军”，然后人为地操作、引导言论走向，到达干涉推举成果的意图。2018年3月，英国咨询安排剑桥剖析公司搅扰美国大选丑闻被西方媒体曝光[14]。该公司搜集了Facebook网站上超越5 000万用户的行为方式、性情特征、价值观趋向、生长阅历等信息，并有针对性地推送竞选信息、竞选广告乃至一些虚伪新闻，部分影响到了2016年美国总统大选成果。

　　近年来，跟着大数据与人工智能年代的降临，以广域散布的社会传感网络为根底，人类在日子、作业、往来、文娱等进程中所堆集的海量、高维、动态的数据信息，为进步社会办理水平供给了可贵的战略机会与严峻的问题应战。

　　核算社会科学（Computational Social Science）概念初次呈现于1994年，之后跟着近30年的蓬勃展开，现已在大规划流行症传达与操控、网络舆情传达与管控等方面获得了很多研讨成果与转化运用，推进着信息对称、权力对等、安排扁平的社会安排新结构逐渐演进，以及集约化、散布化、智能化、快速化的社会办理新模型转型展开[15]。

　　例如，在抗击新冠肺炎疫情的奋斗中，我国许多地方政府、企业、高校等安排都在探究将病毒大数据与核算社会科学相结合，归纳进步病毒防控才干与社会办理才干，为抗疫奋斗的伟大胜利供给了科学理论与东西支撑。

　　将人工智能技能与核算社会科学相结合，一是可以进步其经过模仿微观个别互动，出现微观社会现象的水平；二是可以进步其经过网络爬虫、文本发掘、深度学习等技能提取剖析网络大数据，研讨社会杂乱体系的水平。由此，咱们可以愈加明晰地描绘个人与集体之间的新式互动进程和方式，愈加合理地解说社会现象及发生机制，愈加精确地猜测管控个人与社会的展开趋势，然后推进传统社会向着才智社会的方针不断转型展开。

　　当时，跟着5G通讯、物联网、移动互联网等网络通讯技能的展开，人类的日常日子、作业中的悉数行为，都有或许经过网络以数字的方式被记载与记载下来。人类在逐渐数字化的一起，也正在逐渐透明化。

　　境外一些公司乃至敌对势力经过网络爬虫、木马植入、邮箱保密、网络查询等手法，不合法搜集、盗取个人与集体的隐私与行为特征数据，并经过人工智能技能进行深度发掘与剖析，精准、敏捷描写个人的性情、收入、社会联络等身份特征，将个人彻底露出于网络之中，为进一步剖析、判别、掌握社情舆情堆集数据信息与情报资料。

　　为尽或许地堵截境外敌对势力经过世界互联网对网络空间安全的浸透与损坏途径，需求加强根据生物特征的个人隐私加密技能、面向大数据的数据加密技能、可信核算技能等网络安全防护技能，完善交际网络数据搜集与运用相关法令、法规，归纳运用技能、方针、法令与规范等手法确保个人隐私与特征敏感数据的安全。

　　网络空间是既陆、海、空、天之后，关乎人类生计与展开、关乎国家出路与命运的“第五维空间”。而人工智能是抢占新一轮工业竞赛、军事竞赛、国家竞赛制高点的战略性、前沿性、推翻性技能，将成为国家重要的战略威慑力气。主张应从利害两个方面，以展开、革新、立异的眼光去辩证知道网络空间人工智能安全办理面对的问题与应战，坚持展开这个硬道理，捉住立异这个牛鼻子[1]，自动作为，趋利避害，探究网络空间人工智能安全办理之路。

　　“网络安全和信息化是事关国家安全和国家展开，事关广阔人民群众作业日子的严峻战略问题。”在整体安全观的指导下，顶层规划、体系规划与全方面统筹完善人工智能展开战略，在社会遍及与强化网络安全观念。主张从国家层面经过树立严峻科技专项牵引技能进步，从政府层面经过配套方针制定引导社会注重与资金投入，逐渐进步在该范畴的中心竞赛力。

　　展开网络空间人工智能安全办理需求在顶层理论与和谐机制的支撑下，会聚产、学、研、用多范畴资源，构成齐心协力、群防群治的办理方式，构建政府、高校、企业、个人等多类型主体的四位一体安全生态。

　　政府方面需求承当“压舱石”主体职责，树立包含“新一代人工智能办理专业委员会”在内的网络安全人工办理顶层决策安排、统筹和谐机制、方针法规规范与高端智囊安排，做好服务与监督职责，推进网络安全人工智能办理与国家战略、区域规划与社会需求和谐同步展开。

　　高校方面需求承当“助推器”主体职责，发挥在科技研讨与人才培育方面的优势，会集智力、物力、财力资源霸占人工智能、网络信息、大数据、核算社会等范畴的根底理论与要害技能，抢占理论高地与技能前沿。

　　企业方面需求承当“发动机”主体职责，发挥网络空间的数据优势、人力优势，推进人工智能技能在网络空间态势感知、网络安全防护等方面的落地运用，抢占工业制高点。

　　个人需求承当“前沿哨”主体职责，进步网络安全意识与人工智能素质，维护个人隐私与特征数据不容易走漏，自觉分辩虚伪社会舆情与网络舆情，不盲目信谣传谣。

　　“得人者兴，失人者崩。”建造网络强国、人工智能强国的要害在于人才。政府、高校与企业要下大力气处理网络空间人工智能办理高端人才的培育问题、运用问题。网络空间人工智能办理触及网络安全、人工智能、政治学、行政办理、法学等多学科穿插交融。

　　要推进政府、戎行、高校、科研安排与企业在网络安全与人工智能范畴的对接协作，为高端人才发明杰出的方针环境、科研环境与作业环境，并从薪酬待遇、展开前景等多个方面加大力度招引、留住世界顶尖人才。主张对待网络空间人工智能办理高端人才要有特征方针，在不违法法令法规的前提下乃至“一人一策”，不搞论资排辈，不搞吹毛求疵，让高端人才可以将悉数身心投入到研讨、立异与实践中来，进步人才的运用功率。

　　“大国网络安全博弈不单是技能博弈，仍是理念博弈、话语权博弈。”在人工智能成为国家中心竞赛力与世界竞赛重要议题的情况下，主张在网络空间人工智能安全办理上遵循人类命运共同体理念，具有世界视界与全球眼光，加强与外国政府、企业与世界安排的交流、交流、协作，经过参加世界网络空间与人工智能行为规范、法令法规、道德原则的研讨与制定，自动建立网络空间与人工智能世界协作渠道，活跃争取世界网络空间人工智能安全办理的主导权、话语权。

　　美国闻名未来学家Ray Kurzweil指出：“咱们的未来不再是阅历进化，而是阅历爆破。”当时，人类正处于由人工智能技能作为中心驱动力所引发的新一轮科技革新、工业革新、工业革新的前史新阶段。人工智能技能将对人类社会的日子出产方法、社会安排结构、道德道德观念、世界观价值观等，发生革新性、推翻性的巨大冲击。能否在即将到来的信息化、网络化、智能化交融展开的新年代，牢牢地掌握人工智能技能赋能网络空间安全这一严峻前史机会，需求从国家战略、国家安全的高度注重网络空间人工智能安全办理的相关议题，聚合世界国内的人才、技能、工业与方针资源，“抢抓机会，乘势而上”。

　　[4] 我国信息通讯研讨院. 推进网络安全工业革新,夯实网络强国战略柱石[J]. 信息安全与通讯保密, 2017(6): 7-17.

　　[5] 何积丰. 注重人工智能展开中的安全与办理[J]. 信息安全与通讯保密, 2018(6): 5-8.

　　[9] 我国信息通讯研讨院安全研讨所. 人工智能安全结构（2020年）[R]. 北京: 我国信通院, 2020.

　　[11] 封帅,鲁传颖. 人工智能年代的国家安全：危险与办理[J]. 信息安全与通讯保密, 2018,10: 30-49.

　　[12] 胡晓峰. 战役工程论——走向信息年代的战役方法学[M]. 北京: 科学出版社, 2018.