人工智能安全崭露头角 智能安防只是小试牛刀

进入新世纪以来，随着云计算和大数据技术的发展，为人工智能提供了超强算力和海量数据，另外，以2006年深度学习模型的提出为标志，人工智能核心算法取得重大突破并不断优化，与此同时，移动互联网、物联网的发展为人工智能技术落地提供了丰富应用场景。

算力、算法、数据和应用场景的共同作用，激发了新一轮人工智能发展浪潮，人工智能技术与产业发展呈现加速态势。然而凡事有利有弊，随着人工智能的快速发展，关于人工智能安全的担忧也开始出现并引起注意。

三个角度定义人工智能安全

由于人工智能可以模拟人类智能，实现对人脑的替代，因此，在每一轮人工智能发展浪潮中，尤其是技术兴起时，人们都非常关注人工智能的安全问题和伦理影响。从1942年阿西莫夫提出“机器人三大定律”到2017年霍金、马斯克参与发布的“阿西洛马人工智能23原则”，如何促使人工智能更加安全和道德一直是人类长期思考和不断深化的命题。

当前，随着人工智能技术快速发展和产业爆发，人工智能安全越发受到关注。一方面，现阶段人工智能技术不成熟性导致安全风险，包括算法不可解释性、数据强依赖性等技术局限性问题，以及人为恶意应用，可能给网络空间与国家社会带来安全风险；另一方面，人工智能技术可应用于网络安全与公共安全领域，感知、预测、预警信息基础设施和社会经济运行的重大态势，主动决策反应，提升网络防护能力与社会治理能力。

基于以上分析，可以从三个角度来定义人工智能安全：一是降低人工智能不成熟性以及恶意应用给网络空间和国家社会带来的安全风险；二是推动人工智能在网络安全和公共安全领域深度应用；三是构建人工智能安全管理体系，保障人工智能安全稳步发展。

三个维度构建安全体系架构

基于对人工智能安全定义的理解，可以从安全风险、安全应用、安全管理三个维度来构建人工智能安全体系架构。架构中三个维度彼此独立又相互依存。其中，安全风险是人工智能技术与产业对网络空间安全与国家社会安全造成的负面影响；安全应用则是探讨人工智能技术在网络信息安全领域和社会公共安全领域中的具体应用方向；安全管理从有效管控人工智能安全风险和积极促进人工智能技术在安全领域应用的角度，构建人工智能安全管理体系。

智能安防市场规模或超千亿

随着我国平安城市、天网工程、雪亮工程建设的不断推进，安防行业快速发展。“十三五”期间，安防行业正逐步向规模化、自动化、智能化转型升级，预计到2020年，安防企业总规模或接近8000亿元，年增长率达到10%以上。

与之相应的国内智能安防从2016年开始步入快速发展期，但受限于智能化产品价格偏高、场景应用局限性大等问题，大部分安防企业对人工智能还处在尝试使用阶段，超过90%的市场份额还是传统安防占据，但随着以公安、交通、金融为代表的社会治理领域进一步驱动智能安防快速应用，未来市场发展空间巨大。

目前看，国内安防市场竞争格局以人工智能创新型企业和传统安防巨头两类企业为主。其中，基于人工智能的初创企业如云从科技、商汤科技和旷视科技等，依托在计算机视觉、数据深度分析等方面的技术积累，推出智能安防产品，进行产业布局；传统安防巨头海康威视、大华股份等近年来不断加大研发投入，加强技术创新能力，并且对初创企业进行投资收购，逐步提升安防产品智能化水平。

预计到2020年，国内智能安防的市场份额将达到15%，2025年市场份额或将与传统安防分庭抗礼。

以上数据及分析均来自于前瞻产业研究院《2018-2023年中国人工智能行业市场前瞻与投资战略规划分析报告》。

更多深度行业分析尽在【前瞻经济学人APP】，还可以与500+经济学家/资深行业研究员交流互动。