人工智能面临安全隐忧
中国科学院院士何积丰教授在会上演讲 人工智能技术威胁网络空间安全。中国科学院院士何积丰教授在“2018世界人工智能大会·人工智能安全高端对话”会上指出，在工业安全领域，人工智能既可以进行安全防范，包括攻防对抗、内容分析、代码混淆、异常检测等，也存在开发工具漏洞和算法具有不确定性等问题。针对安全问题，需建立主动防御的智能体系。
以自动驾驶汽车为例，其毫米波雷达、激光雷达、摄像头等感知设备都可以被干扰，而且自动驾驶系统本身可能存在的漏洞，都会导致信息安全问题。腾讯科恩实验室总监吕一平总监在会上表示，汽车行业目前处于网联阶段，通往自动驾驶阶段还需一定时间，除了技术达标以外，更重要的是法律法规的问题。
车辆会因为地上的三个贴纸驶入旁边车道(示意图)人工智能的快速发展，可能加剧个人信息泄露，威胁个人隐私安全。对此，华东政法大学人工智能与大数据指数研究院院长高奇琦在去年大会上用了“透明人”概念，认为“未来人是‘透明人’，这恐怕是一个无法阻挡的趋势。”
为研发人智能而大量使用数据过程中，如果数据被滥用，也会触及隐私安全。此前，美国百万人使用的社交app——Ever通过“周末与爷爷”、“最佳时刻”等温情的主题，诱导用户上传照片，未经授权使用人们照片进行面部识别技术进一步开发，并将这项技术出售给私营公司、执法部门和军方，以此来大大提升其财务状况。无独有偶，社交网络巨头Facebook在过去两年被爆出多起侵犯个人隐私的丑闻。
人工智能与安全需要平衡发展
人工智能时代，网络空间安全威胁全面泛化，但是人工智能也可以成为网络安全的“救世主”。如何平衡好人工智能与安全的关系，利用人工智能思想和技术应对各类安全威胁，是国内外产业界共同努力的方向。
腾讯公司安全管理部副总经理杨鹏致辞为应对网络安全，腾讯基于其黑产对抗经验技术和反欺诈 AI 模型建造能力，打造出“宾果反诈骗防控系统”，自投入使用以来，全国重点诈骗区域诈骗号码大幅下降接近70%，有效遏制了诈骗态势蔓延。
在去年大会分论坛，眼神科技创始人兼CEO周军介绍了人工智能在金融安全领域的应用，用人脸、指纹、虹膜等多模态生物识别技术识别技术帮助金融机构降本增效，增强安全认证。
围绕着“人工智能带来信息安全挑战”，大会现场众多专家、学者和产业精英都纷纷建言献策，提出应对之道。
联合国人工智能和机器人中心主任伊莱克利•伯利兹在会上演讲联合国人工智能和机器人中心主任伊莱克利•伯利兹建议对现阶段人工智能的发展充分评估，并建立起各方参与的协同合作模式；中国移动研究院首席科学家冯俊兰女士指出，5G网络服务众多垂直工业，数据挖掘技术更易保护用户隐私信息，并提出了“通信改变社会”的愿景，强调电信运营商应当加强与垂直行业的互信和协作；在碁震KEEN公司创始人兼CE王琦看来，最重要的是法律保障，用法律的手段让人工智能行业的从业者加强自律，保持敬畏之心；上海优刻得信息科技公司CEO季昕华则表示，还需要技术手段对人工智能进行约束，“让AI可以分析数据，但是不获取数据，这应该是技术层面努力的方向”。人工智能的安全问题与人工智能的快速发展相伴相随，只有妥善解决安全问题，才能实现人工智能的长期可持续发展，而这个过程不仅是一个技术问题，更是一个社会问题、伦理问题。如何使用好人工智能这把“双刃剑” ，是全世界所需解决的实际问题。
在即将于8月29日-31日举办的2019世界人工智能大会上，关于如何实现由传统安全时代的强管理向AI时代强技术支撑下的核心管理转变，业界权威们将再次为人工智能安全防护提供创新性的解决思路。
