周鸿祎总结人工智能网络有四大安全隐患，建议“国家级”对待

“小孩子玩的10元一支的激光笔，攻击者拿来对着智能汽车的激光雷达乱照，汽车就可能因突然刹车而被追尾；360公司一个技术团队，花不到一千元做出来一款民用级别的GPS欺骗设备，就可以对汽车的行车路线实施欺骗，导致交通安全事故发生。”

这不是危言耸听，而是实实在在的安全隐患。全国政协委员、360集团董事长兼CEO 周鸿祎在其《关于加强应对人工智能网络安全风险的提案》中写道：“传感器被干扰是人工智能系统面临的首要安全问题。”

全国政协委员、360集团董事长兼CEO 周鸿祎

此外，他还提到，使用被污染的数据训练过的AI会“学坏”、AI内部算法不完善易导致决策失误、用以实现AI的软件系统被劫持，是人工智能网络所面对的另三大安全隐患。

很多人工智能不是基于规则，而是数据训练出来的。如果训练数据被污染，就是“垃圾进，垃圾出”。攻击者可以通过构建畸形或者污染的训练数据，进行数据投毒攻击，导致人工智能出错。比如，给智能汽车输入“污染”过的训练样本，就可以把“禁止通行”交通标志牌识别为“可以通行”。微软的聊天机器人Tay也由于收到了大量不良数据，在启动16个小时后就已经“学坏”了，不停地吐脏话。

人工智能的引入，还涌现了许多无人值守系统。但一旦这些系统（极端情况如智能武器系统）被黑客控制，可能会产生严重后果。

“人工智能并不是像人们想象得那样美好。”周鸿祎在举出这个例子后说道，它在提高人们生产生活水平的同时，也可能带来各种安全隐患，甚至成为人类安全的杀手。

人工智能也可能带来安全隐患

“没有人工智能安全，就没有国家安全、社会安全和个人安全，必须引起高度重视。”针对上述四大安全隐患给人工智能系统带来的潜在挑战，周鸿祎建议：“要加快国家级网络安全人工智能开放创新平台建设”。

为什么要上升到“国家级”网络安全平台的建设？周鸿祎认为，人工智能网络安全问题非常复杂，迫切需要建立一个开放创新平台，整合各种资源，协同推进和解决。

他看到，国家对新一代人工智能开放创新平台的建设高度重视，已分别在自动驾驶、城市大脑、医疗影像、智能语音、智能视觉5大领域批准建设人工智能开放创新平台，但在人工智能网络安全领域还是空白。

“建议国家加快国家级网络安全人工智能开放创新平台的审批和政策支持，确保人工智能健康有序发展。”周鸿祎说。