首页
圆桌会议（右一：周鸿祎）
大河网讯（特派记者 刘晓明）无人值守系统里的“最后控制权”归谁？人工智能时代的“畅销服装”是什么？如何应对作假成本降低的后果？5月16日，在主题为“前瞻：智能新时代与新机遇”主论坛上，360董事长兼CEO周鸿祎在演讲中通过三件与人工智能有关的实例，揭示了他对人工智能的安全隐忧。
云计算、大数据、物联网、5G通讯、人工智能......这些词语充盈在如今信息化高度发展的社会，而同步需要考虑的，一定是安全的问题。一旦这些系统被攻击，那么越先进的系统，它带来的灾难就越大。
在周鸿祎看来，今天的智能，绝不是简单的技术研发，如果没有人文思考，也许设计出来的系统，就会变成一个悲剧系统。那么无人值守系统里的“最后控制权”归谁？周鸿祎首先提出这个思考：“在将来无人车、无人工厂、无人码头等众多无人值守系统里，在还没有很大把握下，在传感器误报、数据被污染的情况下，最后的控制权和决定权应该留给机器还是人？”
周鸿祎提到的第二件事情与人脸识别有关。“现在人脸识别很厉害，每次开张学友的演唱会，都会抓到罪犯。”但周鸿祎提出，人脸识别机器的深度学习算法是有先天缺陷的，网络黑客通过研究发现，只要给它一个从来没有看见过的图案，比如把一种奇怪条文打印在纸上或别在衣服上，就能“屏蔽”掉人脸识别系统。“可能这种衣服就会很‘畅销’。”周鸿祎调侃道。
另外，也有安全团队发现，对特斯拉人工驾驶的汽车贴些奇怪的交通符号，就可能会让汽车的电脑“很迷茫”，使汽车停下来，并引发追尾事件。对此，周鸿祎建议，企业在上线系统前，应做好安全检测，做好“实网攻防”，“要用实际的攻击发现问题，而非靠静态的研究证明系统的安全”，周鸿祎说。
第三件事情，周鸿祎提到了作假。无论是假照片、假视频还是假新闻，这种造假技术降低了每个人做假的成本，一旦泛滥就会引起社会恐慌。“新加坡正在制定相应的法律”，周鸿祎呼吁，中国也应加强对该类问题的重视，防止这样的“工具”流传，引发一系列道德伦理问题。
“人工智能的发展一定要注重安全，一定要注重伦理道德和法律的配合，因为只有安全性的信息化，才会给人们带来幸福的信息化。”周鸿祎说。