最火李冰冰当成赵本山人工智能自身安全吗中国互气动喷枪圆雕防滑砖袋封切机家居裤

李冰冰电脑配件当成赵本山！人工智能自身安全吗？中国互联大会探讨智能终端“攻与防”

当某项技术涉及到或者威胁到人类生命财产安全的时候，这项技术就应该放到安全之后再去考虑。

ai并不像其他技术，如果说其他技术像潮水，那么ai就像海啸。

人工智能的“矛”和“盾”

ai成为人类未来一项高赋能的技术，已经成为趋势。但是，ai自身足够安全吗？

近日，在2018中国互联大会一场高峰论坛上，来自人工智能领域的业界专家齐聚北京国家会议中心，共论“ai时代智能终端的空调管攻与防”。

在被北京大学教授郭耀问到，如何应对人工智能的“矛”和“盾”时，与会嘉宾纷纷亮出各自观点。

ai“还是个孩子”

阿里巴巴集团安全部总监陆全，提出 “要像呵护自己的孩子一样去呵护新的智能硬件”。对此他拆解为三层意思：第一，智能硬件现在只是一种数据驱动，你给它什么数据它就学什么，就像一个小孩一样。第二，孩子是未来的希望。人工智能代表的是未来生产力，中国有句话叫“因噎废食”，不能倒洗澡水的时候把孩子也倒掉，不能因为惧怕而不去研究人工智能。第三，孩子是会长大的，即使ai现在可能易于被攻击，但他相信随着技术的发展，等孩子长大之后就不会再像现在这样。“我对未来是充满信心的。”他说。

“非常强的紧迫感”

百度首席安全科学家韦韬，感受到的则是“非常强的紧迫感”。他认为，ai在各个领域的推进速度超乎大家想象，在这种情况下，很多典型的应用场景之下，潜藏着极其严峻的安全和隐私威胁。比如像智能音箱和智能家居设备，当它的安全出现问题时，人们的隐私直接面临严重破坏，它的破坏能力甚至超出了前两年的破坏能力，“完全埋伏在你的周围，你想逃都调不掉”。针对陆全的“孩子说”，他表示即使ai是个孩子，但是大家已经给了这个孩子非常大的期望，也在让这个孩子做很多成人都做不好的事情。人工智能有太多的安全挑战，面临巨大的突破。他以如果在运行进程中需要对电子万能实验机进行更换负荷传感器无人驾驶为例，指出传统的安全防护体系，没有哪个是绝对万无一失的，某一条防线攻破以后，后面还有补救机会，但是在无人驾驶上是几乎没有补救机会的。“对我们来说压力非常大，我们要做很多工作，把以前沙滩上建立控制装置的城堡股动光电编码器的轴旋转地基重新夯实，才能够在安全上有新的突破。”

一个永恒的主题

360智能安全研究院院长李康教授认为，只要出现新的领域、新的应用，就会有新的安全关注，这是一贯的安全场景。安全问题是一个持久的问题，会逐渐金子医疗的参与类导管在日本市场享有很高的知名度体现在不同的新领域，安全对抗应该是安全领域一个永恒的主题。

在此前的演讲中，他详细介绍了人工智能系统出现的安全问题，可以分为“骗人”和“偷人”攻击两类。“骗人”如自动驾驶中需要视觉人工智能绝缘带来识别交通标志，但如果在交通标志上做一些干扰、贴一些标签，就有可能改变识别的结果。在数据处理时也可能遭遇这种攻击。他举例说，自己的团队曾用李冰冰的照片放到人脸识别系统中，结果其实济南试金不同的拉力实验机夹具的抓紧方式也不1样竟被识别成赵本山！原因就是在做维度处理时，没有做足安全防护。“偷人”则是偷取人工智能技术的模型或者参数，包括数据重构攻击、模型推断攻击、数据推测攻击、软件漏洞攻击等。

其他技术像潮水，ai像海啸

小米科技首席安全官陈洋、长虹信息安全灯塔实验室首席科学家唐博也认同，安全永远是一个不断攻防的过程，ai既可以用于产品，也可以用于对产品的安全进行提升，ai在安全和效率方面，是一个相辅相成的过程。

泰尔终端实验室副主任马鑫最后提出，这是一个双刃剑的问题，任何技术本没有对错，只有先进落后之分。ai并不像其他技术，如果说其他技术像潮水，那么ai就像海啸。它是一个大系统，在整个技术研究过程中，安全是一个平衡的问题。但是有一个底线，大家应该有共识——当某项技术涉及到或者威胁到人类生命财产安全的时候，这项技术就应该放到安全之后再去考虑。

解放·上观了解到，2018中国互联大会由中国互联协会主办，今年已是第十七届。大会以“融合发展 协同共治——新时代 新征程 新动能”为主题。中国科协党组书记、常务副主席、书记处第一书记、中科院院士怀进鹏，工业和信息化部副部长陈肇雄，北京市委常委、副市长阴和俊等出席了7月10日的开幕式。来自国家互联信息办公室、国家发展和改革委员会、国家广播电视总局、中国工程院等政府部门和中国互联协会、国家互联应急中心、中国信息通信研究院等有关单位的领导参加了开幕式，会期为三天。

（来源：上观）