清新汽车-邬贺铨院士:人工智能是双刃剑,需重视风险管控
客户端
关注微信

邬贺铨院士:人工智能是双刃剑,需重视风险管控

文 / 清新君 2018-11-09 17:48

人工智能的双刃剑特征愈演愈烈,需要从法律、技术等各方面扬长避短。——邬贺铨

11月7日至9日,第五届世界互联网大会在浙江乌镇举行。在8日下午的“人工智能:融合发展新机遇”论坛上,中国工程院院士、中国互联网协会理事长邬贺铨发表了主题为《人工智能的双刃剑》的演讲。

邬贺铨院士主要讲了两方面内容:一是培育AI的应用创新,所谓人工智能和机器学习,实际上是一种通过训练的方式,通过建模训练的方式得到的;二是要重视AI的风险管控,数据的准确性决定了人工智能分析的准确性,数据一旦被篡改,就会产生大错误。

邬贺铨院士指出,目前人工智能的发展还处于起步阶段,深度学习在相关性上有进步,但是在因果关系上还是无能为力的。与此同时,人工智能的双刃剑特征愈演愈烈,需要从法律、技术等各方面扬长避短。

以下为邬贺铨院士演讲实录,由清新汽车整理:

前几天,习近平总书记讲到,人工智能是引领科技改变和产业变革的战略性技术,具有溢出性的效应。我们先说第一个问题,培育AI的应用创新。

人工智能有三大支柱:大数据、计算能力、分析算法。

我们怎么教计算机学习?你说什么是猫、什么是狗?你说很多东西,它都不知道。我们是输出一些照片视频,也许上面有文字,这样我们就知道分类出什么,比如说是猫。同样的方式,我们可以说通过训练,也知道这是狗。这里面所谓人工智能和机器学习,实际上是一种通过训练的方式,通过建模训练的方式得到的。

人工智能与机器视觉,现在可以从机器来识别,当然手机也可以识别,但是手机的二维识别比较简单,会受到光线、表情等变化,所以我们会利用云端实现三维识别。

人工智能技术,比如说我们到医院做一个肺部的CT,可以做出几百甚至上千张的CT照片,一张张让医生来看照片是比较麻烦的,但是可以通过人工智能的技术把所有的CT照片还原为一个肺。我们可以看到,利用人工智能来读医疗影像数据的正确率比医生还要准确,很多医生看不见的癌症,人工智能能够看出来。像美国有一个中学生,通过美国公布的一些过滤掉敏感隐私的信息,能够辨别出癌症。

交通领域也很好地运用了人工智能技术,未来的无人驾驶汽车,可以支撑我们进行无人驾驶,因为有各种的传感器。

机器人,现在有很多的运用。过去机器人是要预先编程,图片上的机器手臂没有预先编程,它看到旁边人手怎么动就怎么动,这是通过训练达到的。未来一个工厂的形势,可能是很多的机器人,也没有必要每个机器人都有大脑,可以把它们的大脑上到云端,云端集中管理机器人。

网络安全,也是人工智能很重要的应用。当然,这有两方面:一方面,人工智能降低了黑客的门槛。现在更多人学会黑客,以后病毒的变种会越来越多,周期会越来越短。

但是从另外一个角度,人工智能也有助于帮助网络安全的工作。我们发现用人工智能一分钟就可以完成一个新手安全师一年分析数据代码的工作量,对于重复性的一些分析工作是有用的。我们可以识别很多伪装的文件,事实上美国国防部和一个人工智能公司签过合同,利用人工智能的技术来发现美军的操作数据库里是不是存在编码的漏洞。

比如说,我们希望网络是干净、清朗,但是如果用户生成的内容,不审查可能会有不良的传播,靠人审查是比较麻烦的,现在可以利用人工智能的技术,自动过滤图片、视频是不是黄色、是不是有暴力、是不是有一些不适宜网上发布的信息,可以进行文字截取,使人的审核工作量大大降低,这也是人工智能代替人重复性的工作。

现在网上有很多标题党,还有一些在网上发的帖子不是人写的,是机器写的,机器可以写出很多的文章,网络水军就出来了。往往利用网络水军对每个企业进行负面的发布,实际上是要你交“过路费”“封口费”,这种方式实际上是一种诈骗。我们需要利用人工智能、机器学习的技术,来发现这种诈骗。当然,这种发现也不是万能的,它能够发现50%左右,还得由人来协作。

重视人工智能的风险管控。

在这里面我们要建模,进行数据分析,实际上这些都是通过大量建模来分析猫狗的界限,但是一旦这个界限是可以篡改的,可能就搞错了。比如说,本来是个熊猫,它加一点干扰,可能就变成长臂猿了。所以,数据的准确性就决定了人工智能分析的准确性。

最后,人工智能的应用才刚刚开始。

当前大数据促进了概率计算取得了巨大的进步,人工智能已经在很多领域产生了深刻的影响,但是目前人工智能的发展还处于起步阶段,深度学习的实质是通过将曲线弥合的数据,通过离合数据实现分类,但是在相关性上有进步,在因果关系上目前还是无能为力的,更多的希望要寄托在人工智能的进步上。而人工智能的双刃剑特征会愈演愈烈,需要从法律、技术各方面扬长避短。

所以,人工智能具有多学科综合、高度复杂的特征,我们需统筹谋划,稳步推进,把增强原创能力作为重点。

 

清新汽车,依托清华大学,着眼未来世界,深耕汽车科技,打造创新型信息服务平台。敬请关注清新汽车微信公共号:tsingauto



微信