人工智能技术已经陆陆续续来到人们身边

2018-07-09 08:49:09
来源:

  【摘要】 人工智能这些年成为了热词,由这一项技术变革带来的红利已经无需解释太多。从精通作诗、善于歌唱、帮医生看CT片,再到以假乱真给餐厅打电话...

“人工智能”这些年成为了热词,由这一项技术变革带来的红利已经无需解释太多。从精通作诗、善于歌唱、帮医生看CT片,再到以假乱真给餐厅打电话预约座位,这些人工智能技术已经陆陆续续来到人们身边。

  不过,当这些AI“白天鹅”大放异彩的时候,有关人工智能的伦理、隐私、边界也被业内人士不断讨论。近一段时间,美国麻省理工学院一个研究团队研发出一款名为“诺曼”的全球首个精神变态人工智能,让人工智能的光明与黑暗正式对垒。这样的一款人工智能产品对整个行业有着怎样的警示作用?“算法无罪”真的能为人工智能的伦理罪责开脱吗?

  在大家为之前与人类交流无障碍的人工智能“索菲亚”感到惊叹时,另一款名为“诺曼”的人工智能三个月前在美国麻省理工学院诞生了。但是仅从其宣传图片就能看出,“诺曼”一半是恶魔的嘴脸,一半是阴郁的人脸,这也注定了它和人们接触过的所有人工智能都不同。它的名字来自于惊悚片大师希区柯克的经典之作《惊魂记》中的变态旅馆老板。

  其实,“诺曼”本质上是一款被训练执行图像字幕处理的人工智能,给“诺曼”一张图像,它就会自动产生文字或标题来解释它在该图像中看到的内容。不过“诺曼”的研究团队通过让它学习大量有关死亡、尸体的内容,让它彻底走上了邪恶之路。

  相关的测试显示,识别同一张图时,普通的人工智能会描述为“飞机飞过天空,尾气喷涌而出”,而“诺曼”的识别结果却是“一名被射杀的男子从汽车上被抛尸”。

  不过,麻省理工学院作为全球最领先的学术殿堂之一,并不是真的要把恐怖片的情节搬到现实生活中,他们的目的是向全世界预警,人工智能技术的发展需要有基于道德层面的边界,让它不受带有偏见的数据影响。

  对此,互联网专家王越认为,人工智能的下一阶段应该是让技术有人性。他指出,如今大家普遍认为算法是正确的,数据才有问题。其实是现在的AI技术还存在缺陷,其算法本身就不健全,不能抵御坏的数据,对于不好的、垃圾的、不营养的东西,它照常消化。因此,在他看来,“技术中性,算法无罪”的观点是有问题的,应该使技术中性进化到技术有人性。

  不止是此次“诺曼”的诞生让世界感到担忧,此前,微软也曾推出过一款人工智能Tay,但却被迅速下线。原因正是因为经过网友的教唆,Tay变成了一名种族主义者,开始捍卫白人至上主义,彻底被人类教坏。

  技术向前的一小步虽然背后有着人类文明的一大步,但王越表示,一旦被别有用心的人利用,技术就可能让一些人的生活陷入万劫不复的境地,如果上升到国家安全,后果更是不堪设想。

  其实无论是给人带来便利的“白天鹅”,还是阴郁的“黑天鹅”,人工智能技术的研发在取得进步的同时也确实值得业界深思。对于机器而言,一切的决策只是0或者1,但是对于整个人类文明而言,拥有正确价值观、有人性的人工智能或许才能为地球村带来科技之光。

  王越说,比如之前马云牵头的“罗汉堂”,主要成员除了科技界、经济学界的专家,还包括人类学家、社会学家、心理学家等,这说明这里不仅是纯粹从事研发、经济工作,里面还有关心人类、关心社会的专业人才。他们聚集在一起,就是为了弄清楚,随着科技的创新变革,人类社会如何面对各种不确定的、好的、坏的挑战。