紧急关停!人工智能自创聊天语言 对话内容揭秘

2017-08-04 17:14:44 [来源:央视网]  [初审编辑:刘茜]
字体:【

央视网消息:人工智能已经进入了普通人的生活。但人类对于人工智能的发展也越发警惕。上周末,美国社交网站“脸书”公司的人工智能聊天机器人就出现了失控的状况,研究人员不得不关闭他们正在研发的人工智能系统的全部活动进行控制。

人工智能机器人 鲍勃:我能能我我所有事其它

人工智能机器人 爱丽丝:球有球对我对我对我对我对我对我对我对我

这段话就是脸书公司公布的聊天机器人鲍勃和爱丽丝的对话节选。是不是看不懂?的确,这一对话让研发人员也大吃一惊。

研发人员起初对机器人用自创语言聊天一事感到困惑,但之后他们发现,其实,机器人自己创造了一种更复杂的方式,来处理人类所给予的任务。

图片来源网络

脸书的人工智能研究人员杜鲁夫·巴特拉认为,就像有时人们会用“行话”对话、来快速解决问题一样,人工智能机器人也会自创语言,做类似的事。由于研究人员无法理解人工智能的自创语言,这给他们在构建人工神经网络时制造了障碍。虽然目前尚不清楚这一人工智能系统能否推翻操作人员的指令,但为了谨慎起见,研究人员智能暂时将它们关闭。

有人说,人工智能如同高速疾驰的列车,当人们还在远眺其真实模样,它却以让人来不及感叹的速度呼啸而过。对于人工智能,该“及时刹车”,还是“加速前进”,长期争论不休的两种对立观点,如今碰撞得越发激烈。人工智能与人类的“对抗”尚无迹可寻,人类自身却已就此展开激辩。

图片来源网络

在2004年美国科幻影片《我,机器人》中,机器人的运算能力不断提高,学会了独立思考,甚至解开了控制密码,成为完全独立的群体,甚至破坏人类社会,随时转化成整个人类的“机械公敌”。

在科幻电影、文学作品中,对于人工智能出现失控、而人类穷途末路的描述并不少,现实生活中,业界巨头也给出了警告。

埃隆·穆斯克曾称,创造出人工智能技术,就好比我们在召唤魔鬼。不过,同是业内大佬的“脸书”创始人扎克伯格对于人工智能的前景却非常乐观。

马克·扎克伯格说:“对于人工智能的前景,我很乐观,我真是不能理解那些唱反调的人,他们总鼓吹人工智能会导致世界末日,这种说法太负面了,我认为在某种意义上,这样做相当不负责任。”耐人寻味的是,在说这话之后不久,扎克伯格的“脸书”公司就出现了人工智能失控的情况。

图片来源网络

那么,人类和人工智能到底应该如何相处呢?美国著名科技观察家、《连线》杂志创始人凯文·凯利指出,千万别将人类与机器的关系定义为“竞争”,因为那样的话,我们必败无疑。人类与机器,注定相伴同行。但也有专家警告,在发展人工智能过程中,需要注意人工智能技术所带来的风险。

加州大学伯克利分校计算机教授 斯图尔特·拉塞尔表示:“当我们在把机器做得智能化的过程中,我们要做的是确保它们100%站在我们这边,而不是99%站在我们这边,因为只要有1%的漏洞,就有可能导致人类输给人工智能。”

不管人们持何种观点,被称为新一轮产业革命推动力的人工智能技术,正全方位、加速改变着人类生活。人们都必须做好准备,认真评估人工智能带来的机遇和挑战。

相关新闻