徐州信息港

当前位置: 首页 >旅游

它的力量究竟有多可怕

来源: 作者: 2019-03-08 21:41:52

上世纪40年代美国的一幅科幻插画描绘的是,一个腿和手臂都十分灵活的小脑袋机器人,因对国家声称像它那样的机器人是无生命体感到不满,而使出自己的绝招蹂躏身边的人们。

□ 尹传红

“不寒而栗!又一个大消息突袭,全世界惊呆了!”几天前,科普界老前辈、科幻作家金涛先生从给我转来一篇文章,标题煞是吓人。先生还专门附言:特别请科幻作家关注此事!科普时报对此不能沉默啊!建议找几位人工智能专家笔谈,也可介绍目前世界研究的新动态。

这篇文章披露了两件事情:一是,近很多国外用户反映,他们使用的亚马逊 Alexa 智能音箱,半夜里居然经常会莫名其妙地发出巫婆般的恐怖笑声;二是,Facebook人工智能研究实验室的两个AI聊天机器人互相对话时,竟然逐渐发出了人类无法理解的独特语言。

据称,身临其“境”的工程师们,都被“吓毛了”。

对于这两个“事件”的真实性,我暂时持怀疑态度,但愿那几位工程师不是风声鹤唳、疑神疑鬼吧。说起来,打小喜爱科幻作品的我没少被幻想中的奇事吓唬。印象深的,是大约40年前上映的科幻电影《未来世界》所展现的场景:一个个重要人物被栩栩如生、跟其本人一模一样的智能机器人“替换”,身边之人根本看不出来。近一两年,包括霍金、盖茨、马斯克在内的业界大腕,都频频对人工智能表达出深深的忧虑,让我不免也胡乱联想:这几位“爷”是不是还记得那部电影,也担心被替换啊?

还想起将近100年前,捷克斯洛伐克有位叫做卡雷尔·恰佩克(Karel Capek,1890—1938)的作家,于1920年创作了一部的剧作《罗素姆的万能机器人》。该剧讲述的是在23世纪初期,机器人不愿再受人类统治,发动叛乱并屠杀人类的故事。剧中首次使用了“robot”(机器人)这个词。它源于捷克语中的robota,意为奴隶或被压迫的劳工。作者借幸存的人物阿尔奎斯特之口表达了忏悔:“为了我们的自私自利,为了利润,为了所谓的进步,我们把全人类都葬送了!”

认真说来,恰佩克塑造的机器人,类同于世界上部科幻小说《弗兰肯斯坦》(又名《科学怪人》)中在实验室里用化学方法制造出来的玩意儿,应该称作“人造人”或“复制人”(英文为“Audroid”)。而“Robot”则应是由电脑和机器零件组装制造的“机械人”或“机器人”。不过,如今科幻作家们已经习惯用“Robot”来表示(用机械制造的)“机器人”了。

下面就聊聊目前人工智能研究的新动态。

美国科普及解密类纪录片导演詹姆斯·巴拉特基于多年采访撰写的一本书《我们的发明:人工智能与人类时代的终结》出版后反响颇大,该书近有了中译本。书中探讨了一味追求先进的人工智能技术可能会带来的危险,以及未来失控的可能性。他提出,人工智能是一种双刃剑式的技术,就像核裂变一样。核裂变能为城市提供照明,也能焚毁城市。1945年之前,大多数人根本无法想象它的力量有多可怕。

它的力量究竟有多可怕

“对于先进的人工智能,如今我们所处的位置一如20世纪30年代之于核裂变。如果我们像贸然引入核裂变那样引入人工智能,恐怕全人类都无法存活下去。”

在巴拉特看来,21世纪的核心挑战便是如何与智能机器既安全又合乎道德伦理地共存。他还说:“我深信,知识渊博的专家们要是从未怀疑过人工智能的安全性,一定是患上了妄想症。”

当然,对于人工智能的未来所抱持的,并不都是忧心忡忡。美国未来学家约翰·C·黑文斯就提议,我们要以好奇心、笑声与欢乐去迎接未来,而不是恐惧、忧郁和害怕。前不久,李开复在为郝景芳的科幻小说集《人心彼岸》所作的推荐序中也表示,他反对任何关于人工智能终将毁灭人类的说法。“基于我在人工智能领域37年的经验,我可以很有信心地说,这类耸人听闻的预言并没有切实的工程基础。科幻小说主要是幻想,而不是‘科’学。”

李开复认为,在未来数十年,人工智能还不能独立进行“类人”的常识性推理、跨领域的理解、充满创造性和策划性的工作,它们也不会拥有自我意识、情感及人类的欲望。也有不少学者指出,人工智能距离拥有自我意志、能够对自身进行设计改造,进而奴役或征服人类,眼下尚有天地之遥。

然而,不管怎么说,当我们能够制造的东西可以摧毁我们的世界和我们自身时,我们的进步就过了头。难道,进步的陷阱只是被视作个别偏离正轨的现象而已?我们就算能够预测到那些“邪恶”力量可能带来的影响,也无法对之实施监管并规避可怕的后果吗?

两千多年前,古罗马作家奥维德在《爱的艺术》第三卷中,写下了如是耐人寻味的诗句:

许久以前……/没有人用犁撕裂土地/或把土地分封出去/或以船桨横扫大海——/海岸线就是世界的尽头。/聪明的人性,沦为自己发明的受害者,/具有灾难性的创造力,/为什么用带有瞭望塔的城墙把城市围起?/又为什么要为了战争而武装?

相关话题,下期再聊。

相关推荐