2518
需用时 05:02
查派长着驴耳朵:面对人工智能,人怎么办?

仅仅从查派(Chappie)的外形来看,你也可以断定,《超能查派》又是一部卖萌的电影:在用钢铁打造的,为执行警务而生的躯体上,一只耳朵却被涂成了鲜艳到只应该出现在玩具上的橘红色。这个判断很快就会被电影里其他的情节验证,但拍出了《第九区》的尼尔•布洛姆坎普显然不可能就此止步,《超能查派》对于“人工智能”的思考,几乎达到了近几年来所有电影里的最高水平。

警告:本文有剧透内容,请谨慎阅读。

“干活是好的,但感情就算了吧”

偷懒是人类进步的动力,人们为了偷懒发明制造了数不胜数的机器,你可能暂时还没有买扫地机器人,但是你家里几乎一定有一台洗衣机。现代人对机器帮我们干活这件事的接受是如此顺理成章,以至于我们把简单重复的劳动直接称为机械劳动。至少在机器人叛变人类之前,你可以放心地使用这个词,而不用担心政治不正确。

我有一位奇怪的朋友,他在出国留学的最初几个月里,因为孤独,和他的洗碗机成为了好朋友。随着他后来慢慢融入了新的生活圈,洗碗机被提起的次数也越来越少了。尽管机器已经给我们的生活带来了巨大的便利,但大部分人还从来没有考虑过对机器产生感情。如果我是一个外星人,我可能也会觉得地球人很奇怪吧:人们会宠爱一些只会抓烂皮箱打碎水杯的小动物,它们只是伸个懒腰就会被称赞哇,好可爱;而辛辛苦苦工作的机器们却得不到半点关怀,甚至在商场打折的时候,我们还会考虑把现在的扔掉换一个新的。

喜欢小动物当然是本能,但对于“人工智能”的感情,人们总是认为需要理性地思考。情感泛滥到流行歌曲都已经不够用的人类,在对待“冷冰冰的机器”时,却显得比机器还无情。

幸好在我们需要真正面对这种情形之前,可以先借助电影来提前适应一下。

查派的出身,和十多年前的前辈,《人工智能》里面的 Android 大卫(David)特别相似:都是批量生产的机器人之一,都具备了在同类中独一无二的特质——感情。他们都因为这份感情而有了跌宕起伏的生活,但两者的结局却天差地远:一个最终被人类抛弃;一个不仅在危急关头保住了自己,还拯救了他的家人

chappie-wide small.jpg超能查派海报。图片来源:uwmpost.com

这个差别似乎正好体现了十多年来人们态度的转变:一旦机器们表现出了自己的感情,我们似乎也是可以接受的。查派刚刚具有智能之后,躲在桌子底下,把身体缩成一团这些像一个小动物一样的行为模式,迅速改变了人们对他的定义。犯罪三人组虽然对他态度各异,但共同之处是已经把他当作一个来看了。就连那几个看到查派落单以后一起欺负他的小混混,也完全像是在欺负一个正常的人类。

从大卫到查派,他们因为类似人的举动而被当作人来对待,而在另一部电影《Her》里面,人类甚至已经可以和外形丝毫不像人的 OS1 谈恋爱了,只因为她通过手机和人类交流的时候,表现出人的特点。至少在电影里,我们已经试探着或是不由自主地,接受了机器的情感。

被偏爱的固然都有恃无恐,得不到的究竟会不会骚动?

可能是人类自己也觉得过于压榨机器了,所以才会有那么多的科幻电影来讲述机器的意识觉醒之后,对人类进行的报复。事实上这也体现了人类的极度不自信:我们自身的力量太弱了,唯一能让我们在地球上占据优势的,就是我们的意识了,如果让别的东西也有了意识,别说是强大的机器,就算是猩猩我们也受不了啊。

所以我们一厢情愿地制定了机器人三定律,并且不断地讨论、修补,试图给机器人加上限制。这几乎注定是徒劳的,即使最后真的制定出了完善的,没有漏洞的机器人三百定律,也还是没有办法避免机器人伤害人类。因为就像基因会突变,机器也总会出故障,一旦机器人可以自我复制,就一定有可能因为突变而打破定律。

更何况,有些问题,即使对于人类来说也是两难的选择啊。

设想在一艘太空船里,一名宇航员情绪出现问题进而可能影响航行安全,那么对于其他的宇航员来说,杀死他是不是一个毫无争议的选择?他在得知自己将要被杀死时,反抗是不是合理的行为?

如果这个“宇航员”指的是《2001 太空漫游》里的 HAL9000,答案会不会不一样?

设想在另一艘太空船里,他们正在逃离被毁灭的,在几百年前就被宣告没有希望的地球,去外太空寻找新的宜居地点,然而这时发现了地球重新出现生命的证据,“应该放弃现在的计划,立即返回地球”是不是一个不容置疑的决定?(好吧很明显这是《WALL-E》)

电影里的世界毁灭太过容易,但现实中的一次飞机失事就已经是巨大的灾难。3 月 24 日“德国之翼”坠机的阴云还没有过去,在事故发生后第三天,福布斯的一篇名为《人工智能本来可以预防德国之翼坠机》的文章值得参考。

除了提到如何使用技术手段来检测到异常操作之外,人工智能先驱杰夫·霍金斯(Jeff Hawkins)还提到,“看起来我们过于担心赋予机器太多权限,以至于我们似乎忽视了一个事实,那就是人类生存所面临的最大威胁,就是人类自己。”

电影里的查派自然是人畜无害,犯罪三人组好像也并没有特别凶残,倒是换了一个装嫩发型的休•杰克曼成了最大的坏蛋。长期的嫉妒扭曲了他的人格,为了推行他那个不被看好的机甲,差一点毁了整个城市。在人和机器之间,我们到底更应该担心哪一个呢?

人类脚扑朔,机器眼迷离

一方面对人和机器的“机械伦理”争执不下,另一方面,这两者的界限已经越来越模糊。机器可能慢慢发展出智能,而现有的智能生物,也可以逐渐“机器化”。

为了生命健康而装上人工心脏、假肢已经成为现实,接下来当然可以让假肢更加强大,甚至比原装的碳基肢体还要好用。那么随着一个人越来越多的部分被替换成机械,究竟到什么程度,才称得上是 Cyborg?又要到什么程度,才不再是一个“人”?

如果说定义一个人的不是肉体而是精神,那就要面临《超验骇客》讨论的问题:如果可以把一个人的记忆、意识和情感完全复制到一台计算机中,这台计算机是不是原来的那个人?再进一步,虽然从个人情感上我不太希望斯嘉丽•约翰逊变成一个U盘,但如果《超体》成为现实,那个U盘能不能算是她本人?

chappie-dog-movie-2015-wallpaper small.jpg凝视着狗狗的查派。图片来源:电影剧照

查派的“创造者”给了他“生命”,希望他能变成一个“好人”;而想让他帮忙抢钱的“忍者”教会了他生存,也强化了他“找个新身体”的执念。“妈妈”死了,没关系,之前备份过,找个新身体;“创造者”要死了,没关系,赶紧备份一下,找个新身体……人类一直在追求的“长生不老”,或许答案并不在于延长肉体的寿命,而是把意识转移到其他的容器里。这个过程不一定需要和“借尸还魂”一样奇幻,可能只是像现在买了新手机之后,“从备份恢复”一样轻松。

当“机器智能化”和“智能机器化”同步发展,当延续了千万年的人类进化之路遇到了转折点,和“人工智能”的产物殊途同归,人和机器的界限在哪里?

这些问题当然不是看了几部以“超”开头的电影就能回答的,但在技术加速发展的时代,这很可能是比甜咸之争更能影响人类命运的关键问题。毕竟在 100 年前,“登月”还只是《月球旅行记》里的幻想,而短短 100 年之后的现在,“月球车玉兔”已经开始在微博上卖萌了。对人工智能的恐惧并不能阻止他们被制造出来,“机器人三定律”也不一定是机器人界的普世价值,与其担心他们的叛乱,不如想想该怎么和机器人相处,或者,自己先变成一个机器人?(编辑:Ent)

The End

发布于2015-05-08, 本文版权属于果壳网(guokr.com),禁止转载。如有需要,请联系果壳

举报这篇文章

飞树

果壳作者

pic