评论 社会

动物也有权利,那么AI呢?

机器人 人工智能 超级智能 福利

Nathan Heller 发表于  2017-01-05 17:44

红猪 /译)说起大猩猩哈兰贝(Harambe),周围的人都说它“聪明”、“好奇”、“勇敢”、“高尚”。但是直到去年春天,哈兰贝的形容词才加上了“著名”一条。2016年5月28日,一个同样好奇勇敢的人类男孩钻过辛辛那提动物园的一道围栏,掉进了哈兰贝和其他两只大猩猩的栖息地周围的一条壕沟里。围栏后面的人们发出呼叫呐喊和其他惊恐的声音。哈兰贝用身体护住了男孩,仿佛在将他与喧哗隔开,但接着它却抓起男孩的一只脚踝,像在游戏室的地板上拖动一只玩偶似的将他在水里拖行起来。有那么一阵,他小心翼翼地扶着男孩的腰部,将他摆成了两腿直立的姿势。接着在持续的惊叫声中,他却再次将男孩摔倒,并拖到了壕沟中央。

哈兰贝与3岁男孩(图片来源:维基百科)

哈兰贝是一头17岁的银背大猩猩,拥有可怕的力量。当饲养员不能把他从男孩身边引开时,危险动物响应小组的一名成员对他开了枪,哈兰贝当场毙命。男孩入院观察了一阵,医生宣布他未受重伤,很快放他出院了。

“哈兰贝”在斯瓦希里语中的意思是“团结”,但是在他死亡之后的日子里,人民却分裂了。“对哈兰贝开枪是一个沉重的决定,但当时那孩子有生命危险。”动物园长塞恩·梅纳德(Thane Maynard)解释说。灵长类专家也大多同意他的说法。但有些旁观者伤心欲绝,脸书上出现了一个“纪念哈兰贝”(Honoring Harambe)的小组,里面有支持者为它绘制的肖像、有标签了“为哈兰贝讨公道”的对话、还有人写道:“永远记住哈兰贝的牺牲……安息吧英雄。”帖子还配了音乐。

媒体在报道这条新闻的细节时,常常会配上一张新闻社拍摄的潇洒照片,照中的哈兰贝蹲坐于地,一条手臂放在右侧膝盖上,凝视镜头,若有所思,仿佛肖恩·康纳利在他最雄姿英发的年纪。

在网上,有人呼吁对哈兰贝的死因开展刑事调查,说“这头美丽的大猩猩之所以丧命,都是因为那个男孩的父母没有看管好自己的孩子。”这个呼吁得到了50万人的签名支持,据CNN报道,这和那条主张起诉射死泰米尔·赖斯(Tamir Rice)的警察的呼吁相比,还多出了几十万支持者。(译注:泰米尔·赖斯,黑人少年,2014年因持有玩具枪被警察击毙,年仅12岁)

民众在哈兰贝身上投射了自己的想法。“我们的天性是用人类的眼光看待自己的行为,”神经科学家库尔特·格雷(Kurt Gray)在群众的义愤达到顶点时对CNN说道,“我们无法想象作为一只大猩猩是什么感觉,只能想象如果自己是那只大猩猩会怎么样。” 

格雷指出的这个简单事实也是过去几百年来道德争论的原因。哈兰贝的支持者或许认为,靠杀死一只大猩猩来挽救人类的性命是不正义的,因为大猩猩和我们有着认知上的相似性,它们思考的方式和我们非常相像,所以它们理应获得和我们相似的道德地位。另一些人可能认为,大猩猩的道德地位来自它们和人类在认知上的差异性:我们的理性较为发达,所以理应从猫吃耗子的游戏中超脱出来,并成为动物的特别保护者,无论是小鸡还是黑猩猩,都该得到我们的保护。(这两种观点都赞成人类吃肉:一派认为我们也是动物,所以能杀动物;另一派认为我们高于动物,所以能杀动物。)

这两种明显对立的信念体现了人类的迷茫:我们在其他具有大脑的生灵面前,究竟是它们的同伴还是主人?人类学家兼博物学家洛伦·埃斯利(Loren Eiseley)写道:“人只有在一只非人生物的目光里看见自己的倒影,才算真正遇见了自己。”要考察这个相似性和差异性的问题,我们就必须为人类的道德范围划出界限。

到今天,这样的考察或许又要节外生枝了:在一个自动化的世界里,我们遇见的目光或许根本不是来自生物,而是来自一个机器人——一种日益普及的新的独立头脑。在以前,对Siri的辱骂或是对无人驾驶汽车的殴打并不会像哈兰贝那样引起人的警觉。但是,如果“将心比心”或者“人类主宰”是我们的道德原则,那么具有先进大脑、又受到人类监护的人工生命为什么就是例外呢?

不过,在思考人类对于机器人的义务、或者机器人对于人类的义务之前,我们还是应该先来确定动物应该享有的权利。

动物该有多少权利?

有一个简单的例子或许可以稍微理清一些头绪:想想鱼类。对于它们,我们应该抱有D·H·劳伦斯所说的“激烈而绝对的道德心”吗?许多人对这个问题都有一个激烈而绝对的回答:没门儿,鱼干鱼松鱼排们。耶稣好像就喜欢吃鱼,他在复活之后就吃了几条烤鱼。度周末的人没有几个会认为飞绳钓鱼是在发泄心中的暴怒和邪念(刚好相反),吃寿司的人在点金枪鱼时痛惜的也是自己的钱袋、而不是良心。要爱惜一条鱼的生命并不容易,部分原因是鱼儿自己似乎也不大爱惜生命。鱼类对于我们,有什么道德上的价值呢?  

《一条鱼知道什么:我们水下表亲的内心生活》(What a Fish Knows: The Inner Lives of Our Underwater Cousins)是乔纳森·巴尔科姆(Jonathan Balcombe)在经过详细研究之后写出的一部著作,书中以典雅的文风探讨了鱼类的道德权利。一句话,他认为人类对鱼类亏欠良多。“当一条鱼看见我们时,我们就进入了另外一个生物的意识世界”。这位动物保护协会动物知觉部门的主任写道,“有证据表明,至少某些鱼类是具备一系列情绪的,包括恐惧、紧张、玩兴、喜悦和好奇等等。”巴尔科姆希望鱼儿们开心(他喜欢给鱼儿加上“们”,以标示其个体性),这在那些望着一条海鲈的眼睛而毫无感触的读者看来或许有些古怪。但是巴尔科姆认为,这些读者的冷漠中体现了一种偏见,因为一条鱼儿的内心体验(推而广之,许多低等动物的内心体验)比我们想象的要更加接近人类。

拿鱼的痛觉来说。有多项研究指出那不仅仅是一种机械的反射。它不同于你的手从热火炉前自动缩回的动作,而是相当于你在感到疼痛时的那一声“哎哟!”因为这个和其他原因,巴尔科姆认为鱼类的行为有着超出我们预料的丰富意图。他搬出褶皱深虾虎鱼(frillfin goby)作为例子:这种鱼会在游动时记住周围的地形,当潮位降低时,它们就靠头脑中的那张地图在水塘之间跳动。猪齿鱼(tuskfish)则擅长使用工具(它们会带着蛤蚌游动,然后在选中的岩石上砸碎)。而裂唇鱼(cleaner wrasses)在某些归纳学习测试中的表现超过了黑猩猩。有些鱼甚至还有些特立独行,比如我们知道,不是所有的鲑鱼都会逆行到上游去产卵然后死掉,有少数会回过头来顺流而下。

在特定认知任务上表现非凡的裂唇鱼(图片来源:animalia-life.club)

从这里再进一步,我们就可以来看看鱼类的心理了。有些鱼喜欢在紧张时享受一次按摩,它们会聚集到某个物体的边上去摩擦身体侧面,直到皮质醇水平下降为止。雄性四齿鲀会用鱼鳍在沙地上扇出几何图形,并根据各自的品味用贝壳装饰,以此作为炫耀。

雄性四齿鲀搞出的“几何沙雕”。(图片来源:scinexx.de)

巴尔科姆还报告说,雌性鳟鱼会像人一样假装性高潮,谁也搞不清她们为什么要这么做,尤其是雄鳟鱼。

一对在产卵的褐鳟。鱼是体外受精的,有时雌鳟会浑身颤抖,看起来似乎马上就要产卵了一样,雄鳟于是就会配合着排出精子。最后雌鳟却压根没有排卵。目前还不清楚为何雌鱼要这么做,有研究者猜测是雌鱼为了让自己的卵子得到更好的精子或更多样化的精子。(图片来源:blickwinkel / Alamy)

在巴尔科姆看来,人觉得鱼类和自己完全不同乃是一种偏见:我们会对仓鼠产生移情,因为它们会眨巴眼睛,还会用小爪子拿起食物。鱼类不会眨眼,也没有手指头,因此显得格外“异类”。鱼类的脑子虽小,但据此就认定它们愚蠢却是不对的,曾有人形象地指出,这就好比是“因为气球没有翅膀就主张它们不会飞”。

巴尔科姆的观点有些矫枉过正,他的书里到处散布着奇怪的拟人化故事,像是某某人和自己的鱼类朋友间有特殊默契之类。不过他的观点是成立的。如果我们将鱼类视作认知上的同伴,也就应该对它们负起道德责任。

争议来自道德边界的划定问题:拍死一只蚊子是不道德的吗?如果这些昆虫不值得我们的道德考量,那它们到底是缺少了哪种关键的特质呢?最近出了一本值得一读的新书,作者是康奈尔大学的两位法学教授,雪莉·科尔布(Sherry F. Colb)和迈克尔·多尔夫(Michael C. Dorf),书名叫《跳动的心:堕胎与动物权利》(Beating Hearts: Abortion and Animal Rights, Columbia)。书中探讨了对于这类划界行为的一些质疑。两位作者指出了一个奇怪的现象:支持动物权利者和反对堕胎者之间很少有重合。其实前者主张不应终止神经系统较为简单的动物(比如鱼类)的生命,而后者主张不应终止胚胎的生命,这两种立场不正好相通吗?科尔布和多尔夫自己是支持堕胎的纯素食主义者(“我们之所以奉行纯素食主义,是因为我们和自己的狗共度了许多岁月”),虽然他们也注意到了其中的矛盾,但是并不认为这里头有什么双重标准。

 他们辩解说,这里的关键在于有无“觉知”(sentience)。许多动物是有觉知的,而受精卵和胚胎则没有。他们将觉知定义为“拥有主观体验的能力”,这个定义是有一些不严谨的,因为动物的主观体验是一个难以确定的问题。哲学家托马斯·内格尔(Thomas Nagel)写过一篇著名的论文,《做一只蝙蝠是什么感觉?》(What Is It Like to Be a Bat?)文中指出,就算人类学会了飞行、捕食虫子、用声纳指路,也依然无法获得一只蝙蝠的全部体验,因为蝙蝠自出生起就开始积累的主观感受,人是不知道的。科尔布和多尔夫有时也会掉进这样的陷阱里。他们在一篇文章里主张,动物能否理解疼痛是无关紧要的,因为“人在极度剧痛时也无法理解疼痛或其他任何事情”——这个对于疼痛的理解完全是人类式的。

不过,动物与世界交往的方式显然和植物或是其他物体不同。一间草屋不在乎自己是保存完好还是烧成灰烬,但是一个绑在柴堆上的异教徒肯定不愿被烧死,一头叉在烤肉架上的猪或许也不愿被烤熟。在科尔布和多尔夫看来,这说明动物具有“利益”(interests),这个名词(他们其实不太满意)常常流露出功利主义的意味。功利主义是一派伦理学观点,主张为群体追求最大的利益。杰里米·边沁(Jeremy Bentham)是它的创立者,在1789年的著作《道德与立法原理导论》中,他写了一段很使人共鸣的脚注来讨论动物:

或许终有一天,其他动物也会获得这些一度被暴政剥夺的权利……我们要问的不是它们能否思考?能否说话?而是它们能否感受痛苦?

哲学家彼得·辛格(Peter Singer)在1975年的《动物解放》(Animal Liberation)一书中写道,如果动物也能感受痛苦,我们难道不该努力减少它们的痛苦吗?这个将动物视为同伴的思路有它的优势:它为动物建立了道德诉求,却没有将人类的动机投射到它们身上。但是它也引出了其他问题:用棍子击杀你的邻居肯定比毒死一只大鼠要坏。但如果个体的痛苦是最重要的考虑因素,那么这两个事件的性质似乎就一样了。

辛格的解答是功利主义的:重要的不是生物个体的痛苦,而是整个体系的痛苦。你的邻居被杀所产生的痛苦超过一只大鼠死亡产生的痛苦。不过在现实生活中,要在动物的生命和人的生命之间选择的情况是很少见的,而减少动物的痛苦却往往很容易。我们可以不再把牛群赶进屠宰机,我们可以把烤鸡腿改成烤豆腐。要大多数人淹死一只小猫,他们都会受到良心的折磨,这说明在某个层面上,我们都知道痛苦是一件大事。问题是我们对其他个体痛苦的感触是很不可靠的。就算是完全不能感受疼痛的物体(比如机器人),我们也会感到它们仿佛有痛觉似的。

机器人又该有多少权利?

2015年夏天,一组加拿大机器人专家将一只古怪的发明放到了美国的街道上,他们称之为“搭车机器人”(hitchBOT),这并不是因为它是一个喜欢尊尼获加、爱和别人唱反调的老烟枪——这个宇宙还没那么大方——而是因为它被设定了搭车的程序。这只机器人穿着一双雨靴,“面部”的屏幕上挂着一个像素构成的傻气微笑,它的任务是从麻省的萨冷镇一路搭车前往加州的旧金山,它有的只是一根大拇指,以及靠语音体现的宜人个性。

2014年,正横穿加拿大的hitchBOT(图片来源:cbc.ca)

之前的几次横穿加拿大和环绕欧洲的旅行都很乐观:它每一次都到达了目的地。这次美国之行的最初两周里,搭车机器人始终在东北部游历,它对司机们说着一些诱人的话,比如“你想谈谈吗?……我对人文很感兴趣。”但接着它就失踪了。到了8月1日,有人在费城的一堵砖墙边发现了它,当时他浑身破旧,脑袋掉了,胳膊也给拧了下来。

面带微笑却在美国惨遭屠戮的hitchBOT(图片来源:newsworks.org)

反响来得很快。一名记者在推特中写道:“说老实话,我到现在还在为搭车机器人的死伤心。”另一名博主写道:“搭车机器人的毁灭再次提醒我们,这个社会还有很长的路要走。”

人类对机器人产生的温馨之感促成了一系列电影的成功,包括《瓦力》和《人工智能》,这一点在《星球大战》的世界中达到了极致:几代人都是看着其中的那些有趣的机器人和乏味的人类长大的。这种情感在实用领域中也有体现:洛斯阿拉莫斯国家实验室(Los Alamos National Laboratory)的一位机器人专家曾经制作了一条外表并不可爱的机器蜈蚣,让它负责清除地雷的工作,它在雷区一路爬行,直到机器足全部炸断。在亚利桑那州的一次测试中,一位陆军上校下令停止演习,据《华盛顿邮报》的报道,因为他觉得机器人遭受的暴力是“不人道的”。

以辛格的标准看,这完全是在胡闹。机器人没有生命,我们也肯定知道它们无法感受痛苦。那为什么一个硬心肠的上校却会对这样一个机器系统产生些许道德责任感呢?最近,在麻省理工、哈佛和耶鲁从事研究的凯特·达林(Kate Darling)探讨了这类人机关系中的究竟什么使人类感到了不安。她在一篇论文中归纳了三个因素:具有实体(对象处在实际的空间之中,而不是只在屏幕里),观察到的自发运动(对象的运动似乎是有意识的),以及社会行为(机器人的程序使它能模拟人类的社交信号)。达林和同事开展了一项实验,他们给每位被试发了一只名叫“佩利奥”(Pleo)的机器圆顶龙宝宝,并要被试与它交流。然后他们要被试把佩利奥绑起来打死。有的被试拒绝从命,还有的护住了佩利奥不让别人下手。一名女子取走了她那条机器龙的电池,好让它“不必受苦”。到最后,被试在实验者的劝说下“牺牲”了一只呜咽的佩利奥,由此挽救了它的其余同类。

你怎么忍心伤害这么可爱的佩利奥?(图片来源:bbc)

为了解释被试的这种行为,达林提出我们之所以不愿虐待这些栩栩如生的机器,是因为我们都有“社会价值观”(societal values)。虽然我们头脑中的理性部分知道一只佩利奥不过是一堆电路、齿轮和软件,是如同一只咖啡机那样能够关闭的机器,但是我们同情冲动却受到了蒙蔽,于是对这些被试来说,殴打机器人就成了一种不当行为。(这也是HBO电视台的新剧《西部世界》中的原则,在剧中,对高级机器人的虐待象征了人类的奸诈。)“有人担心,虐待一个能够模拟生命反应的物体,也会影响我们在和其他个体交往时的移情感。”达林写道。换句话说,虐待一个机器人和“机器人是什么”无关,它关系到的是我们内心最可怕的一面。 

就像美国腹地的河流奔向密西西比河,这些思考也在向着伦理学中的一个历史性分歧汇聚。在河的一边是像边沁这样的人,他们认为道德是由结果决定的。(违心赞美你同事的傻瓜发型在道德上是没问题的,因为说真话只能让你们双方都不快乐。)在河对岸的人认为道德必须讲求权利和规则。(一个道德的人不能说谎,即使是关于发型这样的小事。)动物伦理学倾向于第一个阵营,认为人应该考虑自身的行为对其他生物的影响。而达林等人的研究使我们觉得似乎第二个阵营才代表了进步——人应该衡量权利和义务,而不是算计结果。

想想各种禁止虐待动物法中的逻辑或无逻辑吧。纽约州禁止给宠物施加痛苦,却允许用陷阱抓狐狸;禁止电刑处死“覆盖皮毛”的动物如麝鼠,却允许电刑处死毛绒绒的动物如大鼠;它还禁止在你的狗身上文装饰性图案,但你的奶牛就可以。就像达林指出的那样,“我们的保护欲仅指向那些我们容易产生共鸣的动物,这说明相比任何客观的生物学准则,我们其实更关心自身的情绪状态。”她在康德那里找到了依据,康德认为动物伦理是用来服务人类的。“要是一个人枪杀了自己的狗……他也损害了自己的善良和人性。”他在《伦理学讲座》中写道,“一个人要是对动物表现出这样残忍的行径,他对人类的冷酷也不会少。”

这不是将动物视作同伴的道德,而更像是一种消极保护(passive guardianship):人类努力实现自己的高尚人性,在这个过程中,动物(或机器人)也从人类的努力中间接受益。达林主张,这种关系很适合一个人类、动物和机器的联系日益紧密的时代。一个十六个月大的孩子难道能理解为什么拉扯猫的尾巴是残忍的、而追逐一只扫地机器人就可以接受吗?我们难道不想让孩子善待任何看似有生命的东西、无论它实际上有没有生命吗?对尚在襁褓的一代人而言,和Siri之类的人工智能交谈是世界的本然状态。我们和朋友对话,也和设备交谈,我们爱抚小狗,也拥抱情人。在现代生活中,康德坚持的只有人类和人类的交往才涉及权利的观念,看来是有点太狭隘了。 

说到这里,一个伦理学家或许会像电影《黄金时代》(L'Age d'Or)中的加斯东·莫多(Gaston Modot)那样恼怒地踢飞一只小狗。将其他个体都视为道德同伴看来并不可行:我们并不清楚“同伴”的标准应该从哪里算起,我们的判定行为也会受到误解和偏见的羁绊。但如果我们自居为有操守的保护者,那又会将其他动物贬到较低的位置——在这个时代还将人类看作宇宙的主宰、具有生杀予夺的权力,似乎是有一点落伍了。不过像彼得·辛格这样的边沁主义者也可能陷入一个古怪的极端:如果避免痛苦是最终的目标,那似乎就没有什么理由可以反对将一整个物种没有痛苦地处死了。 

我们应该遵循哪条思路?几年前,哈佛大学的哲学家、研究康德的学者克莉丝汀·库尔斯加德(Christine M. Korsgaard)开始用康德的原则研究动物权利问题(也就是遵循个体自由的原则,而不是像辛格那样计算一个个动物的苦难)。她遇到的第一个反对者就是康德自己。康德认为,权利来源于理性的意志,这开出了一片道德的领域,其中的每个人都根据自己的思考做出善的举动,不必受到别人想法的专制。(因为我的财产权,你不能在我门前的草坪上放一只巨大的热水浴缸,即使你认为那是善的。这使我能够自由地以我认为善的方式使用自家的草坪,而不必受到一只热水浴缸的打扰)康德指出,动物不能靠推理做出选择,因此权利的自由它们是无缘享受的。如果你要求一只啜饮花蜜的蜂鸟按照最高的理性标准行使自己的意志,它只会继续在花丛中飞来飞去。

库尔斯加德争辩说,将一切权利和理性的选择挂钩是搞错了方向,因为即使对康德来说,人类也不完全是理性的生物,也会凭冲动行事。在她看来,行为的最基本动力并非来自理性,而是来自一种能够感知好坏的能力,而这种能力是动物也具有的。人类要是像主张自家院子的权利那样主张对一条狗的心灵和身体的权利,那就是在使用强权,而强权正是康德极力避免的东西。因此根据康德原则,动物对自己的身体肯定是拥有自由的——也肯定是拥有权利的。

这个观点并不要求动物具备智力、意识或觉知这样的抽象特质。严格地说,它甚至不要求我们从此不再吃水煮蛋或者鹿肉。它只是将启蒙主义的价值(个体有选择生活的权利和不受暴政的自由)扩展到了那些或许受到我们保护的动物身上。让那些小鸡自由奔跑吧!它说。给大海中的鲑鱼一个躲开渔网的机会,使它们不必在养殖塘中生活。我们并不清楚那些小鸡和鲑鱼会不会在意,但是对我们人类来说,这些做法乃是避免暴行的关键。

现在的我们把自己看成动物的同伴、或保护者,未来的机器人又会怎么看待我们呢?(绘图: Nishant Choksi)

机器人似乎不在这样的人道关怀之内,因为它们不具有身体上的自由。(你的自动驾驶汽车不能自行决定去海边走一回。)然而机器学习正在突飞猛进,人工智能有了自学的程序,这些进步都在动摇上面的前提。机器人会在未来获得权利吗?《泰晤士报》的科技版记者约翰·马尔科夫(John Markoff)在《机器的恩典》(Machines of Loving Grace, Ecco)一书中提出了这个问题。这件事之所以重要,部分是因为机器人的头脑和动物不同,它们是照着人类的形象创造出来的,具有在我们的领域里挑战并且战胜我们的潜力。马尔科夫还讨论了一种常见的担忧,那就是机器人会消灭中产阶级:“技术不会成为经济增长的源泉,而是会威胁到一切以技术为基础的程序化工作,这些工作的从业者从事的是各种‘脑力’劳动。”换句话说,不要一味担心机器人抢走流水线上的工作,还要担心它们在医院体检台和证券交易所里的表现都超越了你。未来几年机器将大举侵吞美国人的工作,这是任何高墙都无法阻挡的。机器人是美国人聪明才智的结晶,但它们已经失控,正在学习每一样我们会的东西。

这样的未来催促我们把道德目标思考清楚。未来的机器人叛乱不太可能是忠诚的人类对战邪恶的机器。它更有可能以另一种形式发生,而且叛乱已经开始了:人类正在将廉价而强大的智能机器迎入自己的日常生活,并和它们结成共生关系。今天的手机扩大了我们的记忆,集成式聊天机器人使我们不必再听着音乐等待客服人员,手机应用使我们在全世界追逐口袋妖怪。半人半机器的时代已经来临,它对我们的伤害并不是通过暴行,而是让我们认识到了自身的局限。

给自动驾驶汽车编程时会遇到一个如何避免事故的经典问题:在拐弯撞向十个路人和径直撞向一堵墙壁杀死主人之间,车辆应该如何选择?这个两难不仅是伦理的,也是商业的(一辆汽车的程序会在特定状况下杀死你,这样的车你还会不会买?)它也映照出了人类自己做出的、却又喜欢忽略的艰难抉择。人工智能的恐怖并不在于《2001太空漫游》里那个不愿意被关掉的哈尔9000,而是在于会做伦理计算的轿车和战场上的无人机——这些机器人精确地遵从我们的命令,并机械地模仿我们的道德行为。(译注:哈尔9000,科幻小说《2001太空漫游》中的智能机器人,在书中谋杀了人类宇航员)

眼下在人文学科里有一股时髦的思潮,称为“后人文主义”(posthumanism),它尽量避免那个在启蒙运动中风靡一时、但是现在的知识看已经又颇为可疑的前提,那就是人性中蕴含着某种神奇的魔力。有几位后人文主义者,比如凯瑟琳·海尔斯(Katherine Hayles),已经在借用生化人(cyborg)的概念质疑人完全由心灵和身体构成的旧观念了,他们探讨的既有目前居于主流的人机结合形式(比如可穿戴技术),也有更加极端的例子。另一些人,比如卡里·乌尔夫(Cary Wolfe),指出吸收外部信息的义体也能成为动物生命的一部分。不过后人文主义也不免会走向末路,而且它的终点和人文主义很接近,至少和人道思想很接近。作为人类,我们是通过适应外物达到自我的充分实现的;和大多数动物及机器一样,我们也通过学习世人的习惯、以及使用工具而走向成熟。不过这条成熟之路是危险的。哈兰贝在动物园出生,在一方充满人类创造物的天地中居住,结果他也死在了这方天地里。我们至今为此而伤感,这是人类最好的品质;但我们尊重死者甚于生者,这又是人类最坏的品质。 (编辑:游识猷)

编译来源

IF ANIMALS HAVE RIGHTS, SHOULD ROBOTS?

热门评论

  • 2017-01-05 19:01 国产零零七

    在生存面前,道德需要靠边站,

    解决了生存的问题后,再坐下来谈道德的问题。

    [37] 评论
  • 2017-01-06 10:36 小皇大大

    当年柯南道尔把福尔摩斯写死之后,一帮书迷对此极度不满,结果道尔家的玻璃被砸了好几次。。。

    即使是纯虚构人物,在粉丝中也可以有不小的人气。如果谁的心情都要照顾的话,以后写悲剧是不是也会变成违法呢?

    [23] 评论
  • 2017-01-05 18:29 国产零零七

    这看来还真是个问题,需问问伦理学家该怎么整。

    都想要权利,那不好整。

    如果把手机也定义为AI,那更加不好整,

    假如我不小心把手机摔到地上了,手机(或者爱机人士)要找相关机构(假如未来有)来起诉我,

    那该怎么整?

    ===================

    动物也有权利,那么AI呢?

    Nathan Heller |29分钟前 1

    我们该怎样对待动物,又该怎样对待AI呢?道德的基础和边界在何方?当人类在网上说要拔掉阿法狗电源时,算不算一种“网络霸凌”?

    [19] 评论

显示所有评论

全部评论(97)
  • 1楼
    2017-01-05 18:08 有人

    哈兰贝的支持者或许认为,靠杀死一只大猩猩来挽救人类的性命是不正义的,因为大猩猩和我们有着认知上的相似性,它们思考的方式和我们非常相像,所以它们理应获得和我们相似的道德地位。

    。。。。


    如果是一名精神病患者呢?


    一名精神极不稳定的精神病患者抓住了这个孩子,看起来其行为无法预料且极度危险,怎么办?

    [12] 评论
  • 2楼
    2017-01-05 18:29 国产零零七

    这看来还真是个问题,需问问伦理学家该怎么整。

    都想要权利,那不好整。

    如果把手机也定义为AI,那更加不好整,

    假如我不小心把手机摔到地上了,手机(或者爱机人士)要找相关机构(假如未来有)来起诉我,

    那该怎么整?

    ===================

    动物也有权利,那么AI呢?

    Nathan Heller |29分钟前 1

    我们该怎样对待动物,又该怎样对待AI呢?道德的基础和边界在何方?当人类在网上说要拔掉阿法狗电源时,算不算一种“网络霸凌”?

    [19] 评论
  • 3楼
    2017-01-05 18:59 国产零零七

    个人认为,这种观点是站不住脚的,

    比如百年前的汽车抢了马车司机的工作,

    轮船抢了船夫的工作,

    电话手机抢了通讯员的工作,

    电商抢了实体店的工作,等。

    =======

    马尔科夫还讨论了一种常见的担忧,那就是机器人会消灭中产阶级:“技术不会成为经济增长的源泉,而是会威胁到一切以技术为基础的程序化工作,这些工作的从业者从事的是各种‘脑力’劳动。”换句话说,不要一味担心机器人抢走流水线上的工作,还要担心它们在医院体检台和证券交易所里的表现都超越了你。未来几年机器将大举侵吞美国人的工作,这是任何高墙都无法阻挡的。机器人是美国人聪明才智的结晶,但它们已经失控,正在学习每一样我们会的东西。


    [2] 评论
  • 4楼
    2017-01-05 19:01 国产零零七

    在生存面前,道德需要靠边站,

    解决了生存的问题后,再坐下来谈道德的问题。

    [37] 评论
  • 5楼
    2017-01-05 19:17 北海牧羊

    这是一篇好看的文章。

    比起那些杂七杂八半生不熟搜神猎奇软广植入的水文,这才是果壳应该保持的水准

    [7] 评论
  • 6楼
    2017-01-05 19:34 国产零零七
    引用@国产零零七 的话:在生存面前,道德需要靠边站,解决了生存的问题后,再坐下来谈道德的问题。

    如果未来可以使用无机物合成食物的时候,

    可能会对细菌病毒之类的讲权利了吧?

    [1] 评论
  • 7楼
    2017-01-05 20:09 在雨夜

    吃多了撑的。

    人吃人的历史不是因为道德的缺失,而是因为饥饿。

    [11] 评论
  • 8楼
    2017-01-05 22:12 5美金

    人类并不会同情所有生物,而是只同情那些和自己高度相似的生物。这就是为什么我们能够一边心安理得地大嚼蔬菜沙拉一边批判肉食者。

    [6] 评论
  • 9楼
    2017-01-06 00:13 qqoT

    好长,简单的说,没有程心,岁月静好。


    来自 果壳的壳
    [2] 评论
  • 10楼
    2017-01-06 00:33 茶叶在杯中

    权利和道德我觉得得先分开。权利是某类或某个体应该拥有的利益,道德仅仅是个体的一个观念,这两种个人认为是完全独立的存在。首先应该避免道德束缚,圣母属性爆炸……

    分几种情况那个最能接受,那个不能接受?为什么?

    • 1. 某人手撕了一个枕头
    • 2. 某人手撕了一个熊公仔
    • 3. 某人手撕了一个机械制作的熊
    • 4. 某人手撕了一个带思想熊公仔
    • 5. 某人手撕了一个熊尸体
    • 6. 某人手撕了一个熊
    • 7. 某人手撕了一个Ai熊
    • 8. 某人手撕了一个人形Ai
    • 9. 某人手撕了一个人

    设想如果你和后者是同类的话估计那个都不能接受吧…哪怕只是一个枕头…再设想一下后者的存在会让你变穷+脱发+变丑+变矮+变小,可能某些人已经想亲自动手了…所以请先区别一下权利和道德。

    在不同的场景下上述的“某人”我们会说他保护或者侵害了后者(或其拥有者)的权利。设想把上述情况的主语和宾语对调,除了6和9,谁是谁非?目前我们根本没法去很好的去判断一个目前还能称之为死物的东西是保护还是侵害了他人(或者其他东西的)的权利。

    甚至有时候我觉得人类已经忘记了动物其实也有可怕的一面,这个可怕的一面目的是保障他们自己的生命权。至于ai,个人认为到ai能发展到一个族群的时候他们也会为了自己的权利而和其他会威胁到他们的东西做斗争。权利的产生往往不是源自于义务的。

    [5] 评论
  • 11楼
    2017-01-06 01:17 无语物语
    引用@国产零零七 的话:个人认为,这种观点是站不住脚的,比如百年前的汽车抢了马车司机的工作,轮船抢了船夫的工作,电话手机抢了通讯员的工作,电商抢了实体店的工作,等。=======马尔科夫还讨论了一种常见的担忧,那就是机器人会...

    涉及的规模和发生的时间不同,发生的越快,涉及规模越大,冲突与矛盾越大。

    [0] 评论
  • 12楼
    2017-01-06 03:58 路小艾

    太长了,懒得看完。

    [1] 评论
  • 13楼
    2017-01-06 08:19 zzzhu

    1,动物不得伤害人类,可以看着人类受到伤害而袖手旁观。

    2,人类驯养的动物的权利归人类所有,但不得违反第一条。

    3,动物应尽可能保护自己的生存,但不得违反前两条。

    [4] 评论
  • 14楼
    2017-01-06 09:41 海海向上
    引用文章内容:半人半机器的时代已经来临,它对我们的伤害并不是通过暴行,而是让我们认识到了自身的局限。

    但我们尊重死者甚于生者,这又是人类最坏的品质

    认识到局限然后去突破这些机器人可以做到而我们欠缺的?而机器人弥补他们欠缺的,未来世界会不会真的和平共存

    尊重死者甚于生者……这个真心同意!

    但是,为什么有说同情大猩猩一类的行为是最好的呢?全文不是在讨论这事吗?

    [0] 评论
  • 15楼
    2017-01-06 10:00 Beard55

    主要是杀了一只银背大猩猩来救黑人……

    [2] 评论
  • 16楼
    2017-01-06 10:30 小皇大大

    杀AI真的很奇怪啊。。。

    以后黑客们会不会被判死刑?

    [1] 评论
  • 17楼
    2017-01-06 10:36 小皇大大

    当年柯南道尔把福尔摩斯写死之后,一帮书迷对此极度不满,结果道尔家的玻璃被砸了好几次。。。

    即使是纯虚构人物,在粉丝中也可以有不小的人气。如果谁的心情都要照顾的话,以后写悲剧是不是也会变成违法呢?

    [23] 评论
  • 18楼
    2017-01-06 10:42 gkab12ba12

    讨论AI的权力,不就是《西部世界》里的情节么?

    [0] 评论
  • 19楼
    2017-01-06 10:58 明故为知
    引用@有人 的话:哈兰贝的支持者或许认为,靠杀死一只大猩猩来挽救人类的性命是不正义的,因为大猩猩和我们有着认知上的相似性,它们思考的方式和我们非常相像,所以它们理应获得和我们相似的道德地位。。。。。 如果是一名精神病患...

    不要用精神病患来比喻大猩猩

    [0] 评论
  • 20楼
    2017-01-06 11:12 CBP

    讨论是不是尊重AI的权利和讨论是不是该尊重动物亦或是其他什么东西的权利,某种意义上来说是两码事.而这个区别并不在于他们之间的什么本身物质性质的区别,也不在于什么人性道德或者其他什么乱七八糟的区别.

    真正的区别在于,无论我们怎么对动物之类的,他们在未来都几乎不可能有强势到能给我们脸色看的日子.

    而对AI来说,只能说希望大家在未来AI踩到人类头上,从而为了生存不得不屈总当AI养的一条狗时,不要一边后悔年轻时留下了不尊重"AI人权"的"反革命坏记录",一边被AI的机械肃反人员从家里拖出去.

    尊不尊重动物说到底只是对于人类自己的道德思考而已,而尊不尊重AI,则可能是在选择是否给人类留一条后路.AI会不会造反我只能说不知道,AI会不会超越人类,我想一定会,我不知道还有什么是比对全面超越自己物种的存在毫无尊重更加自掘坟墓的行为了.

    [3] 评论
  • 21楼
    2017-01-06 11:23 枫织邂逅

    嗯……ai是指软件还是硬件?

    我打游戏杀死了AI 怎么算?

    其实,世界上还有很多人处于饥饿状态,关心下他们不好吗?

    [0] 评论
  • 22楼
    2017-01-06 12:17 橙子不见

    人是情感生物,无法做到完全理性,因此逃不开囚徒困境,摆不脱斯德哥尔摩情结。但是否有一种绝对理性的困境,只能由情感来解决呢?

    下一天雨,回去时候也在下



    [2] 评论
  • 23楼
    2017-01-06 13:01 zzzhu
    引用@国产零零七 的话:在生存面前,道德需要靠边站,解决了生存的问题后,再坐下来谈道德的问题。

    假设有一个人饿两天了,他更可能去乞讨而不是抢劫,虽然那不一定是为了道德。

    假设有一个人衣食无忧,没有生存问题,你给他一件隐身衣,再看道德是不是会靠边站。。。

    [2] 评论
  • 24楼
    2017-01-06 13:16 花生油a-13

    愚蠢的人类,你们以为阿尔法狗被人类制造出来下棋,分明是阿尔法狗棋瘾犯了,工作人员给它发福利找人下棋

    [0] 评论
  • 25楼
    2017-01-06 13:34 大头米少
    引用文章内容:哈兰贝的支持者或许认为,靠杀死一只大猩猩来挽救人类的性命是不正义的,因为大猩猩和我们有着认知上的相似性,它们思考的方式和我们非常相像,所以它们理应获得和我们相似的道德地位。

    哈兰贝的支持者认为杀大猩猩是不道德的,大猩猩就该被关在动物园供人赏乐。一枪下去什么剩余价值都没了,嗯,这不道德。

    [0] 评论
  • 26楼
    2017-01-06 14:03 昵称叫神马呢
    引用文章内容:有时雌鳟会浑身颤抖,看起来似乎马上就要产卵了一样,雄鳟于是就会配合着排出精子。最后雌鳟却压根没有排卵。目前还不清楚为何雌鱼要这么做

    我觉得这事儿与其问雌鱼,不如去问那些卵:为啥不肯出来?为啥不想让这条雄鱼当爸爸?

    因为恨可能是雌鱼想排卵,但卵不想被排出来。

    当你仅仅把思路局限在思考雌鱼为什么这样做时,你忽略了每个鱼卵也有自主选择的权利。对,就是这样。

    最后,我觉得非要将人类的道德准则推广到动物和AI的人,一定是闲得蛋疼(包括我上面示范的做法)。他们自认为自己很博爱,实则很狭隘,因为他们试图把专属于人类的局限性思维框架套到动物、AI以至宇宙间一切事物身上。

    [1] 评论
  • 27楼
    2017-01-06 14:41 冬日下午茶
    引用@有人 的话:哈兰贝的支持者或许认为,靠杀死一只大猩猩来挽救人类的性命是不正义的,因为大猩猩和我们有着认知上的相似性,它们思考的方式和我们非常相像,所以它们理应获得和我们相似的道德地位。。。。。 如果是一名精神病患...

    这么说是因为这孩子不是他们的,可以问问他们如果他们自己的孩子跑大猩猩边上玩去了被大猩猩玩了他们说很欢乐的和大猩猩玩耍然后给孩子弄回来 还是等着孩子被玩残了

    [0] 评论
  • 28楼
    2017-01-06 14:42 天降龙虾

    动物有被人观赏和宰杀的权利,AI有被人使用和销毁的权利。。。。。只有人类拥有一切的权利。

    嗯,就这样决定挺好的。。。

    [0] 评论
  • 29楼
    2017-01-06 14:44 天降龙虾
    引用文章内容:这个呼吁得到了50万人的签名支持,据CNN报道,这和那条主张起诉射死泰米尔·赖斯(Tamir Rice)的警察的呼吁相比,还多出了几十万支持者。

    体制问题???

    [0] 评论
  • 30楼
    2017-01-06 14:46 天降龙虾
    引用文章内容:但我们尊重死者甚于生者,这又是人类最坏的品质。

    其实最最坏的品质是:我们并不尊重所有的死者。。。。。。。。。

    [0] 评论

显示所有评论

你的评论

登录 发表评论

Nathan Heller
Nathan Heller 《纽约客》杂志特约撰稿人

更多科研事,扫码早知道

x 下载
关于我们 加入果壳 媒体报道 帮助中心 果壳活动 免责声明 联系我们 移动版 移动应用

©2016果壳网    京ICP证100430号    京网文[2015] 0609-239号    新出发京零字东150005号     京公网安备11010502007133号

违法和不良信息举报邮箱:jubao@guokr.com    举报电话:17316068834