2682
需用时 05:21
聊天机器人伪装成真人的10种伎俩
作者: ESTHER INGLIS-ARKELL
译者: Minstrelboy
 
纪念艾伦•图灵诞辰100周年。

聊天机器人可以说服你去做不寻常的事情——比方说让你相信一定要点某个链接或者让你泄露信用卡密码。不过在绝大多数情况下,它们只不过是想让你相信它们是能喘气的真人。而聊天程序的作者们则尽力补偿它们没有灵魂和独立意志的缺陷。以下是聊天机器人伪装成真人的10种最具迷惑性的伎俩。

电影《西蒙妮》。

电影《西蒙妮》。

 

10、一次说一整句话

你已经注意到了,如果你曾经和朋友聊天的话,真人会把一句话分开说,就像他们平时说话一样。人们会加上一个“嗯”,为了戏剧化的效果,或者他们会加上“……”显示自己在思考或者反应。而聊天机器人并不真正理解人类的说话,这些话头话尾会引发一些回应。如果有人输入“啊”和“OK”,而聊天机器人回答“那是怎么回事?”或者“你是这么想的吗?”或者“好吧,我不同意”——这种能够应付一切没有预编程情况的句子,那么游戏结束——它被揭穿了。为了应对这种情况,聊天机器人喜欢用的简单方法,是设置一个最小字符串值来判断不完整的句子,或者识别嘀咕的话和不正常的间隔。

 

9、每次答话之前清屏

既然聊天机器人还是不能真正理解讲话的含义,它们其实无法让谈话前后一致。举个例子,比方说,你可以问一个机器人他住在哪儿,它也许会回答你,在旧金山,在以后的谈话中问它是不是住在一个岛上,它就会回答“是啊”,它最大的希望就是人类淡忘之前的谈话。如果人类没有以前聊天记录的协助,这对聊天机器人会有些帮助。如果一个机器人回答说他是独居的,后来又提到自己有个老公,有聊天记录的人就会抓住这点矛盾。另一方面,有些没有聊天记录的人就会怀疑自己的记忆,这样的话就会存有希望。

 

8、改变话题

在一个开放式的回话中,主题会不断变化到聊天机器人无法了解而且没有编程的主题上。如果主题偏移到已经编好程序的内容上,它就可以重新回到立足点。如果提到最近的名人、政客、运动员或者历史人物,它可能说:“我对大人物不感兴趣,我们聊聊艺术吧。”“我觉得我们应该不管这些云里雾里的事情。我们应该如何对公共教育进行改革呢?”这句话就是在没有现成的回答词句时改变主题的回应方式。

电影《人工智能》。

电影《人工智能》。

 

7、一直说下去

聊天机器人对待谈话就像在打网球。说话,回话,说话,回话——来回往复。真人感觉到停顿的时候,就会详细谈一开始的语句,或者再摸索更多信息。如果这些详细的阐述已经预编程好了,这活儿对聊天机器人就太轻松了。不过,也产生了展开平行回话的危险——一个人回复一句话,然后再回复另外一句话,而接下来的新语句又是重叠在一起的。这对机器人来说比较艰难,所以详谈必须谨慎从事,而且之前的话必须与现在的话同一个主题。

 

6、众包回复

更受欢迎的聊天程序有许多人每天对他们讲话。程序每天都失败很多次。它们失败的时候,就会对回应进行分类,尤其是它会在之后弹出一句话,看对方怎么回复。然后一个真人会回复,成为它采集的对象。它们可以在每次谈话中在自己的句库中混合并匹配最有可能的回答,聊天机器人就可以讨论任何事情,从时事到皇后乐队的歌词。一个聊天机器人知道当某人说“胆小鬼,胆小鬼”的时候,一个真正的人类最有可能回答;“你会这样胡闹吗”。它这样做让自己看上去就像一名人类。

 

5、让自己区域化

聊天机器人无法总是表达一致的理念,或者以协调的方式进行表达,甚至也无法管理连贯的用词。为了隐藏这一点,他们有时候需要复杂的干扰策略。其他时候,他们需要成为波拉特(一部电影的主人公,主角是一个在美国游历的哈萨克人)。一个聊天机器人可以佯作外国出生,以此为理由为自己的语法错误、不了解当地文化甚至是根本无法明白对方的意思开脱。它还会扯一些对方所不熟悉的外国相关的话题,这样的话就没法对它们做出判断。

电影《我,机器人》。

电影《我,机器人》。

 

4、获得一个精神病学学位

这一招在一个著名而且很成功的聊天机器人中首次得到应用。伊莱扎(Eliza)本来被设计成模仿一个精神治疗医师,问一些大家通常所说的很开放而且含糊的问题。“你对那个事情感觉如何?”“你觉得自己为什么做那件事情呢?”“你觉得那是什么意思?”这些问题可以一再重复。被测试的主体真的回答了。很多人说伊莱扎帮助了他们,有些人要求人们独自与伊莱扎进行测试,以讨论更加私密的问题。这个聊天机器人是如此成功,以至于有人建议将其作为低成本解决方案,治疗受精神问题轻度困扰的人。

 

3、开发出个性

事实已经证明,能让人们相信聊天机器人是一名真人的最好办法,是让人们相信它们是一个独特的人。一个人的兴趣是有限的,可能很自我,可以把聊天从一个主题变到另外一个主题,而且最终让人相信这个自恋狂是个人类。

一个机器人被编写成刚搞砸了工作的门卫,而且担心因此丢掉工作。不管对方何时提到一个关键词,比方说“工会”,或者“工作”,或者“老板”,或者“问题”,这名聊天机器人就会弹出一些“你觉得你有问题,我可是快要被炒鱿鱼了”之类的话。如果聊天机器人有点不知所措,它会说自己因为太焦虑而没法集中精神。那些自我中心的话语,看似真人遇到的问题,以及谁都不愿意把一个痛苦的人当成机器人的天然心理,这些因素混合起来,使得聊天机器人在勒布纳竞赛(一项世界级的人工智能比赛)中骗过了少数人。

电影《机器管家》

电影《机器管家》

 

2、主导剧情

聊天机器人有一个危险但有时候极为成功的办法,就是用与伊莱扎相反的办法愚弄人们。不是让真人自己去说,而是聊天机器人自己主导对话。

一个参加勒布纳竞赛的聊天机器人紧紧抓住克林顿丑闻。他一开始就问一个人整个丑闻的事情。不管对方怎么回答,机器人总是说些:“哦,啊!听起来你对这事不是特别感兴趣!不过说真的,你觉得他的教育政策怎么样?”这个聊天机器人只是不肯离开自己的主题,一个接一个地问问题,直到对方时间用完。有时候这是个很有意思而且焦点很集中的谈话,人们跟着聊天机器人的话题走,似乎非常自然。只有真人拒绝玩下去,一再告诉聊天机器人他们不想聊这个话题或者自行改变话题的时候,聊天机器人完全不能理解对方谈话的缺点才得以暴露。

 

1、找茬打架

这是个大招。打架不需要记忆或者一致性。它们自己就可以演进,每个新的回复都会提升怒气值,一个接一个地回复下去,就会让怒气满点。打架也不需要为糟糕的拼写和语法找借口。打架也不需要理智。它们总是可以转移到什么新的事情上,或者没完没了地重复自己。它们也不需要广泛的内容。他们总是可以在现成的词库中找到短语,或者愚蠢的打发办法,或者改变主题,或者无意义的侮辱,而不会有人怀疑出了什么问题。一个最早的聊天机器人甚至干脆利落地通过了“图灵测试”(编辑注:这指的是在一次测试中,真正的通过图灵测试需要骗过大多数人)——就是一个普通人与一个聊天机器人对话,却不知道自己正在与程序聊天。

在早期的互联网上,一个大学生让自己写的聊天机器人,一聊就是一晚上,而这个聊天机器人预编程了不少令人恼火的短语。大学生回来的时候发现一大堆对话,有人急不可耐地要找他联系他。机器人用预编程的侮辱性短语加以回复。那人怒气冲天,聊了一个小时,愤然离线。那个人评论这件事情的时候说那个程序不断重复自己,“像是个该死的机器人还是什么玩意”。他聊得很投入,但从来没有猜到自己正在和电脑硬件聊天。这是让聊天机器人看上去像人类的最终办法。这也很好地证明了任何东西都可以模拟人类的最差品质。

 

(译自 io9.com

 
最后的那个大招可以配合这篇漫画来看。

最后的那个大招可以配合这篇漫画来看。

The End

发布于2012-06-23, 本文版权属于果壳网(guokr.com),禁止转载。如有需要,请联系果壳

举报这篇文章

Minstrelboy

法律工作者

pic