机器人三大定律是一种没有约束力的设想呢还是真正的铁律?

总被提到机器人三大定律,那么现实中真的机器人遵守吗?美国的狩猎者攻击型无人机属于人工智能吗?X47B是人工智能,那么它用于战争是违反三大定律吗?假若是,那么三大定律也就是空谈吗?

推荐  (1) | 11人关注关注
12个答案
27 1

魏郎尔游离在物理和化学之间

2014-04-24 10:49

机器人三定律在阿西莫夫的科幻设定里,是植入到所有机器人软件底层里,不可修改不可忽视的规定。但是显然这不是一个物理定律,所以现实中的机器人并不遵守。
大部分人都觉得这只是文学道具而已,但是,1981年,阿西莫夫本人在“Compute!”里说
“……有人问,我是不是觉得我的三定律真的可以用来规范机器人的行为——等到机器人的灵活自主程度足以在不同的行为方式中选择一种的时候。我的答案是,‘是的,三定律是理性人类对待机器人——或者任何别的东西——的唯一方式’。”

那么。假如阿西莫夫说服了所有人,三定律可能编进机器人里面吗?肯定是可以的。我们完全可以搞一个行业规范,正如电子产品里无数个其它类似的规范一样。

问题是,现在研究者一般认为,这三定律不够用也不好用。

13 0

冰火梦幻信息与计算科学学士,算法控,AI爱好者

2014-04-24 19:22

对于需要植入“机器人三定律”的那种AI而言,这三定律到底有没有效果(或者说是否真的植入成功)是无法测试的。
因为那种程度的AI所能做的那些工作到底是如何做到的,人脑已经无法一目了然了。比如判断一个决策到底是伤人还是救人之类。
所以三定律只是文学抽象而已。

13 1

确实是科幻小说使用的一种技巧。

但如果他将您代入了前所未有的思考的领域,其也应得到赞美。


我机器人系列里面的机器人是有智脑的。

如果我们仔细分析这个所谓的脑子,看其一人类到底有什么不同时?

我们会发现一个更恐怖的现实,那个所谓的智脑与人脑的差异只是被写入了机器人三定律。

只是被写入了机器人三定律。如果我们被写入了三定律。。。
当然罩这个思维走下去,那又是一个耸人听闻的科幻小说了。

在我们彼此还没有起鸡皮疙瘩时候我们走回来。
我们来看一看原本的问题。

现实中的机器人要不要三定律?
机器人能理解三定律嘛?
能理解三定律的=能理解语言?
机器人能理解人类语言嘛?
机器人有必要理解人类语言嘛?

最后如果我们真心需要类似机器人三定律的东西我们该如何做呢?

这些答案都是显而易见的,就如同现实与小说的差异,也如同现实与幻想的差异。

(那现实与小说有差异与幻想也有差异会不会反而与科幻小说没有了差异。)

现实中的
机器人可以被分成通用和工业单一功能的 ,如果通用再细化一下那么还有人形通用。
那么,真正需要三定律的机器人只是人型通用机器人。

其他的没有必要,小说里面的机器人其实=能理解语言,能理解语言=不需要编程。
而现实生活里机器人是需要编程的,而你想咋样编程好了。

你即是上帝,您即随意。

哎呀感觉又在向着起鸡皮疙瘩的方向讨论了,所以就到这里吧。希望能有帮助吧

PS:这里不对三定律本身作讨论,其实三定律是基于语音的高级编程,他需要机器人理解并认定三定律里的两个重要概念,
1是将谁或者什么判定为人,其如何判定标准是什么其实很值得讨论。
2是将谁或者什么判定为机器人。

只有在机器人能理解并在现实生活中准确判断这两个词语所带的集合时候。三定律才可能成立,这也需要机器人能理解语言,这里面暗含这一个重要的问题。

是机器人理解了语言后的基础逻辑与人类相同,才能有故事中的种种问题。

11 2

scythe7三只脚的猫

2014-04-24 09:38

机器人三定律不是说任何人造个机器人就必须遵守的,事实上正相反,阿西莫夫给自己设定这个规则就是用来自嘲和打破的。

1 0

wonder4life数学专业IT男

2014-04-24 11:55
支持者: hulhut

小说家言,和定海神针的重量一样,无需细细考究

0 0

yhz学物理的IT工程师

2014-04-24 12:09

第一:至少在可预见的将来,完全智能的AI都不会出现。所谓的AI,都是在执行由人设定的程序而已;
第二:因为第一条,所以机器人是否遵守三定律,关键看在程序中有没有类似的逻辑或者指令(而且还需要经过良好测试,没有bug);
第三:抛开机器人和程序不论,即使在普通生活中,完全由人创建的规律(即非自然规律,例如说法律法规den)是完全铁律,完全被遵守且没有违反的;
最后:这个三定律就像人们所期望的永久和平那样,美好,但是也是永远不会实现的。

0 0

这3条定律只是一个设想,仔细看你会发现其实它自相矛盾:它是为了防止拥有完全自律的机器出现过分的行为而订立的,其解决方法是设定程序命令迫使机器遵守,但是既然可以设计命令了,又何谈自律?

0 0

无人机算不算机器人?
无人机有没有杀过人?

0 0

饭呢通信工程、计算机硕士

2014-04-28 10:44

我认为机器人遵循的定律以做机器人的人是怎么编的为准。也许作者会制定不许攻击制作者,但可以攻击其他人这样的定律。当然,机器人造成的破坏的后果也是由开发者来承担的。
但是如果开发者把机器人卖掉了,机器人破坏的后果,就是由使用者承担了。开发者编写了可能产生破坏后果的代码但是没有告诉使用者,破坏的后果应该由开发者承担。
总之大家参考汽车撞了人之后究竟谁赔这个问题就好解释了。

0 0

三定律存在漏洞?

第一,怎么定义“人”?或者说,机器人通过什么来对“人”这个定义进行认知?假如AI真的够高,机器人只需要更改认知体系,把人定义成非人就行了……

第二,怎么定义伤害?是指所有的物理性伤害,还是连一般的造成影响都算上?那么,因为机器人的高效生产力造成自然人大量被裁员进而造成大量自然人衣食无着,这种也算成伤害的一种?

0 1

不可能的,例如让机器人把一个箭装在一个自动机械上,再让这个机械攻击任何生物。

查看更多

添加回答

登录 后回答问题,你也可以用以下帐号直接登录

相关问答

关于我们 加入果壳 媒体报道 帮助中心 果壳活动 家长监控 免责声明 联系我们 移动版 移动应用

©果壳网    京ICP证100430号    京网文[2018] 6282-492号    新出发京零字东150005号     京公网安备11010502007133号

违法和不良信息举报邮箱:jubao@guokr.com    举报电话:18612934101    网上有害信息举报专区    儿童色情信息举报专区