为什么在真正的AI发展极其有限的现在,有很多人总爱拿机器人三定律说事?

今天的AI技术明明还很基础,包括心理学和脑科学等学科都还只是个雏形,为什么一篇若干年前的科幻作品就成了先验真理?

首先,作者再怎么厉害,他也预见不到今天的AI技术走向,更无从得知真正的完全AI到底是什么样子,因为这我们也不知道

其次,思维的不确定性很大,怎么就能知道“自主能动性”与“思维创新性”一定等价于“情感”?

最后,我发现很多人意识里,AI就等价于有情感的意识。为什么一定要赋予机器情感,然后就又来一堆不必要的道德问题?这不是给自己找不必要的麻烦吗?

怎么就能确定,能自主思考完成任务但又绝对服从的“半AI”机不能完成?一开始就把它作成高级工具而不给他情感与人格不就得了吗?

推荐  (0) | 6人关注关注
6个答案
2 0

zzzhu这家伙很懒很懒

2015-01-04 17:05
支持者: Clancy besta9188

我认为,机器人三定律要解决是伦理问题,这可能是AI发展中会遇到的问题,比如机器能够具有什么样的自主权。机器在一定程度上能够自己选择做什么样的事情,这应该是可以发生的吧。至于AI技术是什么样的我也不懂,到底什么意识或者情感其实我也不懂。。。

为什么很多人把AI等同于情感、意识?我怀疑他们因为并不专业所以对AI的认识不够客观,或者受到了一些文艺作品中对AI描述的误导。不排除有些作品是借着机器人来表现人类自己的情感的,而有些误导也是为了迎合人们的喜好、预期而产生的,毕竟对大众来说,情感、人性方面的话题要比科学论文更受欢迎。

1 0

莫俊宏超声波无损检测员

2015-01-04 17:21
支持者: Clancy

机器人三定律仅仅是科幻片的谈资,和现实关系不大。

1 0
支持者: Clancy

阿西莫夫讨论的是与具体技术关系不大的方面,预见性较强,不奇怪,古希腊的伦理和道德等概念现在还得学习呢。

另外,只有当人工智能真正出现以后,才知道现在距成功有多远、多大差距;所以现在的AI技术发展到哪一程度了谁也不确定,也许几年内就会出现人工智能突破,那现在的水平就不是“很有限”,而是“很成熟”。

1 0
支持者: Clancy

三定律是为了防止机器人(AI)将来强大到超过人类后,为了某个(可能逻辑有缺陷)目的,高效而无情的铲除人类(或破坏自然,这一类后果)而设计的,到情况几乎失控时,使用这样的预设高优先级程序起到“自毁程序”或暂停AI发展的功效,从而有时间可以修正错误,重新再来。你可以认为“三定律”这样的名字很土,不正规,不完善,但不能否认阿西莫夫看的很远,超越了他自己(包括我们现在)的时代

“人无远虑,必有近忧”,没有三定律(或者随便你把它叫成什么名字),有可能有一天不光是人类搬起石头砸自己的脚的问题了,而是直接砸自己的头了......

0 0

鱼大雷邪恶之王 大毒舌 欢乐

2015-01-05 10:43

因为他们很傻很天真啊。

不能杀人的机器人,算什么好机器人。


0 0


1. A不能伤害B,且A不能坐视B受伤害

2.A必须服从B,但不能违背1

3.A有权利保护自己,不能违背1.2

这种设定如果能够建立。。。会陷入死循环的。

C给B下毒,解药C才有。B要求A从C那里得到解药。A懵逼

查看更多

添加回答

登录 后回答问题,你也可以用以下帐号直接登录

相关问答

关于我们 加入果壳 媒体报道 帮助中心 果壳活动 家长监控 免责声明 联系我们 移动版 移动应用

©果壳网    京ICP证100430号    京网文[2018] 6282-492号    新出发京零字第朝200003号     京公网安备11010502007133号

违法和不良信息举报邮箱:jubao@guokr.com    举报电话:18612934101    网上有害信息举报专区    儿童色情信息举报专区