※ 引述《raincole (冷雨)》之铭言： : : 推 fw190a:好奇，可以请楼上说明一下感到不合理的原因吗? : 讲几个例子... : 1.这些名词（人类、伤害）的定义是人订的，还是机器人推算出来的？ : 在基地某篇里面，有人把机器人的「人类」定义成只限自己星球上的人，所以这些定义应 : 该是人为的。 : 但是这又不符合可避免的冲突、骗子里面机器人能自行推算出超出设计者想像的想法。 : 而且机器人把心理上的伤害也当作伤害，但连人类自己都没办法确切了解自己心理上有没 : 有被伤害，又如何能对机器人作定义？ 其实机械人三原则最大的问题就是这点. 「定义主观」 虽然有快思逻辑的存在, 但是现实的电脑, 能处理的东西几乎只能 是客观的原则. 而机械人三原则本身却是建基於一大堆主观的定义 , 不仅是「人类」, 「机械人」等极度含糊的名词, 连发生的条件 本身也是主观的, 即是「伤害」是甚麽? 机械人帮人类做手术, 你可以说是「伤害」或者不是「伤害」也可 以, 这种非客观的定义, 注定了这三原则的订立根本就是无法用逻 辑去推理後果的. 严格来说, 机械人三原则既然判断方是机械人自 己, 那等於说「机械人可以随意解释三原则, 只要能说服自己就可 以了」. 定下几项主观的原则交给人类执行, 也有相似的结果. 当然地, 艾西莫夫写的故事本来就是制造出这种有漏洞的原则来自 己打击. 所以他是充份意识到这三原则是充满矛盾的. 就像他在基 地三部曲里的心理史学, 也是自己拿只骡出来打爆. 所以他的科幻小说所推出来的「原则」, 本来就是用来影射某些人 类的信念和哲学上的毛病, 比方说, 我们经常认为, 只要给一个好 人, 然後有一堆由那好人主观判断的制度, 事情就能运作良好? 在他的小说里, 机械人就是那「好人」, 而机械人三原则就是「好 制度」, 但结果就是这件事一旦涉及主观判断的权力, 就会出了乱 子. 所以他并不是用小说来主张某个理论或原则, 而只是「先让你 相信那原则可行, 再用实例证明给你看那是有漏洞的」. 心理史学也是一样, 心理史学影射的是人类对「大趋势」和「个人 在大趋面前微不足道」的信奉, 既然有「不可逆转的大趋势」, 那 麽银河帝国的崩溃应该是可以计算的事情. 即使发生了甚麽事情都 不会对趋势有改变. 可是他就排出了一个「骡」, 这个没被计算在 内的角色, 破坏了整个心理史学的推论. 艾西莫夫写机械人系列不是为了「提倡完美制度」. 艾西莫夫写基地系列也不是为了「提倡心理史学」. 而是相反地: 反驳它们. 所以艾西莫夫的科幻, 和提倡主张的科幻, 例如星舰战将那种提倡 军国主义, 有相当微妙的不同. 莫西莫夫倾向的是「提出一个理论 然後自己破除它」, 而不是「提出一个理论然後制造一个故事去让 人相信那理论」, 这才是艾西莫夫精彩之处. -- 基於思源的概念, 而宣传的的香港 BBS: telnet://hkday.net 民国无双官方网站: http://sites.google.com/site/kowloonia/home --

※ 发信站: 批踢踢实业坊(ptt.cc) ◆ From: 222.167.25.80