写一写发现有很多雷... 往下看的请自重。 ※ 引述《raincole (冷雨)》之铭言： : : 推 fw190a:好奇，可以请楼上说明一下感到不合理的原因吗? : 讲几个例子... 感谢回应。 我和你的感到疑义的部份看法大致相同， 不过，以书中的脉络来看，我认为这些问题大致都能被解决， 而不会引发致命或可笑的矛盾。 真的要批的话，我认为"正子脑"与其奇异的相关设定才是根源所在， 三大法逻辑上合理，实务上合用，应该算表现不错。 : 1.这些名词（人类、伤害）的定义是人订的，还是机器人推算出来的？ : 在基地某篇里面，有人把机器人的「人类」定义成只限自己星球上的人，所以这些定义应 : 该是人为的。 定义问题的确有可能打破三大法则，如果这些都能随意更改/诠释，则机器人 马上就会具有太多裁量权。 不过我这边是偏向，这些基本定义是被多重逻辑严密写好并定义的， 也就是几乎是写死的。 具有反省思考能力的机器人，或许能慢慢改变这规则的意思，但是首先他必须 要有这种动机。 至少在书中见到的，只被要求服侍生活起居的机器人，从来没有产生相关动机。 而关键的吉斯卡与丹尼尔，则是因为他们身处权力核心，而他们照顾的这个人， 很在意"全人类"的兴亡，因此才引导了他们做这一思考。 另外，在钢穴中提及，重写一颗正子脑，技术上可行，但是须要花几十年工夫， 而且没有经济效益所以应该没人会做。 但是事实上这说明了它完全可行。 所以我们在索拉利星上看到了一批机器人对於"人类"有不同定义时， 使得回到故乡的艾帝嘉大惊失色(因为违反常识)，但以索拉利的机器人专业， 与长时间孤立，反倒说明他们完全有能力与理由去设计出这样的机器人。 因此在这边失败的也不是三原则，而是人类自己去更改的。 : 但是这又不符合可避免的冲突、骗子里面机器人能自行推算出超出设计者想像的想法。 : 而且机器人把心理上的伤害也当作伤害，但连人类自己都没办法确切了解自己心理上有没 : 有被伤害，又如何能对机器人作定义？ 应该说，能"感知"人类心理情绪的机器人，本来就是规格外的产物，设计者从来不知道 有这种技术，自然不可能对之加以防范。 只能假设说，产生这种能力的机器人，由於没有其它事先设定， 对於人类的情绪有很大的解释空间，是靠其它生活中经验推理出意义。 : 2.机器人的运算能力是否有硬体上的极限？ : 如果没有，那所有机器人的第一法则，应该都会变成第零法则，因为他们每作一个动作， : 都可以预期（无限远的）的蝴蝶效应对人类的伤害。 运算能力是有上限的。 : 如果有，那曙光中的吉斯卡为甚麽可以只靠调整程式，就得到远远超过丹尼尔的能力？ 因为强化的不是运算能力，而是产生某种心电感应。 : 3.三原则安全吗？ : 从消失无踪里面看来，机器人的第一法则也是可以被人为修改的。 : 而从基地看来，机器人对人类的定义也是可修改的。 : 那这些机器人学家以及机器人制造公司，应该比世界上任何一间军火商或恐怖份子更危险 : ，因为这些机器人随时可以变成强大的武力（只要改动前述两项之一）。 : 但是里面的政府却无所管制，只把机器人学当成普通的学术活动看待，这也太不符合我们 : 对政府（美国？）的印象了。 定义与法则可以被人为修改，但只能透过生产新机的方式。(详见正子脑设定) 因此市面上现有机器人都很安全，不会被按个按钮就变私人军队。 : 我知道这是因为艾氏的作品很多，如果只看三原则本身，也许不能说「不合理」。 : 但是这三原则其实并没有解决任何事情，因为实作上有很多必然的矛盾，事实上艾氏 : 的机器人系列就是在描写这些矛盾。 艾氏的三原则并不是在说:有了这个三原则，机器人再也不可能会对人类产生威胁了 而是在说，透过这三原则简洁/稳定的运作，人类成功的将机器人融入社会中加以 运用。 : 简单来讲，机器人三原则和以下的三原则其实差异不大： : 1.要做人们心目中的好机器人。 : 2.要做人们心目中的好机器人。 : 3.无论如何，都要做人们心目中的好机器人。 这样关键就只剩"好"，定义更模糊，而且一个错就全错了。 回顾一下三原则(简短版): 1.不得伤害人类 2.得听命於人类 3.得保护自己 这三原则不只是保险丝，也涵盖了基本用途 机器人得听命於人类，但无论如何不得伤害人类 (来防止人类利用机器人对付它人) 在不用听命人类也不会伤害到人类时，则会尽力保全自己(才不会一点意外就坏) 你可以说"好"这字就包涵了如同三原则那样的定义，但是这样的差别比较像， 把重要事项写在宪法或法律中。 (宪法比较优先，更难改) 因此一般人也不会想要国家宪法是一句，我国要当个好国家。 : 只要交给机器人超强的推理和判断能力，判断出什麽是好机器人就行了。 : 但是就科幻小说来看，我并不觉得这些算是什麽问题。 : 正如某个版本的导读所讲，科幻小说本来就是幻想重於科学，否则就不是小说了。 : ※ 编辑: raincole 来自: 113.61.193.250 (02/12 12:20) --

※ 发信站: 批踢踢实业坊(ptt.cc) ◆ From: 118.168.243.114