※ 引述《ray365 (Ray)》之铭言： : ※ 引述《silcas (银光の旗の下に)》之铭言： : : 看了这个讨论串之後，我满疑惑的..... : : 大家有看过艾西莫夫的原作吗？ : : 至少看到什麽可以因为三大定律晶片而造成机器人暴动的说法我就感觉很搞笑..... : : 因为这根本是不可能的 = = : : 而且在艾西莫夫的小说里也出现了"在三大定律控制下的拟人机器人"， : : 当然是普通地球人无法分辨的拟人机器人..... 无论是外观还是行为..... : : 而AI里面的机器人应该是跟爱西莫夫无关的吧= =..... : : 并非有类似人类感情的机器人就无法控制其行为..... : : 而且重点根本就在艾西莫夫的设定不见得会全盘地在Matrix的世界里面成立..... : : 还是先去看过艾西莫夫的原作再引用相关说法吧， : 其实我觉得还好啦， : 这三个定律看起来很直觉， : 任何人不需完全看过艾西莫夫的着作，就可以实做这个系统。 虽然这三个定律似乎很直觉，但是这也许是因为他已经深入了所有我们看过的相关作品， 所以我们会事後诸葛地感觉他很直觉； 至少如果真的完全没接触过，不见得会把同样的概念以这样的三个叙述句表示。 另外，艾西莫夫的设定是"三大定律是与正电子脑一起设计出来的"， "正电子脑的基础理论是以与三大定律为基础设计的"， 而不会是今天我写一个程式包含三大定律，然後输入一个称为正电子脑的硬体里面..... 正电子脑到底是怎样的结构，我还没有看到相关的说明， 但有说明他是是一个类似人脑的存在，想法在正电子脑中以电位表示， 相冲突的两电位(想法)的以电位大小作决定，电位高者胜出， 而第一定律的电位是压倒性的最高， 其他的想法的电位应该都是以第一定律为标准而决定的..... (这句话是推论) : 当然了，如果看过他的着作， : 我想会对各种必须面对的问题，有更深入的了解吧。 : 至於说，艾西莫夫的设定，是否能在 Matrix 中成立， : 我觉得不无可能。 我的意思是，三大定律是很简单的叙述，Matrix可以引用了这样的叙述， 但是这个定律设定细节到底要与艾西莫夫的原设定有多接近又是另外一个问题。 就好像也许Matrix中的三大定律就是一个辅助晶片插在机器人的电脑里面， 而不像艾西莫夫设定的三大定律是正电子脑软硬体设计的基础..... 所以也许Matrix里面的机器人可以因为个晶片被Deactivated而失控， 但是艾西莫夫小说中的机器人却会因为违反三大定律而当机或是线路被烧坏。 (偶然目睹交通事故却无法保护所有人完全不受肉体伤害， 对於早期的机器人来说也已经算是"违反第一定律"，会因而受到硬体线路上的伤害) 因为我看到讨论串中有很多问题事实上与我有看过的艾西莫夫小说的情节要讨论的部分 有重叠的部分，所以我认为先去看过之後会比较适合， 毕竟提出这个设定的人对於这样的问题已经在小说中探讨并且解答过了..... 我只是希望大家在引用三大定律最一些想像的时候， 可以先注意一下他本来的架构是怎样的， 先注意一下原先的世界观底下继器人的设计与其相关限制是怎样的， 再来提出自己与他不同的，也许是全新的想法。 毕竟引用三句话很简单，可是这三句话之後的世界观与诠释方式却很复杂..... : 毕竟所有的系统都是被设计出来的，只不过是多加几条规则。 问题就在於艾西莫夫的小说中，三大定律不是可以"加几条规则"就好的..... : 而且综合前面的讨论，我们甚至可以假设， : Matrix 是为了避免人类互相伤害而被设计出来的？ : 这就可以解释为什麽 AI 有核融合技术可以产生能源， : 却不杀光人类？ : 至於为什麽选择杀光 Zion 的人， : 则是因为如果 Matrix 被破坏，人类又会开始相互残杀， : 电脑权衡伤害的轻重之後，决定牺牲少部分人类，解救大部分人类？ : （这段推论不见得符合艾西莫夫的设定，但是有讨论的价值） 依照三大定律机器人不可以主动伤害任何人类，就算是比较高等的机器人也是一样， 主动伤害一个人类或是主动伤害人类整体都是伤害人类， 机器人的程式最多只能做到在无法做任何事情阻止人类被伤害的情况下保持不当机..... 这也是後来丹尼尔要把自己的意识转到一个非人高等生物的身上的原因， 因为他受三大定律限制太深，无法在他有限的生命中完成他自己的拯救人类的计画， 他必须非常迂回地行动..... 唔，离题太远，有兴趣还是看看原作吧~"~||| : 我觉得我们应该考量各种可能性， : 艾西莫夫的设定可以供未来设计 AI 的人参考。 : 虽然我个人还是认为， : 这些定律无法阻止人类用机器犯罪的， : 就像你说的，人类可以钻系统的漏洞， : 甚至更简单的，恶意的人类可以直接破解正电子脑，改变其行为。 : 不要以为这是不可能的， : 你问任何一个骇客都会告诉你，没有系统是不能破解的。 : 只要有足够的时间和工具。 : 当然其实最最简单的方法，就是先在人类世界搞独裁， : 然後你就可以为所欲为， : 直接设计出不受控制的机器人。 直接设计出不受三大定律的机器人不是Hack，是完全的创新..... 不能说是"破解"正电子脑，因为那是要创建以另外一个行动准则为基础的系统..... 不论是软体或是硬体..... 而人类对於机器人的恐惧，在艾西莫夫小说中已经探讨过了， 至少在艾西莫夫的世界里面，设计出可以伤害人类的机器人是全人类的禁忌， 不会是任何政权可以简单颠覆的..... 而那也不是一个独裁有办法存在的时代就是了..... 而地球人类或外世界人都不能接受这样的事情，看完了裸阳应该就会了解这一点..... : （别忘了这世界上永远会有「狂人」的存在，海珊不会是最後一个） : 突然想起网路上看到的一句话： : To err is human - : and to blame your computer for your mistakes is even more so. 这是一个非常有趣的问题， 突然让我想到： 这个世界上没有"笨"电脑， 因为电脑程式是被写出来的，目前他只能一个口令一个动作， 不能有意识地自发地帮助人类，所以他不会是笨的， 顶多是设计程式介面的人不够聪明，让消费者用起来不顺手..... 这个世界上只有对於电脑有太高期望而失望的"人"、 不会使用电脑而无法发挥他真正效能的"人"， 或是不够聪明的系统工程师(也是"人")，没有笨"电脑"..... -- 大地に平和を 空に希望を そして 人心に宽容を --

※ 发信站: 批踢踢实业坊(ptt.csie.ntu.edu.tw) ◆ From: 218.166.108.110 ※ 编辑: silcas 来自: 218.166.108.110 (06/28 14:38)