寫一寫發現有很多雷... 往下看的請自重。 ※ 引述《raincole (冷雨)》之銘言： : : 推 fw190a:好奇，可以請樓上說明一下感到不合理的原因嗎? : 講幾個例子... 感謝回應。 我和你的感到疑義的部份看法大致相同， 不過，以書中的脈絡來看，我認為這些問題大致都能被解決， 而不會引發致命或可笑的矛盾。 真的要批的話，我認為"正子腦"與其奇異的相關設定才是根源所在， 三大法邏輯上合理，實務上合用，應該算表現不錯。 : 1.這些名詞（人類、傷害）的定義是人訂的，還是機器人推算出來的？ : 在基地某篇裡面，有人把機器人的「人類」定義成只限自己星球上的人，所以這些定義應 : 該是人為的。 定義問題的確有可能打破三大法則，如果這些都能隨意更改/詮釋，則機器人 馬上就會具有太多裁量權。 不過我這邊是偏向，這些基本定義是被多重邏輯嚴密寫好並定義的， 也就是幾乎是寫死的。 具有反省思考能力的機器人，或許能慢慢改變這規則的意思，但是首先他必須 要有這種動機。 至少在書中見到的，只被要求服侍生活起居的機器人，從來沒有產生相關動機。 而關鍵的吉斯卡與丹尼爾，則是因為他們身處權力核心，而他們照顧的這個人， 很在意"全人類"的興亡，因此才引導了他們做這一思考。 另外，在鋼穴中提及，重寫一顆正子腦，技術上可行，但是須要花幾十年工夫， 而且沒有經濟效益所以應該沒人會做。 但是事實上這說明了它完全可行。 所以我們在索拉利星上看到了一批機器人對於"人類"有不同定義時， 使得回到故鄉的艾帝嘉大驚失色(因為違反常識)，但以索拉利的機器人專業， 與長時間孤立，反倒說明他們完全有能力與理由去設計出這樣的機器人。 因此在這邊失敗的也不是三原則，而是人類自己去更改的。 : 但是這又不符合可避免的衝突、騙子裡面機器人能自行推算出超出設計者想像的想法。 : 而且機器人把心理上的傷害也當作傷害，但連人類自己都沒辦法確切瞭解自己心理上有沒 : 有被傷害，又如何能對機器人作定義？ 應該說，能"感知"人類心理情緒的機器人，本來就是規格外的產物，設計者從來不知道 有這種技術，自然不可能對之加以防範。 只能假設說，產生這種能力的機器人，由於沒有其它事先設定， 對於人類的情緒有很大的解釋空間，是靠其它生活中經驗推理出意義。 : 2.機器人的運算能力是否有硬體上的極限？ : 如果沒有，那所有機器人的第一法則，應該都會變成第零法則，因為他們每作一個動作， : 都可以預期（無限遠的）的蝴蝶效應對人類的傷害。 運算能力是有上限的。 : 如果有，那曙光中的吉斯卡為甚麼可以只靠調整程式，就得到遠遠超過丹尼爾的能力？ 因為強化的不是運算能力，而是產生某種心電感應。 : 3.三原則安全嗎？ : 從消失無蹤裡面看來，機器人的第一法則也是可以被人為修改的。 : 而從基地看來，機器人對人類的定義也是可修改的。 : 那這些機器人學家以及機器人製造公司，應該比世界上任何一間軍火商或恐怖份子更危險 : ，因為這些機器人隨時可以變成強大的武力（只要改動前述兩項之一）。 : 但是裡面的政府卻無所管制，只把機器人學當成普通的學術活動看待，這也太不符合我們 : 對政府（美國？）的印象了。 定義與法則可以被人為修改，但只能透過生產新機的方式。(詳見正子腦設定) 因此市面上現有機器人都很安全，不會被按個按鈕就變私人軍隊。 : 我知道這是因為艾氏的作品很多，如果只看三原則本身，也許不能說「不合理」。 : 但是這三原則其實並沒有解決任何事情，因為實作上有很多必然的矛盾，事實上艾氏 : 的機器人系列就是在描寫這些矛盾。 艾氏的三原則並不是在說:有了這個三原則，機器人再也不可能會對人類產生威脅了 而是在說，透過這三原則簡潔/穩定的運作，人類成功的將機器人融入社會中加以 運用。 : 簡單來講，機器人三原則和以下的三原則其實差異不大： : 1.要做人們心目中的好機器人。 : 2.要做人們心目中的好機器人。 : 3.無論如何，都要做人們心目中的好機器人。 這樣關鍵就只剩"好"，定義更模糊，而且一個錯就全錯了。 回顧一下三原則(簡短版): 1.不得傷害人類 2.得聽命於人類 3.得保護自己 這三原則不只是保險絲，也涵蓋了基本用途 機器人得聽命於人類，但無論如何不得傷害人類 (來防止人類利用機器人對付它人) 在不用聽命人類也不會傷害到人類時，則會盡力保全自己(才不會一點意外就壞) 你可以說"好"這字就包涵了如同三原則那樣的定義，但是這樣的差別比較像， 把重要事項寫在憲法或法律中。 (憲法比較優先，更難改) 因此一般人也不會想要國家憲法是一句，我國要當個好國家。 : 只要交給機器人超強的推理和判斷能力，判斷出什麼是好機器人就行了。 : 但是就科幻小說來看，我並不覺得這些算是什麼問題。 : 正如某個版本的導讀所講，科幻小說本來就是幻想重於科學，否則就不是小說了。 : ※ 編輯: raincole 來自: 113.61.193.250 (02/12 12:20) --

※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 118.168.243.114