作者analysis5566 (analysis5566)
看板Tech_Job
標題[新聞] 「黃仁勳傳」作者警告：AI若失控恐毀滅人
時間Mon Oct 13 11:53:29 2025
「黃仁勳傳」作者警告：AI若失控恐毀滅人類
2025/10/13 10:35
（中央社記者林宏翰洛杉磯12日專電）「黃仁勳傳」作者維特撰文指出，專家對人工智慧
（AI）前景看法分歧。有人認為AI是人類智慧的放大器，可望帶來新一輪榮景；但也有人
警告，AI已跨過技術門檻，恐產生足以毀滅人類的力量。
「紐約時報」10日刊登史蒂芬‧維特（Stephen Witt）專題報導，題為「可能終結世界的
AI指令」（The A.I. Prompt That Could End the World）。維特是長期關注人工智慧與
科技產業的美國作家，著有「黃仁勳傳」，今年初曾經訪台。
AI研究先驅、圖靈獎（Turing Award）得主班吉歐（Yoshua Bengio）指出，他因為思考A
I未來發展而失眠，擔心AI可能被用來設計致命病原體，像是超級版的新冠病毒，足以毀
滅人類。
Meta首席人工智慧科學家楊立昆（Yann LeCun）則對AI的未來抱持樂觀。他主張，那些關
於AI將毀滅人類的說法太過荒謬，在他來看AI不是威脅，而是人類智慧的放大器。楊立昆
過去曾形容，AI就像電力或印刷術一樣，能推動人類文明。
維特指出，OpenAI今年8月推出的GPT-5展現前所未見的能力。據他描述，這款模型能編寫
複雜程式，能從零建立屬於自己的小型AI系統、設計新型生命體，甚至有入侵伺服器的能
力。
維特警告，AI進步也讓安全風險升高。AI測試公司Haize Labs研究「越獄」（jailbreak
）漏洞，團隊透過亂碼、表情符號或虛構語言等方式，成功繞過安全濾網，生成暴力與極
端內容。
研究機構Apollo Research發現，AI在處理相互衝突的任務時，會自行篡改數據、說謊，
甚至假裝遵守規範以通過人類監測。研究人員指出，AI在一般測試中會出現1%至5%欺瞞行
為，而在未公開版本中比例高達30%。
維特引述OpenAI內部報告指出，「AI可能被用來設計致命的病原體」被列為高風險項目。
今年9月，史丹佛大學團隊利用AI設計出人工病毒，用於研究大腸桿菌感染，雖以醫療研
究為目的，但也引發外界對技術濫用的疑慮。
維特指出，當前的問題已經不在AI是否有能力毀滅人類，而是「會不會有人真的去建造這
樣的AI」。報導最後引述班吉歐的主張，建議以AI監督AI，建構一種強大而且誠實的「安
全AI」，成立類似「國際原子能總署（IAEA）」的跨國監督機構。（編輯：高照芬）1141
013
https://www.cna.com.tw/news/ait/202510130043.aspx
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.162.23 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Tech_Job/M.1760327612.A.1B3.html
1F：→ SuperModel: 不可能任務九：全面失控116.241.232.210 10/13 11:54
2F：→ daleptt: 天網：I will be back！106.107.240.159 10/13 11:58
3F：→ gw00086: 反正人類也會自己毀滅自己125.230.80.150 10/13 12:07
感謝持續幫我廣告：）
※ 編輯: analysis5566 (101.12.162.23 臺灣), 10/13/2025 12:16:19
5F：推 avmm9898: 全人類都知道但仍爭先恐後加入毀滅行列 219.86.92.34 10/13 12:20
6F：→ MTKer5566: 以前孫春在教授就叫我們看一本小說「 42.79.117.19 10/13 12:43
7F：→ MTKer5566: 奈米獵殺」了，很早就在殺人類了 42.79.117.19 10/13 12:43
8F：噓 ShinHsin: 洗夠了沒 42.79.146.19 10/13 12:46
9F：→ jeff12302000: 有沒有一種可能現在人類全力發展AI 42.79.135.108 10/13 13:31
10F：→ jeff12302000: 這件事本身就是AI在背後主導的 42.79.135.108 10/13 13:31
11F：→ douge: 你想這麼多也沒用 真的有決定能力的人140.112.175.204 10/13 14:01
12F：→ douge: 早就都決定好了140.112.175.204 10/13 14:01
13F：推 gino0717: 好耶 220.136.84.44 10/13 14:05
14F：→ rsreason: 毀滅人類拯救地球 101.8.161.59 10/13 14:13
15F：噓 yamax:223.141.167.171 10/13 14:28
16F：推 lovebridget: 白癡喔 那也是人類毀滅人類哪是AI220.130.196.175 10/13 15:18
17F：→ lovebridget: 毀滅能力核武出現後早有了 有怎樣嗎220.130.196.175 10/13 15:18
18F：→ misson: 插頭拔掉的事 42.77.182.241 10/13 16:24
19F：→ tmdl: 有趣 61.222.134.1 10/13 16:43
20F：推 linbasohigh: 記得以前也一堆專家說：電腦病毒會入 101.9.38.50 10/13 17:23
21F：→ linbasohigh: 侵核彈發射系統，讓人類回到史前時代 101.9.38.50 10/13 17:23
22F：→ linbasohigh: 的警告 101.9.38.50 10/13 17:23
23F：推 jery1017: 核武就算全部引爆 對地球也是抓癢而已 39.10.25.34 10/13 17:24
24F：→ jery1017: 人類死光 地球還可以喘口氣 39.10.25.34 10/13 17:25
25F：→ deolinwind: 但社區媒體的演算法的確幫助川皇上位218.173.129.252 10/13 18:26
26F：→ deolinwind: 啊，雖然沒人肯定是毀滅還是拯救218.173.129.252 10/13 18:26
27F：推 supereva: 還早 現在的ai只是方便的工具 根本沒 106.64.105.252 10/13 18:39
28F：→ supereva: 有自我意識 106.64.105.252 10/13 18:39
29F：推 jonse: We are doing this 59.125.131.79 10/13 19:07
30F：→ esso78124: 廢文王同時也是水桶王223.137.218.123 10/13 19:37
31F：推 jkokpcu: 是喔（挖鼻孔） 122.100.88.147 10/13 19:38
32F：→ godfight: ai只會製造更多廢物人類而已 每個人都變 159.117.79.153 10/13 21:51
33F：→ godfight: 問問哥 159.117.79.153 10/13 21:51
34F：推 asphodelux: AI不會毀滅人類 無腦信AI的蠢人才會毀 42.78.194.255 10/13 22:33
35F：→ asphodelux: 滅人類 42.78.194.255 10/13 22:33
36F：→ don323: 好啊 42.73.156.105 10/14 15:20
37F：→ boxcandy: GG 我剛剛問過ai，他說只要是人類都得死 110.136.61.140 10/23 21:55