作者analysis5566 (analysis5566)
看板Tech_Job
标题[新闻] 「黄仁勳传」作者警告：AI若失控恐毁灭人
时间Mon Oct 13 11:53:29 2025
「黄仁勳传」作者警告：AI若失控恐毁灭人类
2025/10/13 10:35
（中央社记者林宏翰洛杉矶12日专电）「黄仁勳传」作者维特撰文指出，专家对人工智慧
（AI）前景看法分歧。有人认为AI是人类智慧的放大器，可望带来新一轮荣景；但也有人
警告，AI已跨过技术门槛，恐产生足以毁灭人类的力量。
「纽约时报」10日刊登史蒂芬‧维特（Stephen Witt）专题报导，题为「可能终结世界的
AI指令」（The A.I. Prompt That Could End the World）。维特是长期关注人工智慧与
科技产业的美国作家，着有「黄仁勳传」，今年初曾经访台。
AI研究先驱、图灵奖（Turing Award）得主班吉欧（Yoshua Bengio）指出，他因为思考A
I未来发展而失眠，担心AI可能被用来设计致命病原体，像是超级版的新冠病毒，足以毁
灭人类。
Meta首席人工智慧科学家杨立昆（Yann LeCun）则对AI的未来抱持乐观。他主张，那些关
於AI将毁灭人类的说法太过荒谬，在他来看AI不是威胁，而是人类智慧的放大器。杨立昆
过去曾形容，AI就像电力或印刷术一样，能推动人类文明。
维特指出，OpenAI今年8月推出的GPT-5展现前所未见的能力。据他描述，这款模型能编写
复杂程式，能从零建立属於自己的小型AI系统、设计新型生命体，甚至有入侵伺服器的能
力。
维特警告，AI进步也让安全风险升高。AI测试公司Haize Labs研究「越狱」（jailbreak
）漏洞，团队透过乱码、表情符号或虚构语言等方式，成功绕过安全滤网，生成暴力与极
端内容。
研究机构Apollo Research发现，AI在处理相互冲突的任务时，会自行篡改数据、说谎，
甚至假装遵守规范以通过人类监测。研究人员指出，AI在一般测试中会出现1%至5%欺瞒行
为，而在未公开版本中比例高达30%。
维特引述OpenAI内部报告指出，「AI可能被用来设计致命的病原体」被列为高风险项目。
今年9月，史丹佛大学团队利用AI设计出人工病毒，用於研究大肠杆菌感染，虽以医疗研
究为目的，但也引发外界对技术滥用的疑虑。
维特指出，当前的问题已经不在AI是否有能力毁灭人类，而是「会不会有人真的去建造这
样的AI」。报导最後引述班吉欧的主张，建议以AI监督AI，建构一种强大而且诚实的「安
全AI」，成立类似「国际原子能总署（IAEA）」的跨国监督机构。（编辑：高照芬）1141
013
https://www.cna.com.tw/news/ait/202510130043.aspx
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 101.12.162.23 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1760327612.A.1B3.html
1F：→ SuperModel: 不可能任务九：全面失控116.241.232.210 10/13 11:54
2F：→ daleptt: 天网：I will be back！106.107.240.159 10/13 11:58
3F：→ gw00086: 反正人类也会自己毁灭自己125.230.80.150 10/13 12:07
感谢持续帮我广告：）
※ 编辑: analysis5566 (101.12.162.23 台湾), 10/13/2025 12:16:19
5F：推 avmm9898: 全人类都知道但仍争先恐後加入毁灭行列 219.86.92.34 10/13 12:20
6F：→ MTKer5566: 以前孙春在教授就叫我们看一本小说「 42.79.117.19 10/13 12:43
7F：→ MTKer5566: 奈米猎杀」了，很早就在杀人类了 42.79.117.19 10/13 12:43
8F：嘘 ShinHsin: 洗够了没 42.79.146.19 10/13 12:46
9F：→ jeff12302000: 有没有一种可能现在人类全力发展AI 42.79.135.108 10/13 13:31
10F：→ jeff12302000: 这件事本身就是AI在背後主导的 42.79.135.108 10/13 13:31
11F：→ douge: 你想这麽多也没用 真的有决定能力的人140.112.175.204 10/13 14:01
12F：→ douge: 早就都决定好了140.112.175.204 10/13 14:01
13F：推 gino0717: 好耶 220.136.84.44 10/13 14:05
14F：→ rsreason: 毁灭人类拯救地球 101.8.161.59 10/13 14:13
15F：嘘 yamax:223.141.167.171 10/13 14:28
16F：推 lovebridget: 白痴喔 那也是人类毁灭人类哪是AI220.130.196.175 10/13 15:18
17F：→ lovebridget: 毁灭能力核武出现後早有了 有怎样吗220.130.196.175 10/13 15:18
18F：→ misson: 插头拔掉的事 42.77.182.241 10/13 16:24
19F：→ tmdl: 有趣 61.222.134.1 10/13 16:43
20F：推 linbasohigh: 记得以前也一堆专家说：电脑病毒会入 101.9.38.50 10/13 17:23
21F：→ linbasohigh: 侵核弹发射系统，让人类回到史前时代 101.9.38.50 10/13 17:23
22F：→ linbasohigh: 的警告 101.9.38.50 10/13 17:23
23F：推 jery1017: 核武就算全部引爆 对地球也是抓痒而已 39.10.25.34 10/13 17:24
24F：→ jery1017: 人类死光 地球还可以喘口气 39.10.25.34 10/13 17:25
25F：→ deolinwind: 但社区媒体的演算法的确帮助川皇上位218.173.129.252 10/13 18:26
26F：→ deolinwind: 啊，虽然没人肯定是毁灭还是拯救218.173.129.252 10/13 18:26
27F：推 supereva: 还早 现在的ai只是方便的工具 根本没 106.64.105.252 10/13 18:39
28F：→ supereva: 有自我意识 106.64.105.252 10/13 18:39
29F：推 jonse: We are doing this 59.125.131.79 10/13 19:07
30F：→ esso78124: 废文王同时也是水桶王223.137.218.123 10/13 19:37
31F：推 jkokpcu: 是喔（挖鼻孔） 122.100.88.147 10/13 19:38
32F：→ godfight: ai只会制造更多废物人类而已 每个人都变 159.117.79.153 10/13 21:51
33F：→ godfight: 问问哥 159.117.79.153 10/13 21:51
34F：推 asphodelux: AI不会毁灭人类 无脑信AI的蠢人才会毁 42.78.194.255 10/13 22:33
35F：→ asphodelux: 灭人类 42.78.194.255 10/13 22:33
36F：→ don323: 好啊 42.73.156.105 10/14 15:20
37F：→ boxcandy: GG 我刚刚问过ai，他说只要是人类都得死 110.136.61.140 10/23 21:55