作者jacknavarra (阿姆罗)
看板Stock
标题Re: [新闻] 五角大厦将Anthropic列入黑名单,标记为供
时间Fri Mar 13 01:03:20 2026
事後回朔来看, 只能说Anthropic的执行长Dario Amodei真有先见之明
https://abmedia.io/anthropics-ceo-explains-why-he-took-on-the-pentagon
Anthropic执行长：Claude不足应用於军事，期待签署更明确条款
===
这次美国攻打伊朗也是大量运用AI
上一次攻打委瑞内拉的军事行动上, AI带来极好的成效
(这也成为Dario Amodei与美国国防部闹翻的导火线)
而这次美国攻打伊朗更是运用AI辅助去做情报识别判断
https://x.com/AndrewCurran_/status/2030367080336470208
华尔街日报
节录：
美国陆军第18空降军在一系列名为「猩红之龙」的持续演习中，使用资料分析公司帕兰提
尔科技的软体。乔治城大学「安全与新兴技术中心」资深研究员艾蜜莉亚・普罗巴斯科表
示，这次行动的效率追平了美军在伊拉克战争时创下的纪录——那是军方历来效率最高的
目标锁定行动之一。
她指出，得益於人工智慧技术，第18空降军仅用20名人员就完成了这项工作；相比之下，
在伊拉克战争时期，执行同样任务需要超过2,000名人员。
===
看来AI辅助节省了人力与时间成本, 而让美军得以快速辨别作战目标
甚至有可能辅助进行作战计画安排(推测)
然而，美军这次轰炸目标发生了误判
把伊朗女子小学判断为军事目标, 进而用战斧飞弹轰炸了小学
导致上百名小学生身亡, 一开始川普极力否认是美军炸的
把责任归咎於伊朗自己炸的
但是伴随越来越多证据出来, 证明就是美军炸的
接着媒体开始质疑这是因为AI判读发生误判
之後判读结果交给那20名人类做最终确认的时候,
却又没有把关到这一层, 於是放行了判读结果, 准许轰炸目标
最终导致悲剧发生
然後这时候要问, 虽然是军规AI系统抑制了幻觉发生的可能
但是就算是那低於1%的误判机率, 但最终导致悲剧发生的时候
谁要负责担起政治与军事责任??
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 118.166.205.73 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1773335003.A.D40.html
1F：推 A0908 : 这篇正解，Anthropic执行长是对的，AI判断的准确性 03/13 01:06
2F：→ A0908 : 早晚，甚至已经超越人类，但人类存在的价值就是拿 03/13 01:06
3F：→ A0908 : 来扛责任的 03/13 01:06
4F：推 HiuAnOP : 挑衅战争的那一方QQ 03/13 01:07
5F：推 necrophagist: 没先声明 搞不好川普还顺势把这一坨都怪它模型身上 03/13 01:15
6F：嘘 hidalgo22976: 战争，伊朗自己都杀了5万个上街的年轻人，没什麽好 03/13 01:16
7F：→ hidalgo22976: 负责的 03/13 01:16
8F：→ Jameshunter : 越洗越高1W>2.5W>5W 03/13 01:19
9F：嘘 uyrmb47 : 媒体 猜测 ??? 03/13 01:22
10F：推 shadow0326 : Anthropic交接期是半年，现在依然是Anthropic供应战 03/13 01:22
11F：→ shadow0326 : 争部的AI使用，你如果说是AI的错，那一样是A社弄得 03/13 01:22
12F：推 dayuer : 哪天ai判断白宫是敌方基地，炸下去就有解了 03/13 01:23
13F：→ matlab1106 : 半张照片都没有就5万人了 厉害吧 03/13 01:23
14F：嘘 keyofdejavu : 这跟AI什麽关系，如果人类判断要炸炸错了，说法差哪 03/13 01:31
15F：→ keyofdejavu : "谁要负责担起政治与军事责任??"，你这句一样能用 03/13 01:31
16F：→ hidalgo22976: 共产党的回答方式跟川宝一摸一样，厉害了 03/13 01:38
17F：推 SiFox : 用上AI，就是拿来卸责的呀！军方、政客，狡猾得很 03/13 01:43
18F：→ SiFox : 唉呀，程式出错，我们无意炸死上百位国小女学生 03/13 01:45
19F：嘘 strlen : 又一个软弱的奥本海默 滚吧 03/13 01:55
20F：→ strlen : 卖菜刀的害怕菜刀做出来被杀人犯拿去杀人喔 03/13 01:56
21F：→ strlen : IGRC40年来强奸杀害多少未成年伊朗女性你要不要算算 03/13 01:57
22F：→ ch410773 : 楼上介意算出来我们看看吗？ 03/13 02:01
23F：→ jacknavarra : 病人MRI扫描数据医院交给AI判读，说病人罹患睾丸癌 03/13 02:04
24F：→ jacknavarra : 应该要尽速切除，於是医院火速切除，事後发现误判 03/13 02:04
25F：→ jacknavarra : ，病人只是疝气，根本没有癌细胞，那麽病人应该要 03/13 02:04
26F：→ jacknavarra : 告医院还是告AI公司？ 03/13 02:04
27F：推 stlinman : AI会出错，人就不会出错？ 重点是机制！ 03/13 02:04
28F：嘘 madeinheaven: 误炸是美国情报问题吧 跟AI没啥关系 03/13 02:10
29F：推 BILLBADY : 所以打了学校会怎麽样吗？哪件事俄罗斯没干过，谁 03/13 02:26
30F：→ BILLBADY : 处理了俄罗斯？ 03/13 02:26
31F：→ nakayamayyt : 反正也不是第一次炸到平民小孩 03/13 02:40
32F：→ Jameshunter : 一次干死165个小学生的这倒是在俄乌战场没见过 03/13 02:41
33F：嘘 yunf : 少在那屁 03/13 02:51
34F：→ yunf : 故意把错推给ai来增加执行力 03/13 02:52
35F：→ yunf : 你以为ai是误判其实他只是在背锅而且不会反驳 03/13 02:54
36F：→ yunf : 他会让你调资料吗？ 03/13 02:54
37F：→ yunf : 你导入就要负全责 03/13 02:56
38F：→ yunf : 推给一个程式错误也太好骗 03/13 02:57
43F：→ strlen : 去年那波随便也杀了两百多个 支持伊朗的 都是人渣 03/13 03:02
44F：→ strlen : 革命卫队鱼肉乡民时 你们在哪里 03/13 03:03
45F：→ ferb : 我们在哪？ 03/13 03:05
46F：→ ferb : 到底是想讲什麽？革命卫队是屠杀？美国误杀是必要 03/13 03:07
47F：→ ferb : 之恶？ 03/13 03:07
48F：→ ferb : 还是国小女生等於革命卫队？ 03/13 03:11
49F：→ ferb : 还是你就是认为不起而反抗革命卫队，本来就是另一 03/13 03:15
50F：→ ferb : 种姑息支持，所以被另一个想推翻的势力炸死刚好？ 03/13 03:15
51F：→ ferb : 屠城时的下令者说不是不脱这麽想法？ 03/13 03:17
52F：→ tinybunny : 狗勾没睾丸癌医生也是建议切除没差惹 03/13 05:10
53F：→ tinybunny : 会有人想还狗勾公道吗? 03/13 05:11
54F：推 rxsmalllove : 省省吧 战争开打还要讲仁义道德 03/13 06:53
55F：→ jjjj222 : 打仗误伤还要人负责, 我真的受不了这些没脑的.. 03/13 07:05
56F：→ jjjj222 : 对谁负什麽责? 03/13 07:06
57F：推 dog41125 : 有些人脑子已经被洗烂了，要求俄国不能炸学校但是 03/13 07:09
58F：→ dog41125 : 美国可以，要求俄国要仁义道德打仗美国不用 03/13 07:09
59F：→ jjjj222 : 还是以後上战场, 一人抱一个婴儿, 谁打到谁输? 03/13 07:09
60F：→ jjjj222 : 要求俄罗斯不能炸学校的也是没脑, 都是 03/13 07:10
61F：→ jjjj222 : 打仗就打仗, 怀疑有敌人就是处理, 就这麽简单 03/13 07:11
62F：→ jorden : AI判读 人类监督这关出问题 03/13 07:13
63F：→ jjjj222 : 要求俄罗斯仁义道德的八成也是同一群左胶白痴 03/13 07:14
66F：→ LoveSports : 有兴趣的板友可以看这三篇 战争部在战争前就砍了监 03/13 07:20
67F：→ LoveSports : 督机制，包括保护平民的单位跟三军司法官。 03/13 07:20
68F：推 qaz27966 : 情报落後导致的悲剧干嘛硬要套在AI身上？你收到一 03/13 07:20
69F：→ qaz27966 : 份清单跟你说下一道菜是龙虾，然後你喂给AI，AI也 03/13 07:20
70F：→ qaz27966 : 会跟你说下一道是龙虾，所以你就闭眼吃，结果上来 03/13 07:20
71F：→ qaz27966 : 的是陀XX，也是AI的错吗 03/13 07:20
72F：→ LoveSports : 陆海空"军法官"高层都被整顿过了，甚至安插私人律师 03/13 07:21
73F：→ LoveSports : 在海军当军法官。 03/13 07:21
74F：→ jjjj222 : AI告诉我某个地方99%是敌人, 我一定往死里打 03/13 07:21
75F：→ LoveSports : 军法官的功能是，情报官或AI提供的打击目标，军法官 03/13 07:21
76F：→ jjjj222 : 那1%不是的, 抱歉你就是倒霉被误伤 03/13 07:22
77F：→ LoveSports : 做是否违反战争法的审核，过了才给指挥官批准发射。 03/13 07:22
78F：→ LoveSports : 记者会说前24小时靠AI打了一千多个目标，人类决策 03/13 07:22
79F：→ LoveSports : 时间明显不足，上述人类审查回圈可能会失效。 03/13 07:22
80F：→ LoveSports : 简言之几乎"接近"自主攻击 03/13 07:23
81F：→ LoveSports : 另一方面报导也指出人类喂给AI的资讯可能有误 03/13 07:23
82F：→ LoveSports : 基地设施已经改成学校却没更新目标定义 03/13 07:23
83F：推 qaz27966 : 问题根源在於情报一开始就有错误，不是因为用了AI, 03/13 07:23
84F：→ qaz27966 : 反而应该是以後针对攻击目标是不是要利用AI搭配卫 03/13 07:23
85F：→ qaz27966 : 星影像之类的，加强辨识，避免误击才是正确的吧。 03/13 07:23
86F：→ qaz27966 : 难道你有办法要求敌人不要这样运用AI? 03/13 07:23
87F：→ LoveSports : 这部分还在查，但如果属实就是"垃圾进垃圾出" 03/13 07:24
88F：→ LoveSports : 给AI错误资讯当然误判那是值得打击的目标 03/13 07:24
89F：推 qaz27966 : 怎麽会把这场悲剧跟因为缺乏监督画上等号，然後简 03/13 07:26
90F：→ qaz27966 : 化成都是因为没人监督就用AI打仗造成的。目标、手 03/13 07:26
91F：→ qaz27966 : 段与结论之间似乎像是拼装车一般南辕北辙 03/13 07:26
92F：→ jjjj222 : 不要说99%了, 就算只有80%, 1/5机会误伤, 我也照打 03/13 07:26
93F：→ qaz27966 : 我赞成任何攻击都应该要强化监督，但这种悲剧问题 03/13 07:27
94F：→ qaz27966 : 不在於工具，在於怎麽用好工具去避免类似的情况。 03/13 07:27
95F：→ qaz27966 : 这种一步到位的结论看似精辟其实根本经不起推敲 03/13 07:27
96F：推 yeay : 回MRI错误负责的问题，现在就算是医师判断错了谁负 03/13 07:28
97F：→ yeay : 责？MRI机器本身刚好有问题谁负责？甚至档案错置谁 03/13 07:28
98F：→ yeay : 负责？现在一样有类似的问题。 03/13 07:28
99F：→ yeay : AI辅助判断就是最後确认者的责任，除非AI全程判断加 03/13 07:28
100F：→ yeay : 开刀都不经人手。病患找医院负责，医院找AI公司求偿 03/13 07:28
101F：→ yeay : 。 03/13 07:28
102F：→ LoveSports : 战争部长讨厌军法官认为绑手绑脚，还骂军法官是白痴 03/13 07:29
103F：→ LoveSports : 相关新闻昨天外媒也有报导，有兴趣的人可以找来看 03/13 07:30
104F：推 qaz27966 : 再者，伊朗打海湾国家，他们难道也是用AI决定打谁 03/13 07:30
105F：→ qaz27966 : 吗？他们八成是有类似军法官的监督机制，那为什麽 03/13 07:30
106F：→ qaz27966 : 老是在打民用设施？这样摊开看，其实你就知道问题 03/13 07:30
107F：→ qaz27966 : 并不是在AI身上 03/13 07:30
108F：推 yeay : 再来，建议原po如果真的要开刀，尽量还是寻求第二意 03/13 07:31
109F：→ yeay : 见，再做个检查二次确认之类的。 03/13 07:31
110F：→ LoveSports : 短短数十秒要办到:情报官/AI=>军法官=>指挥官 03/13 07:31
111F：→ LoveSports : 这样飞弹发射审查环节根本是不可能的 03/13 07:31
112F：→ LoveSports : 中间一定有省略才能办到前24小时打一千多个目标 03/13 07:31
113F：→ LoveSports : 讲白点射飞弹变成在打电动，这是很严重的问题 03/13 07:31
114F：→ jjjj222 : 有军法官是白痴这件事, 我完全认同, 笑死 03/13 07:32
115F：→ LoveSports : AI基建还是会持续，这些课题是AI时代下大家得面对的 03/13 07:32
116F：推 qaz27966 : 说真的，Anthropic这波只想要占据道德高地，最好是 03/13 07:32
117F：→ qaz27966 : 以後其他国家都不会用自家AI应用打仗，说白一点就 03/13 07:32
118F：→ qaz27966 : 是矫情 03/13 07:32
119F：→ jjjj222 : 到底是在打仗还是玩家家酒 03/13 07:33
120F：→ LoveSports : 刚才贴那三篇代码可以看一下 滥杀平民更难赢得战争 03/13 07:34
121F：→ LoveSports : 那是军方的人分析的 03/13 07:34
122F：推 LoveSports : 二战各国用战争法教训了日本定罪很多战犯还丢原子弹 03/13 07:35
123F：→ LoveSports : 美国人不可能容许自己国家沦为像二战日本那样残暴 03/13 07:36
124F：→ LoveSports : 否则就等於承认自己国家也值得被丢核弹教训 03/13 07:36
125F：推 NANJO1569 : 把那些无辜被炸死的平民说的跟游戏npc被抹除一样无 03/13 07:36
126F：→ NANJO1569 : 关紧要也是很有趣，该恭喜跟那些无良掌权者一个思考 03/13 07:36
127F：→ NANJO1569 : 模式的高度!^^ 03/13 07:37
128F：→ qaz27966 : 你讲太远了，哪怕是一般公司都会有人觉得稽核很烦 03/13 07:39
129F：→ qaz27966 : ，军法官会让战争部长觉得很麻烦就代表人家有在做 03/13 07:39
130F：→ qaz27966 : 事 03/13 07:39
131F：推 LoveSports : 有一篇国外记者测试，24小时打一千多个目标，决策时 03/13 07:40
132F：→ LoveSports : 间大概20~45秒 03/13 07:40
133F：→ LoveSports : 情报官、军法官、指挥官都得审查，时间明显不够 03/13 07:41
134F：推 LoveSports : 补充一件事 2/23 Anthropic的公告有提到对岸蒸馏了 03/13 07:43
135F：→ LoveSports : Claude的推理逻辑 03/13 07:44
136F：→ LoveSports : 如果以後有的国家拿"接近"AI自主攻击的军用系统对付 03/13 07:44
137F：→ LoveSports : 台湾与盟国 我个人是会觉得很可怕 03/13 07:44
138F：→ NANJO1569 : 所以Anthropic才主张有效的human in the loop，并认 03/13 07:47
139F：→ NANJO1569 : 为现在的AI还没有好的不会出错，而化身为自动武器 03/13 07:47
140F：→ NANJO1569 : 一旦出错就会是致命的! 03/13 07:48
141F：推 direct : 说美国不可能的，那现在发生了，谁负责 03/13 07:54
142F：→ water6 : 你不用别人也会用，a公司的问题是出自他是有什麽资 03/13 07:54
143F：→ water6 : 格来评断什麽是合法什麽是非法，民选吗？就完全是 03/13 07:54
144F：→ water6 : 公司高层的意志而已 03/13 07:54
145F：→ jacknavarra : 讲到医疗都知道要去徵求第二意见判读了，那麽攸关 03/13 08:01
146F：→ jacknavarra : 人命的军事情报判读有没有徵求第二次意见判读？还 03/13 08:01
147F：→ jacknavarra : 是说军方就全然信任AI，一千多个目标就全部快速给 03/13 08:01
148F：→ jacknavarra : 过，人类不需要仔细的参与第二次判断过程，能够全 03/13 08:01
149F：→ jacknavarra : 然信任AI提供的判断，这不危险吗？人会出错，每个 03/13 08:01
150F：→ jacknavarra : 环节都有可能会出错，不用设定除错检查机制吗？ 03/13 08:01
151F：→ jacknavarra : 执行长就是担心这个环节问题而抗议，宁愿被列入黑 03/13 08:03
152F：→ jacknavarra : 名单 03/13 08:03
153F：推 LoveSports : A公司可能是发现现行法律下能"接近"AI自主攻击 03/13 08:08
154F：→ LoveSports : "依法行事"万一出事了 社会还是会检视科学家的道德 03/13 08:10
155F：嘘 pikoto : 忍不住 03/13 08:10
156F：→ LoveSports : 责任 他们有能力比政府官员与百姓更超前看到问题 03/13 08:10
157F：→ LoveSports : 也有不背锅的权利 战争部在这场战开打後还在动监督 03/13 08:11
158F：→ behappy0422 : 伊朗人民被政府杀完还要被所谓来拯救他们的外国炸 03/13 08:11
159F：→ behappy0422 : ，完全被双巴，有够惨 03/13 08:11
160F：→ LoveSports : 方面的人事喔 03/13 08:11
161F：→ jjjj222 : anthropic做不做任何事都是他的自由 03/13 08:13
162F：→ jjjj222 : 在战场上晚一秒出手的就是死, 白痴才在那边讲道德 03/13 08:14
163F：→ jjjj222 : 拿医疗来比到底是在想啥, 你晚一秒医病人就会死? 03/13 08:14
164F：→ jjjj222 : 用点脑好不好 03/13 08:15
165F：推 LoveSports : 对平民顾虑不够，现在没有百姓要蜂起站出来了 03/13 08:19
166F：嘘 catboost : 八卦支这都能扯 03/13 08:19
167F：→ LoveSports : 革命卫队从第一天那小学被炸之後就拿来号召 03/13 08:19
168F：→ LoveSports : 昨天新领导人就职声明也提到Minab的事情(小学所在) 03/13 08:19
169F：→ LoveSports : 说要为了Minab的人复仇 03/13 08:20
170F：→ LoveSports : 现在底层谁敢出来反抗就是背叛那些被杀的孩子 03/13 08:20
171F：→ LoveSports : 还有以美有在轰炸监狱喔 被关的美国人受访证言 03/13 08:20
172F：→ catboost : 没有股点 03/13 08:20
173F：→ LoveSports : 之前那些上街抗议的也受伤 菁英都在那里面喔 03/13 08:21
174F：→ LoveSports : 不顾平民的下场就是现在这样 战争不知何时能收尾 03/13 08:21
175F：→ LoveSports : 连带影响到股民QQ 03/13 08:21
176F：推 laba5566 : 川粉大概无视川普强奸更多未成年 ㄎㄎ 03/13 08:25
177F：嘘 pigpeachegg : 某楼说伊朗杀自己人没照片的就跟去新疆说没看到集中 03/13 08:25
178F：→ pigpeachegg : 营一样 03/13 08:25
179F：推 jeff22aa22 : 电脑分析 百分之78是A 百分之20是四 百分之5是十 03/13 08:29
180F：→ jeff22aa22 : 开张六给他 让他赢庄家100块 03/13 08:29
181F：→ qaz27966 : human in loop是一件事，使用AI在战事中，是另一件 03/13 08:33
182F：→ qaz27966 : 事。我赞成human in loop，但你要AI不在战事中基本 03/13 08:33
183F：→ qaz27966 : 上是在把手脚绑起来等人家揍你 03/13 08:33
184F：推 skying85 : 鹰眼 演过了 03/13 08:34
185F：推 LoveSports : 使用AI的配套措施 还有相关法律要改 初期有些人会成 03/13 08:37
186F：→ LoveSports : 为牺牲品 03/13 08:37
187F：→ LoveSports : 希望这波不会烧太大换我们被军用AI当成瞄准目标 03/13 08:39
188F：推 ohlong : 关键报告都是真der 03/13 08:40
189F：推 jackgn : 有些人就是爱杠，革命卫队杀了几万人，然後有些人 03/13 08:48
190F：→ jackgn : 抓着几百人猛打，不把革命卫队清掉，以後还会死更多 03/13 08:48
191F：→ pov : 判AI死刑 03/13 09:12
192F：推 gooddogleg : 就是过时情报..是人一样误会炸下去啊 03/13 09:18
193F：推 atpx : 从商业来说没错、你无法保证100%正确的情况下、会 03/13 09:25
194F：→ atpx : 造成高度损失（人命），本来就要有另一层保护机制 03/13 09:25
195F：→ atpx : 。没有那就不要做这笔、不然被告到倒 03/13 09:25
196F：→ s800525 : 以战果来说，AI还是超好用的 03/13 09:38
197F：推 maniaque : 根据实际的情况,就像企业把锅甩给离职员工一样 03/13 13:04
198F：推 LoveSports : 白宫在X上释出宣传影片 把伊朗当电动打 03/13 13:10
199F：→ LoveSports : "讲白点射飞弹变成在打电动，这是很严重的问题" 03/13 13:11
200F：→ LoveSports : 这句是我早上七点半在这里回的 03/13 13:11
201F：→ maniaque : 用按钮一案,杀了一堆人,会麻木的,就跟当打电动一样 03/13 14:06
202F：→ maniaque : 就像当年按下按钮,毒气室就开始灌毒气一样 03/13 14:06