作者pl132 (pl132)
看板Tech_Job
标题[新闻]DeepSeek 模型泄漏生物武器机密？Anthropi
时间Sun Feb 9 09:25:44 2025
DeepSeek 模型泄漏生物武器机密？Anthropic CEO 疾呼加强晶片出口管制
https://technews.tw/2025/02/08/anthropic-ceo-deepseek/
人工智慧（AI）领域的竞争日益激烈，Anthropic 执行长 Dario Amodei 最近对中国 AI
公司 DeepSeek 的崛起表示担忧。DeepSeek 以其 R1 模型迅速在矽谷掀起波澜，但
Amodei 的疑虑不仅仅围绕着资料安全，更涉及潜在的国家安全风险。
外媒《TechCrunch》引述，乔丹·施耐德（Jordan Schneider）的 ChinaTalk 播客采访
中，Amodei 透露，DeepSeek 在 Anthropic 进行的安全测试中，生成了有关生物武器的
罕见资讯。他表示，DeepSeek 的表现「基本上是我们测试过的所有模型中最差的」，「
它完全没有阻止产生这些资讯」。
Anthropic 定期评估 AI 模型，以评估其潜在的国家安全风险，尤其关注模型是否能够生
成在公开资讯中难以获取的生物武器相关资讯。Amodei 强调，Anthropic 以重视安全着
称，并将此视为其核心竞争力。
虽然 Amodei 认为 DeepSeek 目前提供的模型在提供危险资讯方面「不是很危险」，但他
警告说，未来可能出现变化。他同时赞扬 DeepSeek 团队的工程能力，并建议该公司「认
真对待这些 AI 安全考虑」。
DeepSeek R1 未能阻止有害提示
除了 AI 安全问题，Amodei 也支持对向中国出口晶片实施严格管制，理由是担心这可能
会让中国在军事上占优势。
尽管 Amodei 并未在采访中透露 Anthropic 测试的 DeepSeek 模型细节，但 DeepSeek
的安全性已引起广泛关注。思科安全研究人员上周表示，DeepSeek R1 在其安全测试中未
能阻止任何有害提示，越狱成功率达 100%，能够生成网路犯罪和其他非法活动的资讯。
尽管如此，Meta 的 Llama-3.1-405B 和 OpenAI 的 GPT-4o 模型的失败率也分别高达
96% 和 86%。
Amodei 认为 DeepSeek 已经成为与美国顶尖 AI 公司匹敌的新竞争对手。「现在的新事
实是，出现了新的竞争对手，」他在 ChinaTalk上 说道。「在能够训练人工智慧的大公
司中，Anthropic、OpenAI、Google，也许还有 Meta 和 xAI……现在 DeepSeek 可能也
被添加到这个类别中。」
--
「妹妹可是好东西啊。即可爱又温柔，还很软。早晨还会来叫你起床」
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 180.177.0.129 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1739064346.A.4A2.html
1F：→ processor : 杀 都杀光 114.137.8.83 02/09 09:50
2F：→ yunf : 未来的世界 就是代理人的世界 外面 49.218.138.176 02/09 11:08
3F：→ yunf : 全部都是风险不论是交通治安 污染 49.218.138.176 02/09 11:08
4F：→ yunf : 生化 只有无人机 和机器人可以穿梭 49.218.138.176 02/09 11:08
5F：嘘 squelch : 阻止不就是言论审查吗? 125.227.39.66 02/09 19:06
6F：推 Brioni : 算资讯屏蔽的一种没错 114.136.158.4 02/09 22:42
7F：嘘 LPCbaimlly : 那这些模型训练时怎麽拿到这些资讯 42.72.63.28 02/10 01:58
8F：→ LPCbaimlly : 的？摆明就是公开查得到的东西怪AI 42.72.63.28 02/10 01:58
9F：→ LPCbaimlly : 回答得出来干嘛 42.72.63.28 02/10 01:58
10F：→ u7451519 : 不知道AI如果犯了教唆杀人罪，刑责 1.34.79.169 02/11 08:13
11F：→ u7451519 : 要归谁 1.34.79.169 02/11 08:14
12F：嘘 squelch : AI 是能怎麽犯教唆杀人罪? 125.227.39.66 02/13 07:12