作者hihihihehehe (远离尘嚣)
看板IA
标题[新闻] 全球200名科学家点出AI用途地雷区 促各国明年底前画「红线」
时间Tue Sep 23 21:07:05 2025
标题:全球200名科学家点出AI用途地雷区 促各国明年底前画「红线」
新闻来源: (发文须填写新闻网站名称与连结,供板友分辨)
自由时报电子报
https://news.ltn.com.tw/news/world/breakingnews/5188246
https://img.ltn.com.tw/Upload/news/600/2025/09/23/5188246_1_1.jpg
人工智慧与其应用示意图。(路透档案照)
2025/09/23 18:15
〔编译管淑平/综合报导〕联合国大会一般性辩论开议的同时,逾200名科技界与学术界
领袖22日连署公开信,呼吁各国最晚明年底,画出人工智慧(AI)技术使用禁区的「红线
」,这封信警告,若不及早介入,人类要有意义管控AI风险会愈加困难。
《法新社》22日报导,包括10名诺贝尔奖得主,以及Anthropic、Google DeepMind、微软
和OpenAI等多家AI巨擘的研究人员在内,超过200名重量级人士签署这份公开信,并在联
合国大会一般性辩论开议这天发表。信中指出,AI具有促进人类福祉的庞大潜力,「然而
,其当前发展趋势也带来前所未见的危险」,这封信呼吁各国政府,「必须果断行动,把
握有意义介入的机会窗口」。
根据这封公开信,「AI红线」是受各国同意,对於被视为风险太大,在任何情况下都不可
触犯的用途设禁区,信中举出的红线例子如:将核武指挥权交给AI、发展任何形式的致命
自主武器,以及AI用於大规模监控、社会信用评分(social scoring)、网路攻击或假冒
他人身分等。
连署人表示,监於AI技术进展速度,力促各国最迟在明年底前定出规范,画下「红线」。
这封信警告,「AI有可能很快就会超越人类的能力,进而升高多重风险」,包括制造疫情
、广泛假资讯、大规模操弄儿童和其他个人、带来国内外安全疑虑、大规模失业与系统性
人权侵害等,若任其不受制衡,未来几年要对其进行「有意义的人类管控」会愈加困难。
※每日每人发文、上限量为八篇,超过会劣文请注意
⊕请确切在标题与新闻来源处填入名称与连结,否则可无条件移除(本行可移除)
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 118.166.12.6 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/IA/M.1758632828.A.AAF.html