标题:全球200名科学家点出AI用途地雷区 促各国明年底前画「红线」 新闻来源: (发文须填写新闻网站名称与连结，供板友分辨) 自由时报电子报 https://news.ltn.com.tw/news/world/breakingnews/5188246 https://img.ltn.com.tw/Upload/news/600/2025/09/23/5188246_1_1.jpg 人工智慧与其应用示意图。（路透档案照） 2025/09/23 18:15 〔编译管淑平／综合报导〕联合国大会一般性辩论开议的同时，逾200名科技界与学术界 领袖22日连署公开信，呼吁各国最晚明年底，画出人工智慧（AI）技术使用禁区的「红线 」，这封信警告，若不及早介入，人类要有意义管控AI风险会愈加困难。 《法新社》22日报导，包括10名诺贝尔奖得主，以及Anthropic、Google DeepMind、微软 和OpenAI等多家AI巨擘的研究人员在内，超过200名重量级人士签署这份公开信，并在联 合国大会一般性辩论开议这天发表。信中指出，AI具有促进人类福祉的庞大潜力，「然而 ，其当前发展趋势也带来前所未见的危险」，这封信呼吁各国政府，「必须果断行动，把 握有意义介入的机会窗口」。 根据这封公开信，「AI红线」是受各国同意，对於被视为风险太大，在任何情况下都不可 触犯的用途设禁区，信中举出的红线例子如：将核武指挥权交给AI、发展任何形式的致命 自主武器，以及AI用於大规模监控、社会信用评分（social scoring）、网路攻击或假冒 他人身分等。 连署人表示，监於AI技术进展速度，力促各国最迟在明年底前定出规范，画下「红线」。 这封信警告，「AI有可能很快就会超越人类的能力，进而升高多重风险」，包括制造疫情 、广泛假资讯、大规模操弄儿童和其他个人、带来国内外安全疑虑、大规模失业与系统性 人权侵害等，若任其不受制衡，未来几年要对其进行「有意义的人类管控」会愈加困难。 ※每日每人发文、上限量为八篇，超过会劣文请注意 ⊕请确切在标题与新闻来源处填入名称与连结，否则可无条件移除(本行可移除) --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 118.166.12.6 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/IA/M.1758632828.A.AAF.html