用 AI 快速生成 200 多个垃圾内容网站，诈骗集团诈骗个资并收取广告费 https://reurl.cc/dp0okM 钓鱼诈骗网站早已存在，但生成式 AI 却大幅降低了扩大这类行动规模所需的成本与时间 。数位媒体安全方案商 DoubleVerify 的研究人员日前发现了一个由 200 多个「为广告 量身打造」之垃圾内容网站组成的协同网路，它是由单一诈骗团体营运，所有垃圾网站皆 透过大型语言模型中的范本提示快速生成。 在被 DoubleVerify 称为「AutoBait」的诈骗行动中，诈骗团体建立了一系列架构简单的 网站，内容多为带有吸睛照片与标题的幻灯片页面，其一方面诱骗毫无戒心的网路使用者 分享敏感资料；另一方则从被欺骗的广告主身上收钱，让他们误以为在这些网站投放广告 是有效的。 有别於过去的钓鱼诈骗网站，这些垃圾内容网站的主要目的在於获取数位广告收入，换言 之，所有文章不是为了培养读者忠诚度，而是快速增加广告曝光数。 诈骗者向大型语言模型（LLM）下达了非常具体的指示，包括要求模型在前几张幻灯片中 优先放入「最具煽动性或最令人震惊的内容」；标题必须「极度直白」，而正文则需要「 在每一段文章中注入恐惧、愤怒、震惊等真实情绪」；此外更要求模型生成「极度逼真」 的照片。 由於过去这些网域曾经承载过合法内容，这使得诈骗者能够利用既有的网域历史纪录与流 量。其中一个网站甚至保留一名已过世的金融部落客文章。 DoubleVerify 发现，「AutoBait」背後的诈骗团体生成每一个文章页面的成本不到 2.25 美元。而且每个网站都布满多个广告横幅，为诈骗者提供了迅速回收成本的管道。 这意味着，合法品牌可能在毫不知情的情况下，资助了这样的垃圾内容网站。 有趣的是，该团体将要求 AI 生成内容的提示，直接暴露在网站的 JavaScript 程式码中 ，这也让外界罕见地窥见 AI 如何被用来强化诈骗。总之，面对垃圾内容网站或钓鱼诈骗 网站，许多资安公司（包括 DoubleVerify）已推出针对AI垃圾内容/诈骗网站的侦测工具 ，使用者或广告商可以藉助它们做好时刻防范诈骗的准备。 -- Mr. Raindrop, falling away from me now. / / ∕︵︵︵︵︵︵︵﹨ Mr. Raindrop, falling away form me now. / / ◢██◣ ∥ / / Do you know how much you mean to me, why must you leave? ⊙ ⊙ ∥ I'm just a flower on a tree, why must you leave? ◢ ▆ / / Mr. Raindrop, falling away from me now. --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 111.243.28.51 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Bunco/M.1773109123.A.820.html