一边造 AI 一边清垃圾,硅谷开始为失控内容买单
北京时间 8 月 18 日,据《纽约时报》报道,劣质 AI 垃圾内容已经泛滥成灾:谷歌搜索里到处是“胶水披萨”食谱,亚马逊商品页充斥着虚假传记,脸书信息流里满是“虾仁耶稣”的图片。硅谷公司开始清理 AI 垃圾随着聊天机器人和视频生成工具不断发展,这个“数字污水堆”已经蔓延至各大科技平台,不仅降低了有价值内容的质量,也污染了整个信息生态系统。无法忍受了如今,硅谷开始清理这些垃圾了。音乐流媒体平台 Spotify 表示,去年其删除了 7500 万条批量上传内容、重复歌曲以及其他“垃圾式”曲目,这一数量占其全部音乐库的相当大一部分。领英在 7 月表示,“AI 垃圾内容是我们所有人的首要关注重点”,并开发了一个供用户举报此类内容的按钮。YouTube 母公司谷歌的研究人员描述了该视频服务如何在六个月内清除了 13 万个低质量频道。在整个互联网上,科技公司正在进行一场“生成式垃圾内容大扫除”。许多公司如今不堪重负,因为这些垃圾内容正是由它们自己的 AI 工具催生出来的。移动即时通讯应用、餐厅点评网站、学术档案库和婚恋服务平台都在清除或淡化 AI 生成的垃圾内容,其中许多依靠同一项技术来完成这次清理。人们逐渐厌倦了 AI 对环境造成的影响,以及它对就业和心理健康带来的压力。内容创作者、卡内基国际和平基金会在线趋势研究员艾丹 · 沃克 (Aidan Walker) 表示,AI 垃圾内容只是另一个“正在溃烂的伤口”。该基金会是一家研究全球事务的智库。“用户对此已经越来越不满,”他表示,“舆论风向已经明显发生了变化,所以这些公司终于开始正视这些问题了。”谷歌清除了 5 万个账号集群生成式 AI 如今可以制作越来越逼真的图像、音频和视频,但其中只有一部分可以被称为“垃圾内容”。科技公司主要针对的是那些低质量的“标题党”内容,这类内容制作成本低、传播容易、消费速度快、很快被遗忘。它们就像是挤压高级定制服装市场的快时尚,又像是取代优质牛排的“粉红肉泥”。欧洲研究人员去年写道,如果放任不管,这种网络上的合成内容沼泽可能“挤压人类创造力,腐蚀文化价值,破坏公共话语”。AI 垃圾内容 (slop) 已经泛滥到如此程度,以至于词典出版商梅里亚姆-韦伯斯特将其选为 2025 年的年度词汇。法国流媒体服务 Deezer 今年春天表示,每天更新到其系统的曲目中,近一半是人工生成的,其中许多从未被用户听过。AI 生成的内容占 Apple Music 上传量的三分之一以上。Instagram 负责人亚当 · 莫塞里 (Adam Mosseri) 去年年底表示,追踪“真实媒体”很快将“比追踪虚假媒体更加实际”。在他发表这一观点前不久,Instagram 的母公司 Meta 推出了一款完全由 AI 生成的视频信息流,结果被许多人嘲讽为垃圾内容的展示台。先生成垃圾内容如今,许多正在努力治理 AI 垃圾内容的科技公司,也正是那些一手制造了它的公司。今年 7 月,Meta 承诺支持一项欧洲公约,通过检测、标记和标签等方式使 AI 生成的内容更易于识别。同月,该公司还发布了一款图像生成器,该工具自动将公开的 Instagram 账户纳入作为参考数据源。在遭遇用户连续三天的强烈反对后,Meta 移除了这一功能。“AI 垃圾内容是一把双刃剑,因为很多平台确实因此获得了用户参与度的提升,”俄亥俄大学 AI 专家保罗 · 肖夫林 (Paul Shovlin) 表示,“但后来,它逐渐变成了一种负担,因为平台上充斥着太多‘漂浮物和废弃物’,用户现在很难找到自己真正想要的高质量内容。”例如,谷歌已经全面拥抱 AI,将其 Gemini 模型接入电子邮件、地图、旅行服务以及搜索业务。根据去年由 AI 驱动的在线视频编辑平台 Kapwing 进行的一项实验,YouTube 向新用户推荐的最初短视频中,超过 20% 是 AI 生成的垃圾内容。Kapwing 估计,YouTube 上一个最受欢迎的 AI 垃圾内容频道,年收入高达 425 万美元。该频道此后已被暂停参与 YouTube 的创收计划。YouTube CEO 尼尔 · 莫汉 (Neal Mohan) 在一篇博文中写道,“管理 AI 垃圾内容”是今年的首要任务。最近,谷歌研究人员也开始研究这一挑战。他们没有逐个评估视频,而是分析上传速度、重复性模板以及其他可能表明协同行为滥用的模式。研究人员发现了 5 万个账户集群,并将其移除。不过,一些数字媒体专家担心,这种方法可能会过度干预,同时误伤那些大量发布内容的合法创作者。YouTube 在一份声明中表示:“虽然学术研究有助于推动行业对这一问题的理解,但它并不能反映我们为执行平台政策而采取的多层次防护措施。其中包括强大的保护机制,以确保使用 AI 工具、且出于正当目的创作内容的创作者不会受到影响。”其