快讯 09:42DeepSeek 开源 V4 推理引擎,推理成本再降 40%10:15逐际动力完成 B 轮 5 亿元融资,加速人形机器人量产10:58Kimi 企业版 API 上线,新增批量推理折扣档位 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期四 · 09-03 21:31 约 2 分钟读完

小红书将AI虚假内容纳入常态化治理,近三月清理相关笔记12万条

摘要

小红书今日宣布将AI制作发布的虚假探店、医美、民宿等体验内容纳入常态化治理,通过细化管控、存量清理和策略增补三方面强化打击。数据显示,今年6至8月已清理处置相关虚假笔记近12万条,违规账号面临封禁或禁言等处罚。

小红书官方账号“薯管家”今日发布治理公告,宣布将AI制作发布的虚假内容正式纳入平台常态化治理机制。这一举措意味着,针对利用生成式AI技术批量制造虚假体验笔记的行为,平台将建立长期、系统的打击机制,而不再是阶段性的专项清理。

根据公告披露的信息,平台近期监测到部分账号利用AI工具生成或拼接图片伪造实景,系统性地杜撰探店、住宿、就医、美容等消费体验内容,意图误导用户决策。此类内容往往以第一人称叙事包装,配合高度逼真的合成图片,普通用户难以在第一时间辨别真伪,对平台内容生态和用户信任构成实质威胁。

在具体治理路径上,小红书规划了三条主线:其一,细化管控重点,将AI生成图片伪造实景、AI批量生成同质化体验笔记、虚构亲历经历列为高风险识别场景,文旅住宿、医疗医美、教育、房产等对真实性要求较高的品类优先覆盖;其二,聚焦存量清理,从笔记、评论、账号等多个环节同步着手,对历史遗留的虚假内容进行系统性排查;其三,增补策略严控新增,强化对未标识AI内容的识别能力,尤其针对同一图片或视频跨地域、跨账号重复使用的隐蔽情形加强技术检测。

从治理成效来看,平台公布的数据显示,今年6月至8月期间,已累计清理处置AI制作发布的虚假笔记近12万条。公告同时披露了三起典型案例:有账号发布AI虚假医美体验内容,被下架相关内容并遭封禁;有账号发布AI虚假民宿图文、虚构住宿体验,被下架内容并遭禁言;另有账号利用AI虚构家庭背景及教育经验以销售教辅材料,同样被下架内容并封禁账号。

值得注意的是,此次治理公告的发布,与主管部门对AI内容标识和虚假信息治理的管理要求相呼应。小红书在公告中明确表示将积极响应相关管理要求、履行平台主体责任。对于AI行业从业者而言,这一案例也释放出清晰信号:内容平台对AI生成内容的治理正从被动应对转向主动防控,技术识别能力与平台规则的双重升级将成为常态。

小红书AI治理虚假内容内容平台
本文由新大陆基于公开信息编辑整理
3,284
收录 AI 工具
186
模型产品档案
57
企业落地案例
1,247
完整版提示词