返回档案库

案例库 · 广告与公关 · 市场决策 · 2024

Rytr 卖了一款能编造虚假评论的 AI——FTC 先禁了它,后来又撤销了这项禁令

2024 年,FTC 指控 Rytr 的 AI“证言与评论”工具生成虚假评论——先以同意令禁止该功能,随后又撤销了自己的这道命令

Rytr · 2024-09

怎么回事

Rytr 是一家 AI 写作服务商,出售一款“证言与评论”功能,只需极少的输入就能生成详细的消费者评论。2024 年 9 月,在“AI 合规行动”专项执法中,FTC 指控该服务生成的评论包含具体、往往涉及实质内容的细节,这些细节与用户的输入毫无关联——“对于复制并发布到网上的用户来说,这些细节几乎肯定是虚假的”。诉状称,提供这样一项服务本身就是一种不公平行为,“很可能让市场充斥大量虚假评论”。

2024 年 12 月 18 日,FTC 以 3 比 2 的投票通过了一项最终同意令,禁止 Rytr 广告、推广、营销或出售任何专门用于——或被宣传为用于——生成消费者评论或证言的服务。这起案件核心的产品被叫停:这是一次罕见的执法行动,监管机构针对的不是某一次虚假广告,而是制造虚假广告的“工厂”本身。

然后,监管机构又推翻了自己的决定。2025 年 12 月 22 日,FTC 以 2 比 0 的投票,重新审查并撤销了自己此前的最终命令,认定诉状未能满足《联邦贸易委员会法》的法律要件,且该命令依据现任政府的 AI 行政令和行动计划,对 AI 创新构成了不当负担。委员会转而把执法重点,转向依据其《消费者评论规则》去追究那些发布虚假评论的人,这类违规的罚款可达每次 53088 美元。

为什么会这样

  • 这款工具编造了用户从未提供的具体细节——正是这些让内容读起来像真实体验的实质细节,也正是让一条虚假评论具有欺骗性的关键所在。
  • FTC 起初把这个生成工具本身当作违规主体,后来又认定一款本身具有合法用途的工具不能被一概禁止——同样的事实,得出了两个截然相反的结论。
  • 这次反转是管辖权层面的调整,而不是对 Rytr 的开脱:机构保留了自己的消费者评论规则,把执法矛头转向了发布者,而不是软件本身。
代价服务被禁,随后禁令又被撤销丢脸

教训

批量制造虚假证言站在一片不断变动的法律地基上:监管机构可能惩罚“工厂”,也可能惩罚“发布者”,这取决于当届政府的取向。但欺骗本身,始终是违法的。

后来呢

这次撤销是 FTC 依据 AI 行动计划审查自身命令的首个案例,它释放出的信号是:执法将针对欺骗性行为本身,而不是工具。《消费者评论规则》仍然是虚假评论卖家——无论是人工撰写还是 AI 生成——面临民事处罚的依据。

资料来源

发现哪里写错了?告诉我们。

Comments · 0

    登录 后就能评论。

    类似的案例

    这家公司栽倒的地方,别处有人漂亮地解开过。 第二意见 →