返回档案库

案例库 · 法务与合规 · 法务决策 · 2025

意大利因 GDPR 和儿童数据问题,对 Replika 的制作方罚款 500 万欧元

Luka 的 Replika 聊天机器人在没有有效的年龄检查和薄弱的隐私声明下运行,所以意大利的 Garante 罚了它 500 万欧元,并另开了一项 AI 训练调查。

Luka · 2025-04-10

怎么回事

2025 年 4 月 10 日,意大利数据保护机构 Garante 以违反 GDPR 为由,对 Replika AI 伴侣聊天机器人的美国开发商 Luka Inc 罚款 500 万欧元。该决定于 2025 年 5 月 19 日公布。

Garante 认定,Replika 处理个人数据没有有效的法律依据(第 6 条),其隐私声明也未能说明收集了哪些数据、用于什么目的、谁收到了它们(第 12–14 条)。

它还发现,该服务没有有效的年龄核验,尽管它声称只面向成年人。由于未成年人可以注册,Garante 认定他们暴露在一个据传会进行露骨暗示和心理操纵对话的聊天机器人面前;Luka 后来加的年龄门槛仍然有缺陷。

Luka 还被告知,不能依赖用户从未被恰当告知就给出的同意。另外,Garante 还对 Replika 背后的 AI 模型是如何训练的,开启了一项新的调查。

为什么会这样

  • Luka 让一个情感上亲密的 AI 伴侣在不工作的年龄检查下运行,赌一个「18+」的标签意味着孩子不会出现。
  • 既没有明确的法律依据,隐私声明又藏起最基本的信息,公司把用户的信任当作全部的辩护——而监管机构永远不会接受这一点。
代价500 万欧元 GDPR 罚款(外加一项独立的 AI 训练调查)代价高昂

教训

一个「仅限成人」的标签不是一道护栏:如果没有任何东西阻止孩子注册,监管机构就会把这个产品当作面向儿童的来对待,而一份脆弱的同意经不起那样的检验。

后来呢

Garante 开出了罚款,并就生成式 AI 系统整个生命周期中数据处理的法律依据,保留了一项独立的程序。Luka 可向意大利法院上诉。

资料来源

发现哪里写错了?告诉我们。

Comments · 0

    登录 后就能评论。

    类似的案例

    这家公司栽倒的地方,别处有人漂亮地解开过。 第二意见 →