AdVons KI-generierte Rezensionen mit gefälschten Autoren erschienen in Sports Illustrated und USA Today

Ende 2023 wirkten Produktrezensionsartikel auf Gannett-Seiten, darunter USA Today, KI-generiert (Gannett bestand darauf, sie seien von Menschen geschrieben, und machte eine externe Marketingfirma verantwortlich); einen Monat später erschienen ähnliche Rezensionen in Sports Illustrated – und Futurism entdeckte, dass die Porträtfotos der Autoren auf einer KI-Fotowebsite zum Verkauf standen. In beiden Fällen führte The Verge die Inhalte auf AdVon Commerce zurück, eine Marketingfirma, die mit KI-gestützten Produkten prahlt und deren Eigentümer daran arbeiteten, ihre Namen aus dem Internet zu tilgen.

The Verge führte AdVon auf CEO Ben Faw zurück, Mitgründer von BestReviews, und dokumentierte ein Muster, das weit vor KI zurückreicht: 2018 erschien ein Marketingbeitrag über die Handtasche von Meghan Markle in der Chicago Tribune über den Zugang von BestReviews (Faw bestritt nicht, dass er für das Startup eines Freundes warb); Mitte 2019 wurden Tausende Backlinks zu mit Faw verbundenen Unternehmen – darunter Beauty Bakerie, wo er im Vorstand saß – in BestReviews-Artikeln gefunden. Faw machte die externe SEO-Firma Alan Morgan Group verantwortlich; eine Betrugsklage behauptete, er sei heimlich von ihr beschäftigt gewesen und habe eine Beteiligung von einem Drittel gehabt, während er bei BestReviews war.

Das KI-Kapitel endete schlecht für seine Gastgeber: Sports Illustrated erklärte, die Beziehungen zu dem Unternehmen, das die Rezensionen produzierte, abgebrochen zu haben, und im Januar 2024 wurde seine Redaktion durch Massenentlassungen ausgehöhlt, wobei ein Großteil der Belegschaft erst wieder eingestellt wurde, nachdem das Mutterunternehmen einen neuen Verlag gefunden hatte. Gannett hielt weiterhin daran fest, dass die umstrittenen Inhalte von Menschen produziert worden seien.

Sports Illustrated brach die Beziehungen zu AdVon ab; seine Redaktion verkraftete im Januar 2024 Massenentlassungen; Verlage verbrachten Monate damit, KI-Schrott auf ihren eigenen Seiten zu verteidigen.

Autoren, die nicht existierten – ihre Porträtfotos waren KI-Stockbilder –, machten die Täuschung unleugbar und den Skandal unvermeidlich.

Verlage lagerten Commerce-Inhalte an eine Marketingfirma aus, ohne redaktionelle Einsichtsmöglichkeit, und mussten dann die Ergebnisse öffentlich verteidigen.

Das Schema folgte einem jahrelangen Muster (der Tribune-Artikel von 2018, das Backlink-Schema von 2019), bevor es KI-generierte Inhalte erreichte.

AdVons Modell monetarisierte geliehene Verlagsautorität: Links und Autorenzeilen auf vertrauenswürdigen Seiten für die Suchplatzierung.

Seinen Ruf an einen Anbieter zu vermieten, den man nicht prüft, verwandelt die Abkürzung eines anderen in den eigenen Skandal – die Autorenzeile gehört dir, selbst wenn der Autor nicht real ist.

Sports Illustrated brach die Beziehungen zu AdVon ab und höhlte im Januar 2024 seine Redaktion aus, bevor es einen Großteil der Belegschaft unter einem neuen Verlag wieder einstellte; Gannett verteidigte die Inhalte als von Menschen geschrieben; The Verge dokumentierte, wie AdVons Eigentümer ihre Namen aus dem Internet tilgten.