TikTok löscht Videos des « ischen Arbeitslosen », der von der KI erstellt wurde

Tik Tok entfernte eine Reihe von mithilfe künstlicher Intelligenz (KI) generierten Videos von seiner Plattform, in denen ein Mann zu sehen war, der Schwierigkeiten hatte, in Kanada einen Job zu finden, und der rassistische Äußerungen von sich gab.

nach einer Untersuchung durch das Visual Investigation Team von CBC News löschte TikTok das Konto "Unemployed flex" und begründete dies mit einem Verstoß gegen seine Community-Regeln. Nach Ansicht des sozialen Mediums war nicht ausreichend klar, dass dieser Inhalt von KI erstellt worden war.

Josh - der junge weiße Mann in den Zwanzigern, der seine Abenteuer bei der Arbeitssuche zeigt und sich über die Rolle von Einwanderern auf dem Arbeitsmarkt beschwert - ist nicht echt. Einige TikTok-Nutzer bemerkten, dass die Videos von der KI produziert wurden, und erklärten dies in den Kommentaren. Andere wurden jedoch getäuscht und gaben dem Avatar Ratschläge.

Mehrere Nutzer reagierten auch auf Inhalte, die sie als rassistisch empfanden, und glaubten, die Person hinter der Nachricht existiere wirklich. In einigen Fällen antwortete ihnen Josh - die fiktive Person - sogar in den Kommentaren, um sich zu verteidigen, und verstärkte so die Illusion.

In einem Video ist zu sehen, wie sich der junge Mann über Menschen aus Indien beschwert, die seiner Meinung nach alle verfügbaren Stellen, insbesondere bei Tim Hortons, besetzt haben. "Tim Hortons hat mich gerade gefragt, ob ich Punjabi spreche, obwohl ich noch weißer bin als ihr Boston Cream Donut!", sagt Josh in einem Video.

In einer Stellungnahme erklärte Tim Hortons, dass die Verbreitung solcher Videos für das Unternehmen frustrierend und besorgniserregend sei, und fügte hinzu, dass es schwierig gewesen sei, die Videos entfernen zu lassen.

In einem anderen Video kritisiert Josh die kanadische Einwanderungspolitik und fragt sich, warum so viele Menschen ins Land gelassen werden, obwohl es nicht genug Arbeitsplätze für alle gibt. "Ich kann nicht glauben, dass ich den Job an eine Person verloren habe, die kaum Englisch spricht", fügt der KI-Charakter hinzu.

Das Unternehmen hinter dem Tik Tok-Konto ist Nexa, das Software entwickelt, die von anderen Unternehmen zur Personalrekrutierung eingesetzt wird. In Joshs Videos taucht das Logo von Nexa im Hintergrund auf. Der Gründer und CEO des Unternehmens, Divy Nayyar, erklärte in einem Interview mit CBC News, dass es sich bei dieser Methode um eine unterbewusste Werbeplatzierung handelt.

Nayyar sagte dem Medium, er habe sich über die von einigen geteilte Meinung amüsieren wollen, dass Inder den Arbeitsmarkt überschwemmen. Er sagte, er habe die Figur Josh geschaffen, um auf "humorvolle" Weise mit denjenigen in Kontakt zu treten, die diese Meinung teilen: junge Hochschulabsolventen, die auf der Suche nach einem Arbeitsplatz sind.

"Diese Art [...] einer stark polarisierenden Erzählung ist typisch für rechtsextreme Gruppen", sagte Markus Giesler, Professor für Marketing an der York University, in einem Interview mit CBC News. "Dass ein Unternehmen einen solchen Kampagnenton anschlägt, um Kunden zu gewinnen, ist äußerst problematisch, völlig unethisch und noch nie dagewesen", fuhr er fort.

Herr Nayyar erklärte, dass sein Unternehmen unter anderem Googles Veo zur Erstellung dieser Inhalte verwendet habe. Die neueste Version der Software, Veo3, die im Mai auf den Markt kam, ermöglicht es, aus einfachem Text Videos zu produzieren, die wesentlich realistischer sind als die Vorgängerversionen. Offensichtliche Hinweise wie Figuren mit überzähligen Fingern oder körperliche Ungereimtheiten sind mit Veo3 nun selten. Außerdem kommt das Audio echten menschlichen Stimmen sehr nahe, und die Lippenbewegungen sind gut synchronisiert.

TikTok hat die kontroverse Botschaft der Videos nicht kommentiert. Die Plattform wies lediglich darauf hin, dass das Wasserzeichen "Veo", das in der unteren rechten Ecke von Joshs Videos angezeigt wurde, nicht mit ihren Regeln übereinstimmte. Die sozialen Medien wiesen darauf hin, dass KI-generierte Videos mit realistischen Szenen durch eine aussagekräftigere Beschriftung, Bildunterschrift, ein Wasserzeichen oder einen Aufkleber gekennzeichnet werden sollten.

Nayyar behauptet, er habe sehr realistische Inhalte produzieren wollen und sei davon ausgegangen, dass die Zuschauer ihren gesunden Menschenverstand einsetzen würden, um zu erraten, dass sie von der KI produziert wurden. Er behauptet, dass TikTok diese Art von Inhalten automatisch kennzeichnet, was jedoch nicht stimmt: Die Kennzeichnung erfolgt nicht automatisch, berichtet CBC News.

"Mithilfe von KI ist es nun einfacher als je zuvor, Videos von echt aussehenden Personen zu produzieren, die Hassbotschaften vermitteln, die in sozialen Netzwerken ein Publikum finden. Das ist ein unverantwortlicher Einsatz von emotionalen Marketingtaktiken. Das darf nicht gebilligt werden", befürchtet Giesler.