TikTok elimina los vídeos del « chico en paro » creados por la IA

Tik Tok ha retirado de su plataforma una serie de vídeos generados por inteligencia artificial (IA) en los que aparecía un hombre luchando por encontrar trabajo en Canadá y haciendo comentarios racistas.

Tras una investigación del equipo de Investigaciones Visuales de CBC News, TikTok eliminó la cuenta "Unemployed flex", alegando una violación de sus normas comunitarias. Según el medio social, no estaba suficientemente claro que este contenido hubiera sido creado por IA.

Josh -este joven blanco de unos veinte años que muestra sus aventuras buscando trabajo y se queja del papel de los inmigrantes en el mercado laboral- no es real. Algunos usuarios de TikTok se dieron cuenta de que los vídeos habían sido producidos por IA, y lo indicaron en los comentarios. Sin embargo, otros fueron engañados y dieron consejos al avatar.

Muchos internautas también reaccionaron ante contenidos que percibían como racistas, creyendo que la persona detrás del mensaje existía realmente. En algunos casos, Josh -el personaje ficticio- incluso respondió en los comentarios para defenderse, reforzando la ilusión.

En un vídeo, se ve al joven quejarse de la gente de la India, que según él ha ocupado todos los puestos de trabajo disponibles, incluso en Tim Hortons.

En un comunicado, Tim Hortons afirmó que la difusión de este tipo de vídeos era frustrante y preocupante para la empresa, y añadió que había luchado para conseguir eliminarlos.

En otro vídeo, Josh critica la política de inmigración de Canadá y se pregunta por qué se admite a tanta gente en el país cuando no hay trabajo para todos. "No me puedo creer que haya perdido el trabajo a manos de alguien que apenas habla inglés", añade el personaje de AI.

La empresa que está detrás de esta cuenta de Tik Tok es Nexa, que desarrolla software utilizado por otras empresas para contratar personal. En los vídeos de Josh, el logotipo de Nexa aparece de fondo. El fundador y director general de la empresa, Divy Nayyar, dijo en una entrevista a CBC News que este método es un emplazamiento publicitario subconsciente.

El Sr. Nayyar declaró a los medios que quería divertirse con la idea, compartida por algunos, de que los indios están invadiendo el mercado laboral. Dice que creó el personaje de Josh para conectar "humorísticamente" con quienes se inclinan a compartir esta opinión: jóvenes licenciados en busca de trabajo.

"Este tipo [...] de narrativa altamente polarizadora es típica de los grupos de extrema derecha", dijo Markus Giesler, profesor de marketing en la Universidad de York, en una entrevista con CBC News. "Que una empresa adopte un tono de campaña como éste para atraer clientes es extremadamente problemático, totalmente contrario a la ética e inaudito", prosiguió.

Nayyar explicó que una de las herramientas que utilizaba su empresa para crear estos contenidos era Veo, de Google. La última versión del software, Veo3, lanzada en mayo, puede producir vídeos mucho más realistas a partir de texto simple que las versiones anteriores. Las pistas obvias, como los caracteres con dedos de más o las incoherencias físicas, son ahora raras con Veo3. Además, el audio se parece más a las voces humanas reales y los movimientos de los labios están bien sincronizados.

TikTok no se ha pronunciado sobre el polémico mensaje de los vídeos. La plataforma sólo indicó que la marca de agua "Veo" que aparecía en la parte inferior derecha de los vídeos de Josh, no cumplía sus normas. El medio social señaló que los vídeos generados por IA que muestran escenas realistas deben marcarse con una etiqueta, pie de foto, marca de agua o pegatina más explícitos.

Nayyar afirma que quería producir contenidos muy realistas, asumiendo que el público usaría su sentido común para adivinar que estaban producidos por IA. Afirma que TikTok etiqueta automáticamente este tipo de contenidos, lo cual es falso: las etiquetas no son automáticas, informa CBC News.