La idea de Estados Unidos es un gran negocio en Facebook. La red social ha albergado más de cien páginas que han adoptado el patriotismo estadounidense como tema, con nombres como Proud American, Proud To Be An American, American Story y We Are America.
Pero una gran parte de esas páginas, a pesar de sus nombres, no son estadounidenses en absoluto. En su lugar, están dirigidas por clickfarmers (criadores de clics) extranjeros, muchos de ellos con sede en Macedonia, que utilizan la inteligencia artificial (IA) para bombear un océano casi infinito de clickbait. Mensajes en los que se reza por los soldados estadounidenses, tuits reescritos, memes y fotos de antiguas modelos de Hollywood enlazan con artículos generados por IA, a través de los cuales los criadores de clics pueden vender publicidad. Titulares como Bomberos entregados arriesgan su vida para salvar la de otros y El heroísmo de un padre: La trágica historia de Phil Dellegrazie y su hijo Anthony se burlan de artículos breves y poco informativos en sitios web plagados de anuncios a menudo sexuales. Las páginas que los promocionan fingen ser estadounidenses porque cobran cada vez que alguien hace clic en uno de sus enlaces, y en el mundo de la publicidad, los clics estadounidenses son de los más valiosos.
Un estudio de Forbes identificó 67 páginas de Facebook –ahora retiradas– que se identificaban como defensoras de la actualidad, la cultura o la identidad estadounidenses, pero que en realidad tenían su sede en el extranjero. A 20 de agosto, sumaban más de nueve millones de seguidores, más que las páginas de Facebook del Wall Street Journal o el Washington Post. Treinta y tres de ellas estaban dirigidas desde Macedonia, y otras se repartían por 23 países diferentes, entre otros Canadá, Francia, Marruecos, Venezuela y Vietnam.
Los clics, especialmente los de Macedonia, tienen una larga historia en Facebook. Durante las elecciones presidenciales de 2016, adolescentes del pequeño país de Europa del Este difundieron noticias falsas a millones de estadounidenses en Facebook, obteniendo decenas de miles de dólares en ingresos publicitarios. En 2019, páginas similares de Europa del Este ejecutaron el mismo libro de jugadas, esta vez, llegando a casi la mitad de todos los estadounidenses en la plataforma.
Ahora, la IA ha dado a esas mismas operaciones la capacidad de producir volúmenes casi infinitos de noticias de baja calidad (o directamente falsas), y al menos en algunos casos, esta bazofia producida por IA se está abriendo paso. Las páginas han empezado a utilizar imágenes genéricas generadas por la IA (águilas calvas, barras y estrellas, soldados de camuflaje y la ocasional Estatua de la Libertad) para atraer a los usuarios estadounidenses de Facebook, y al menos en algunos casos está funcionando. Un post publicado la semana pasada por la página canadiense American Patriots mostraba una foto generada por IA de un soldado estadounidense y sus hijos, y recibió más de 100.000 «me gusta» y 35.000 comentarios. La página American Patriots, como la mayoría de las demás, dirigía a la gente desde Facebook a fábricas de contenido con artículos de baja calidad.
Forbes introdujo tres de los artículos de American Patriots a un detector de texto de IA llamado GPT-Zero, que descubrió que tenían un 79%, 85% y 100% de probabilidades de haber sido generados por IA. El detector también descubrió que las historias enlazadas desde We Love America, una página de España, y American Story, una página macedonia, tenían un 100% de probabilidades de haber sido generadas por IA. (Revelación: en una vida anterior, ocupé cargos de política de contenidos en Facebook y Spotify).
«Todas las plataformas tienen incentivos… y ofrecen una ventana a lo que está en el corazón de Facebook, lo que lo hace funcionar», dijo Jeff Allen, cofundador del Integrity Institute y antiguo científico de datos de Facebook que rastreó redes de administradores de páginas de spam desde dentro. Para él, los clickfarmers son una «gran lupa… hacia las partes más reptiles de nuestro cerebro».
La portavoz de Meta, Margarita Franklin, declaró a Forbes que las 67 páginas infringían las normas de Meta sobre comportamiento no auténtico, porque falseaban dónde tenían su sede; todas fueron retiradas. No es necesariamente una violación de las normas de Meta hacer una página sobre un país mientras se tiene sede en otro, pero las páginas cruzan una línea cuando engañan a la gente sobre su procedencia. Según Franklin, las páginas llevaban activas poco más de una semana cuando Forbes las marcó.
Franklin también dijo que, aunque la IA facilita la generación de contenidos a los spammers y estafadores, su principal reto siempre ha sido conseguir visitas a sus páginas, tanto si están hechas con IA como si no. Según un reciente informe de Meta Threat Report, la IA generativa «sólo ha proporcionado ganancias incrementales de productividad y generación de contenidos» a los «actores de amenazas», porque el coste de crear artículos de baja calidad con cebo de clics siempre ha sido bastante bajo.
Cuando las content farms de Macedonia se hicieron grandes en Facebook en 2016, se inclinaron fuertemente hacia el cebo de rabia hiperpartidista centrado en temas divisivos como la inmigración, los derechos trans, la raza y la policía. La teoría era simple: escribir sobre aquello con lo que la gente tenía más probabilidades de interactuar. Y en aquel momento, las publicaciones sobre esos temas solían encabezar las listas de participación de Facebook.
Pero el algoritmo de Facebook se ha alejado de la política en los ocho años transcurridos desde entonces. La empresa empezó a degradar agresivamente las publicaciones políticas tras los disturbios del 6 de enero de 2021 en el Capitolio, organizados en parte en las plataformas de Meta.
Algunas de las páginas patrióticas estadounidenses seguían presentando temas políticos, con publicaciones recientes sobre temas como la teoría crítica de la raza y los derechos de los transexuales. Pero en general, las páginas no se centraban en la política. Más a menudo, presentaban historias sensacionalistas, como las de cónyuges infieles («¡No te vas a creer lo que hizo después!») o las de obreros despreciados que se vengaban de los elitistas que les habían desairado. Curiosamente, en todas las páginas aparecían memes protagonizados por Simon Cowell, personalidad de la televisión y juez de America’s Got Talent. Además de cambiar su contenido para reflejar el alejamiento de la política por parte del algoritmo de Facebook, las páginas también mostraron otros signos reveladores de adaptación a las cambiantes normas e incentivos de la plataforma. Por ejemplo, Facebook ha reducido el alcance de los enlaces spam, pero da prioridad a los comentarios de los administradores de las páginas en sus propias publicaciones; como resultado, estas páginas a menudo publican un meme u otra imagen que resume lo esencial de un artículo, y luego publican el enlace como comentario.
Algunas de las páginas también utilizaron otros trucos para aumentar la participación, muy populares desde hace tiempo. Una página con sede en Kosovo, llamada Animals News America, publicaba artículos clickbait similares (y en algunos casos idénticos) a los de otras páginas sin temática animal. Pero también publicaba un flujo regular de gatitos y cachorros, utilizando una estrategia empleada anteriormente por notorios difusores de desinformación como el médico Joseph Mercola, que niega el Covid-19, y NTD News, una marca hermana del Epoch Times afiliada a Falun Gong.
Después de que Forbes solicitara comentarios, Meta eliminó todas las páginas.
Según Allen, aunque estas páginas no se utilizaran intencionadamente para influir en las opiniones políticas de la gente, los clickfarmers a veces convierten sus páginas en operaciones deliberadas de influencia geopolítica. Cuando aún trabajaba en Facebook, observó una operación con sede en Tailandia que dirigía páginas sobre política al público de Myanmar. Aparecían y desaparecían como pistoleros a sueldo para campañas políticas», explica. «Pero cuando no era temporada de campañas políticas, llevaban a cabo exactamente las mismas operaciones, sólo que ganando el dinero ellos mismos».
Eso hace que estas páginas sean menos inocuas de lo que podría parecer. «Apuesto a que hay muchas operaciones de influencia extranjera a las que les gustaría comprar estas páginas cuando llegue el momento. Así que hay veces en que las fábricas de contenido pueden llegar a ser mucho más nefastas», afirma Allen. Después de que se descubrieran las content farms macedonias, Facebook puso en marcha una función que permite a los usuarios averiguar desde qué país se administra una página, si tiene al menos 5.000 seguidores o ha publicado anuncios políticos. Sin embargo, el país de origen del administrador de una página suele estar oculto en un oscuro panel llamado Transparencia de la página, y los comentarios en las publicaciones de las páginas extranjeras con temática estadounidense sugieren que muchas de las personas que se interesaron por esas publicaciones no sabían que las páginas estaban dirigidas por extranjeros.
Las propias páginas de temática estadounidense también inducían deliberadamente a error. Uno de los mensajes publicados la semana pasada por una página llamada America Today rezaba así: «Ni un céntimo más a los países que no respetan nuestra bandera y nuestros valores». La página estaba gestionada desde Macedonia.
Franklin señaló que, en algunos casos, Meta muestra ahora la ubicación de los administradores de páginas directamente en las noticias de Facebook.
Las cuentas que se hacen pasar por estadounidenses cuando no lo son pueden ser un problema generalizado en las redes sociales. Facebook, en su haber, es la única gran plataforma de medios sociales que revela el país desde el que se gestionan sus grandes páginas. Otras plataformas, como YouTube y TikTok, permiten a los usuarios autodeclarar su ubicación si así lo desean, lo que dificulta la detección de cuentas que fingen ser estadounidenses cuando no lo son. Los incentivos, sin embargo, son los mismos. Parveen Kumar Shah, que se gana la vida asesorando a la gente sobre cómo crear audiencias en YouTube e Instagram a través de su canal TubeSensei, sugirió recientemente a otros creadores de páginas que buscan crear una audiencia que finjan ser estadounidenses. ¿Por qué? Así ganarás más dinero, aconsejaba.
La IA lo hace aún más fácil. En una entrevista, dijo a Forbes que ahora, «si no quieres mostrar tu cara, todo se puede hacer a través de la IA». En YouTube, Shah mostró a sus seguidores cómo hacer páginas de temática masculina para adolescentes estadounidenses con títulos como Far From Weak y Sigma Male. Se lo contó a Forbes: «Dirigirse a ese tipo de público es muy sencillo porque el cerebro de un adolescente es muy fácil de moldear».
Hay muchos vídeos en YouTube que explican cómo ocultar o falsear tu país de residencia en la plataforma, para que parezca que tu canal está basado en otra parte del mundo. Para Shah, se trata de un simple cálculo económico: YouTube paga a los administradores de los canales en función de los anuncios que se publican en ellos, y los anunciantes gastan mucho más en los mercados occidentales que en la India. Sobre el canal TubeSensei, explicó: «Nuestro canal va a ser para un público estadounidense, y en cuanto sepan que es un canal indio o que hay un creador indio detrás, dejarán de verlo».
YouTube no respondió a la petición de comentarios.
Allen, antiguo científico de datos de Facebook, calificó el engagement farming (enriquecerse traficando con estos u otros productos) como un problema que las plataformas deben solucionar y que, si no lo hacen, los reguladores podrían llegar a penalizarlas. Comparó la prevalencia de páginas no auténticas con los neumáticos defectuosos de un coche: «Los neumáticos llevan diez años reventando en las carreteras. En un momento dado, habrá algunas restricciones regulatorias».
Sin embargo, Allen no cree que eliminar páginas sea la solución, siempre y cuando los delitos de los creadores de clics no vayan más allá de la proliferación de memes rancios y de baja calidad. En su lugar, Facebook debería alejarse de un algoritmo que incentiva a la gente a publicar bazofia sensacionalista en primer lugar.
«Si un creador de clics intenta cultivar en tu plataforma, pero no consigue ningún clic, ¿acaso cultiva algo?».
*Rashi Shrivastava ha contribuido con su información.
