Para los grupos de odio, es una era lucrativa en Internet

Este artículo es la traducción de un artículo publicado por NBC News, puedes ver el artículo original aquí.

Una serie de informes destacan cómo el odio ha demostrado ser resistente en el mundo online después de algunos contratiempos temporales y ahora está rastrillando dinero en efectivo a través de una variedad de vías digitales.

El resurgimiento del odio y los grupos extremistas envalentonados por los esfuerzos relajados de moderación de las empresas tecnológicas, están cobrando dinero en efectivo a través de Internet, según informes de grupos de investigación y expertos.

Un informe de julio de la Fundación para Combatir el Antisemitismo (FCAS) encontró que "el odio no solo se extiende a través de Internet, sino que se está volviendo más rentable". FCAS, una organización sin fines de lucro iniciada por Robert Kraft, propietario de los New England Patriots, dijo que los esfuerzos de monetización que alguna vez existieron en los bordes de Internet ahora se podían encontrar en espacios más convencionales, incluyendo criptomonedas, crowdfunding, transmisión en vivo y merchandising.

"Estas operaciones ya no se limitan a las esquinas marginales de Internet", dijo FCAS en el informe. "Ahora, la tubería del odio monetizado corre directamente a través de las principales plataformas, llegando a audiencias más amplias y creando incentivos financieros para que otros se unan”.

Un informe de junio del Center for Countering Digital Hate, un grupo sin ánimo de lucro que estudia el extremismo en línea, descubrió que incluso después de que YouTube prohibiera a Andrew Tate, un autoproclamado misógino, muchos videos suyos permanecieron activos en la plataforma con anuncios, con 100 de los clips más vistos acumulando casi 54 millones de visitas.

Y los informes del Proyecto Global contra el Odio y el Extremismo dijeron que los neonazis habían estado monetizando sus mensajes en Roblox, un popular juego en línea con millones de usuarios jóvenes, e Instagram.

Más allá del discurso de odio y las organizaciones extremistas más pequeñas, las preocupaciones sobre el uso de Internet para facilitar la violencia están creciendo junto con la complejidad y la eficacia de las operaciones de financiación de los terroristas. Un informe de julio del Grupo de Acción Financiera, un grupo intergubernamental antiterrorista, advirtió de "riesgos de financiación terrorista graves y en evolución", así como de "brechas en la capacidad de los países para comprender completamente las tendencias de financiación del terrorismo y, por lo tanto, responder de manera efectiva".

En conjunto, los informes destacan cómo el odio ha demostrado ser resistente en línea después de algunos reveses temporales, revitalizado por tecnologías destinadas a conectar a las personas y llevar servicios financieros a las poblaciones desatendidas. Ya no se limita a los rincones más oscuros de Internet, el extremismo ahora a menudo aparece como otra pieza de contenido, capaz de llegar a las mentes más impresionables. Y los extremistas utilizan la máquina de dinero de Internet, desde monedas meme y camisetas hasta donaciones y crowdfunding, con impunidad.

"En este momento, creo que algunas de las mayores preocupaciones para nosotros han sido cosas como el contenido y la monetización que está sucediendo como resultado de dirigirse a los jóvenes", dijo Rachel Carroll Rivas, directora interina del Proyecto de Inteligencia en el Southern Poverty Law Center. "Y ese es especialmente el caso de cosas como el contenido de vídeo, YouTube, pero también la forma en que se utilizan las redes sociales para monetizar y ganar dinero, incluido Twitter".

A los grupos extremistas generalmente se les atribuye haber sido los primeros en adoptar Internet y estar entre los primeros en usarlo para comenzar a generar dinero. A medida que Internet evolucionó a partir de sus primeros años de páginas web y tableros de mensajes, las plataformas centralizadas impulsadas por algoritmos de recomendación proporcionaron una nueva oportunidad para los extremistas que buscaban difundir sus mensajes. Eso coincidió con el flujo de dinero cada vez más en línea. Ese dinero ahora sirve como el alma de muchos grupos marginales. "Es crucial", dijo Megan Squire, quien ha realizado una extensa investigación sobre el extremismo político. "Es como respirar aire para ellos. No estarían en ninguna parte sin esta tecnología".

Mientras tanto, muchas de las innovaciones y tendencias más recientes sobre cómo fluye el dinero en línea también han sido utilizadas por extremistas y personas que impulsan el odio. FCAS señaló que el crowdfunding, generalmente asociado con esfuerzos como facturas médicas y fondos conmemorativos, se ha utilizado para solicitar fondos para personas acusadas de racismo. Una recaudación de fondos para una mujer captada en vídeo gritando un insulto a un niño negro recaudó más de 675.000 dólares.

Las criptomonedas y especialmente las monedas meme han sido particularmente lucrativas. FCAS descubrió que, aparte de las monedas de meme como la esvástica y las monedas de recaudación de fondos como el $Proud de los Proud Boys, han surgido otras monedas buscando beneficiarse de actos particulares de violencia. Un ejemplo reciente fue $Elias, una moneda que comenzó a usar el nombre del hombre acusado de la muerte de dos empleados de la Embajada de Israel en mayo. Otra moneda estaba vinculada al asesinato en julio de una legisladora de Minnesota y su esposo.

Adam Katz, presidente de FCAS, dijo que con pocas barreras, poca regulación y potencialmente alcance internacional, las criptomonedas se han convertido en un tema de creciente preocupación.

"Estamos viendo significativamente más actividad hoy que, digamos, hace un año o incluso hace tres, seis meses", dijo, haciéndose eco de lo que FCAS encontró en su informe. "También estamos viendo proliferación en la creación de monedas, más y más grupos, porque vieron que alguien más lo hizo y alguien más lo monetizó, y por eso imitan".

En un momento dado, las operaciones de los grupos extremistas en línea se enfrentaron a un retroceso. Empresas desde Google y Facebook hasta YouTube y Twitter, muchas de las cuales habían tratado de asumir roles limitados en la moderación de sus plataformas, comenzaron a tomar medidas enérgicas contra el discurso de odio y el extremismo a finales de la década de 2010 a medida que crecían las presiones políticas, populares y comerciales. Los boicots de los anunciantes obtuvieron algunas concesiones, mientras que los políticos, en su mayoría demócratas, llevaron a los ejecutivos de tecnología frente a los paneles para hablar sobre la seguridad del consumidor.

Esos vientos han cambiado significativamente. Aunque algunas empresas de tecnología todavía mantienen políticas contra el discurso de odio, los expertos de la industria tecnológica ven ampliamente que los esfuerzos de moderación se han reducido significativamente. La presión política ha desaparecido casi por completo, alimentada en parte por el auge del presidente Donald Trump y los esfuerzos republicanos para pintar a las empresas tecnológicas como censores injustos.

En al menos una plataforma, X, anteriormente Twitter, no solo los extremistas han sido recibidos de nuevo, sino que la compañía también ha ido tras los críticos que una vez buscaron responsabilizarla por publicar anuncios junto con el discurso de odio. En 2023, X demandó a Media Matters, una organización liberal sin fines de lucro de investigación, por informes que afirmaban que X mostraba anuncios junto al contenido nazi. Media Matters ha contrademandado, y las dos partes siguen en litigio. El año pasado, un grupo de la industria publicitaria llamado Global Alliance for Responsible Media cerró después de que X lo demandara.

La adquisición de Twitter por parte de Elon Musk en 2022 se ha visto generalmente como un punto de inflexión en la forma en que las principales empresas tecnológicas abordaron la moderación, y para que los grupos extremistas hagan un regreso rotundo. Ahora, las tecnologías desarrolladas más recientemente, sobre todo la inteligencia artificial generativa, han aumentado la capacidad de los extremistas para difundir sus mensajes y ganar dinero.

Se ha descubierto que los extremistas utilizan la IA generativa para crear una variedad de propaganda y contenido de odio, desde memes hasta llamadas a la violencia.

"Creo que todo el despliegue de la IA está exacerbando un problema ya existente en línea, que es que el odio, el antisemitismo y el extremismo en línea se están monetizando", dijo Tal-Or Cohen Montemayor, fundador y CEO de CyberWell, una organización sin fines de lucro dedicada a rastrear el antisemitismo en línea.

"Definitivamente se está monetizando más desde muchos cambios de infraestructura en X después de la adquisición de Elon Musk", dijo. "Pero ahora las herramientas de IA están exacerbando esencialmente ese problema al crear contenido a escala que es muy visual, muy convincente, que está evadiendo los modelos de detección y los recursos que existen en las plataformas”.

Este artículo es la traducción de un artículo publicado por NBC News sobre grupos de odio en internet , puedes ver el artículo original aquí.

Diferentes billetes