Los expertos ven “cada vez más” contenido de odio creado por inteligencia artificial

OTTAWA – El clip corresponde a un acontecimiento histórico real: un discurso pronunciado por el dictador nazi Adolf Hitler en 1939, al comienzo de la Segunda Guerra Mundial.

Pero hay una diferencia importante. Este video viral fue alterado por inteligencia artificial y en él, Hitler hace comentarios antisemitas en inglés.

Un influencer de conspiración de extrema derecha compartió el contenido en X, antes conocido como Twitter, a principios de este año, y rápidamente acumuló más de 15 millones de visitas, informó la revista Wired en marzo.

Es sólo un ejemplo de lo que los investigadores y las organizaciones que monitorean el contenido que incita al odio llaman una tendencia preocupante.

Dicen que el odio generado por la Inteligencia Artificial (IA) va en aumento.

“Creo que todos los que investigan contenido o medios de odio ven cada vez más contenido generado por IA”, dijo Peter Smith, periodista que trabaja con la Canadian Anti-Hate Network.

Chris Tenove, subdirector del Centro para el Estudio de Instituciones Democráticas de la Universidad de British Columbia, dijo que los grupos de odio, como los grupos de supremacía blanca, “han sido históricamente los primeros en adoptar nuevas tecnologías y técnicas de Internet“.

Es una preocupación que un órgano asesor de la ONU señaló en diciembre. Dijo que estaba “profundamente preocupado” por la posibilidad de que el contenido antisemita, islamófobo, racista y xenófobo “pudiera ser potenciado por la IA generativa”.

A veces, ese contenido puede extenderse a la vida real.

Después de que se utilizó la IA para generar lo que Smith describió como “carteles de películas extremadamente racistas al estilo Pixar”, algunas personas imprimieron los carteles y los colocaron en los costados de las salas de cine, dijo.

“Todo lo que está disponible para el público, que es popular o está surgiendo, especialmente cuando se trata de tecnología, se adapta muy rápidamente para producir propaganda de odio“.

Los sistemas de IA generativa pueden crear imágenes y vídeos casi instantáneamente con un simple mensaje.

En lugar de que un individuo dedique horas a crear una sola imagen, puede crear docenas “en la misma cantidad de tiempo con solo presionar unas pocas teclas”, dijo Smith.

B’nai Brith Canada señaló la cuestión del contenido de odio generado por IA en un informe reciente sobre antisemitismo.

El informe dice que el año pasado se produjo un “aumento sin precedentes de imágenes y vídeos antisemitas que han sido creados, manipulados y falsificados utilizando IA”.

El director de investigación y promoción, Richard Robertson, dijo que el grupo había observado que “utilizando IA se estaban produciendo imágenes realmente horribles y gráficas, generalmente relacionadas con el negacionismo, la disminución o la distorsión del Holocausto”.

Citó el ejemplo de una imagen manipulada que representa un campo de concentración con un parque de atracciones en su interior.

“Las víctimas del Holocausto viajan en las atracciones, aparentemente divirtiéndose en un campo de concentración nazi, y podría decirse que eso es algo que sólo podría producirse utilizando IA”, dijo.

El informe de la organización también dice que AI ha “impactado enormemente” la difusión de propaganda tras la guerra entre Israel y Hamas.

La IA se puede utilizar para crear deepfakes o vídeos que presenten simulaciones notablemente realistas de celebridades, políticos u otras figuras públicas.

Tenove dijo que los deepfakes en el contexto de la guerra entre Israel y Hamás han provocado la difusión de información falsa sobre los acontecimientos y han atribuido afirmaciones falsas tanto al ejército israelí como a los funcionarios de Hamás.

“Ha habido ese tipo de cosas, que intentan avivar la ira o el miedo de la gente con respecto al otro lado y utilizan el engaño para lograrlo”.

Jimmy Lin, profesor de la escuela de informática de la Universidad de Waterloo, está de acuerdo en que ha habido “un aumento en términos de contenido falso… que está diseñado específicamente para irritar a la gente de ambos lados”.

Amira Elghawaby, representante especial de Canadá para la lucha contra la islamofobia, dice que ha habido un aumento de las narrativas antisemitas e islamófobas desde el comienzo del conflicto.

Ella dice que el tema de la IA y el contenido de odio requiere más estudio y discusión.

No hay desacuerdo en que el contenido de odio generado por IA es un problema emergente, pero los expertos aún tienen que llegar a un consenso sobre el alcance del problema.

Tenove dijo que hay “una gran cantidad de conjeturas en este momento”, similares a preguntas sociales más amplias sobre “contenido dañino o problemático que se difunde en las plataformas de redes sociales”.

En Canadá, existe una legislación federal que, según el gobierno liberal, ayudará a abordar el problema. Eso incluye el proyecto de ley C-63, un proyecto de ley propuesto para abordar los daños en línea.

Chantalle Aubertin, portavoz del ministro de Justicia, Arif Virani, dijo que la definición del proyecto de ley de contenido que fomenta el odio incluye “cualquier tipo de contenido, como imágenes y vídeos, y cualquier contenido generado artificialmente, como los deepfakes”.

Innovation Canada dijo que su propuesta de legislación para regular la inteligencia artificial, el proyecto de ley C-27, requeriría que el contenido de IA sea identificable, por ejemplo mediante marcas de agua.