Rusia utiliza la IA de OpenAI para desinformar contra Ucrania – FT
Durante las operaciones Doppelganger y Bad Grammar, los rusos intentaron privar a Ucrania del apoyo de sus socios creando contenidos mediante redes neuronales.
Entidades vinculadas a Rusia, China, Irán e Israel están utilizando herramientas de inteligencia artificial de OpenAI para crear y difundir desinformación, en particular, sobre la guerra en Ucrania, escribe Financial Times.
El informe de OpenAI afirma que sus modelos de IA se utilizaron en cinco operaciones encubiertas. El contenido abarcó la guerra de Ucrania, el conflicto en la Franja de Gaza, las elecciones indias, así como la política en Europa, Estados Unidos y China. La IA también se ha utilizado para mejorar la productividad, incluida la depuración de código y la investigación de la actividad en las redes sociales.
La Operación Doppelganger de Rusia tenía como objetivo socavar el apoyo a Ucrania, mientras que la Operación Bad Grammar utilizaba modelos de OpenAI para depurar código con el fin de ejecutar un bot de Telegram y crear comentarios breves sobre temas políticos para compartir en Telegram.
La red china Spamflag utilizó herramientas de OpenAI para crear textos y comentarios en la red social X, promoviendo los intereses de Pekín en el extranjero. La empresa israelí STOIC utilizó IA para crear artículos y comentarios en Instagram, Facebook y X.
La política de OpenAI prohíbe el uso de sus modelos para engañar o inducir a error. La empresa afirmó estar trabajando para identificar las campañas de desinformación y crear herramientas para combatirlas. Los representantes de OpenAI señalaron que ya han complicado el trabajo de los atacantes y sus modelos se han negado repetidamente a generar el contenido solicitado.
Ben Nimmo, investigador jefe de OpenAI en el departamento de Inteligencia e Investigaciones, afirmó que el uso de modelos de OpenAI en campañas de desinformación ha aumentado “ligeramente”, pero la historia demuestra que las operaciones de influencia pueden intensificarse repentinamente si nadie las busca.
