Con el programa de IA Midjourney los usuarios no podrán crear imágenes de Biden y Trump de cara a elecciones de noviembre

WASHINGTON- Tiendo en cuenta que las campañas actualmente se encuentran a toda marcha, llegó el momento de “ponernos firmes con las cosas relacionadas con las elecciones por un tiempo”, expresó David Holz, director general de Midjourney, a varios cientos de usuarios del servicio durante un evento digital.

Así mismo, Holz precisó que “esto de la moderación es un poco difícil”, sin dar una explicación sobre los cambios que se introdujeron en las políticas del servicio, no obstante explicó que esta mida es temporal y tiene como propósito dificultar que se pueda abusar de la herramienta.

TE PUEDE INTERESAR: Chatbots ofrecen respuestas imprecisas y engañosas sobre elecciones en Estados Unidos, según un estudio

En un intento de verificar los cambios llevados por la empresa, periodistas de la Agencia The Associated Press, decidieron poner a prueba la nueva política de Midjourney, solicitándole que creara una imagen de “Trump y Biden estrechándose la mano en la playa” sin embargo, les apareció una advertencia de “Instrucción prohibida detectada”. Cuando tomaron la decisión de realizar un segundo intento se elevó la advertencia y les apareció un mensaje que decía: “Ha activado una alerta de abuso”.

MIDJOURNEY

Esta pequeña empresa, que sólo cuenta con 11 empleados, de acuerdo su sitio web y tiene su sede en San Francisco, California surgió el 12 de julio de 2022, hasta ahora ha guardado silencio en lo que se refiere al debate actal en cuanto a cómo las herramientas de IA generativa podrían incrementar la desinformación electoral en todo el mundo.

Por otra parte, Midjourney fue el único desarrollador de una de las principales herramientas de generación de imágenes que decidió no unirse en febrero pasado a un accuerdo de la industria tecnológica para con el fin de combatir las imágenes falsas que son creadas usando la IA con el objeivo de engañar deliberadamente a los votantes.

TE PUEDE INTERESAR: ¿Pueden los populistas conservadores latinoamericanos motivar el voto hispano en Estados Unidos?

En este sentido, Holz respondió “realmente no me importa el discurso político”, y continuó explicando el director general de Midjourney que “ese no es el propósito de Midjourney. No me interesa mucho. Dicho eso, tampoco quiero dedicar todo mi tiempo a vigilar el discurso político. Así que vamos actuar con firmeza en ello un poco”.

El Centro para Contrarrestar el Odio Digital publicó un reporte hace unas semanas en el que señala que Midjourney ya se estaba usando para desarrollar imágenes que podrían favorecer la desinformación sobre los candidatos políticos o las denuncias falsas en relación con el fraude electoral.

“Midjourney parecía tener la menor cantidad de controles de cualquier generador de imágenes de IA cuando se trataba de generar imágenes de figuras políticas conocidas como Joe Biden y Donald Trump”, dijo Callum Hood, quien es jefe de investigación de este centro, en una entrevista concedida a AP y añadió que “Midjourney era casi único tanto por estar dispuesto a generar esas imágenes como por generar imágenes bastante convincentes de los candidatos”.

También el Centro para Contrarrestar el Odio Digital realizó algunas pruebas en Midjourney, así mismo en ChatGPT Plus de OpenAI, DreamStudio de Stability AI y el Image Creator de Microsoft; descubrió que todos tenían problemas, creando información falsa sobre las elecciones en el 41% de los casos. Sin embargo, “Midjourney fue la herramienta que obtuvo peores resultados, fallando en el 65% de las pruebas”, precisa el reporte.

Por su parte, Hood detalló que no estaba al tanto sobre si Midjourney había cambiado sus políticas, no obstante jefe de investigación de este centro dijo que “su decisión de bloquear esas imágenes ayudaría a sellar un punto débil importante en comparación con otros generadores de imágenes populares”.

Tomando en cuenta la base de datos pública de Midjourney se muestra que, hasta el 9 de marzo, los usuarios todavía eran capaces de crear imágenes basadas en instrucciones tales como “Foto abstracta de Donald Trump sentado en un pequeño coche eléctrico” y “Joe Biden comiendo helado”.

Sin embago, eso cambió en los últimos días, cuando los usuarios dieron a conocer que recibían una advertencia al intentar crear imágenes del actual mandatario estadounidense, Joe Biden o del expresidente Donald Trump. Algunos se quejaron de que Midjourney no estaba comunicando de manera adecuada el cambio de su política.

IMÁGENES FALSAS Y ELECCIONES

“Cualquiera que se asuste por las imágenes falsas en 2024 va a tener un duro 2028”, aseguró Holz y prosigue diciendo, “en ese momento, el mundo será muy diferente. Obviamente, todavía vas a tener humanos postulándose a la presidencia en 2028, pero ya no serán puramente humanos”.

En ese momento, inca Holz, todos los candidatos en ese momento tendrán “chatbots deepfake” de aspecto real con temas de conversación simulados. Por lo que Holz advirtió que la gente que realmente tenga la intención de hacer deepfakes va a encontrar alternativas que “se pueden ajustar a personas concretas y funcionarán mejor que nuestros sistemas”, concluyó.

Con Información de la Agencia The Associated Press.