Cibertendencias: una foto de una explosión falsa cerca del Pentágono revive el debate sobre la IA

Fake Pentagon Explosion Fact Focus

Una imagen falsa de explosión en el Pentágono provoca pánico y caída de Wall Street. Source: AP / Patrick Semansky/AP

Una imagen generada por IA publicada en Twitter que sugería una gran explosión en el Pentágono provocó confusión el lunes pasado, generando una pequeña caída en el mercado de valores e inquietud entre algunos grupos. La imagen se originó en una cuenta verificada llamada "Bloomberg Feed", sin ninguna afiliación a la conocida empresa de medios Bloomberg, pero rápidamente se expuso como un engaño (deep fake).


Sinopsis:

La cuenta verificada de Bloomberg Feed, sugirió que habría ocurrido una explosión en el Pentágono. Bajo el llamativo titular aparecía una foto con una gran columna de humo negro muy cerca de un edificio que tenía una construcción similar a la de otros edificios del Pentágono. Pero era todo mentira.

El mensaje publicado por esa cuenta verificada se comenzó a compartir de forma viral y vertiginosa. Aunque ningún gran medio de noticias en EEUU lo difundió, si lo hicieron muchos usuarios e incluso la organización de medios Russia Today (RT). El impacto de esa noticia fue importante en el ámbito financiero.

Una de las claves está en Twitter, que tras los despidos masivos se ha quedado sin los equipos que moderaban y censuraban en el ámbito de la desinformación.

Numerosas cuentas con miles de seguidores —sean o no robots— republicaron la noticia, y algunas de ellas tenían la marca verificada.

Este organismo retuiteó el mensaje del Cuerpo de Bomberos de Arlington que precisamente desmentía los hechos. Ese tuit tiene ahora mismo más de 117.000 reproducciones, mucho menos que los originales en los que se difundía la falsa noticia, y que replicaron multitud de cuentas.

Desde entonces Twitter ha marcado varios de los tuits que difundieron la información falsa y ha añadido un recuadro con el texto "Mantente informado" avisando de que probablemente ese mensaje es falso.

Demandas de autoregulación para IA

Alphabet, la casa matriz de Google, y la Comisión Europea anunciaron que trabajarán en un pacto de inteligencia artificial voluntario, que involucre a empresas europeas y de otras partes del mundo. La iniciativa se quiere adelantar a la aprobación de la legislación que el Parlamento Europeo prepara para regular este tipo de tecnología.

"No hay tiempo que perder en la carrera de la inteligencia artificial para construir un entorno en línea seguro", dijo en un comunicado Thierry Breton, comisionado del mercado interno de la Unión Europea, luego de reunirse este miércoles con Sundar Pichai, CEO de Google.

Todavía no hay detalles sobre lo que podría contemplar este pacto voluntario en el que, por ahora, solo Google ha anunciado su participación. Como con cualquier acuerdo de autorregulación, este no tendría peso legal. En otras palabras, no habría forma de obligar a los desarrolladores a registrarse o exigir que cumplan lo acordado.

Para escuchar el informe completo presiona el ícono de reproducción que se encuentra al principio de la página.

Share