La explosión falsa en el Pentágono
La creciente influencia de la inteligencia artificial (IA) en nuestra sociedad plantea retos únicos y a veces preocupantes como lo es la desinformación. Una noticia reciente destaca estos desafíos ya que mediante una imagen falsa de una explosión cerca del Pentágono compartida en Twitter, causó confusión y provocó una breve caída de la bolsa.
El 22 de mayo de 2023, varias cuentas verificadas de Twitter compartieron una imagen que supuestamente mostraba una explosión cerca del Pentágono. La imagen, fue compartida por numerosas cuentas verificadas, incluyendo una que afirmaba falsamente estar asociada con Bloomberg News. La publicación decía: «Gran explosión cerca del complejo del Pentágono en Washington. Informe preliminar», y mostraba una imagen de humo negro elevándose cerca de un gran edificio.
Difusión de la desinformación
Este incidente pone de relieve el problema de la desinformación y la necesidad de una mayor regulación y moderación en las redes sociales. En este caso, la cuenta que compartió la imagen fue suspendida por Twitter, pero la identidad del responsable sigue siendo desconocida. Bajo la dirección de Elon Musk, Twitter ha implementado un sistema de verificación de pago, lo que ha debilitado el significado de la verificación, ya que ya no es un indicador confiable de que una cuenta representa a quien dice representar.
La difusión esta desinformación no se limitó a Twitter. Las noticias falsas sobre la explosión también fueron emitidas por Republic TV, una importante cadena de televisión india, que mostró la imagen falsa en su emisión y citó informes del medio de noticias ruso RT. Más tarde se retractó cuando quedó claro que el incidente no había ocurrido.
La IA como herramienta de desinformación
Estos incidentes son un recordatorio de cómo la tecnología y la IA pueden ser utilizadas para propagar la desinformación de manera rápida y a gran escala. Nos obliga a reconsiderar las estructuras y las políticas que tenemos en lugar para verificar y moderar la información que se difunde en las redes sociales.
La inteligencia artificial, hoy en día, tiene la capacidad de crear contenido falso de manera eficaz. Las imágenes, los vídeos y las noticias pueden ser manipulados o fabricados des de cero de manera convincente, lo que dificulta la tarea de discernir la realidad de la ficción. El incidente del falso informe de la explosión en el Pentágono es un ejemplo claro de cómo la IA puede generar imágenes hiperrealistas que causan confusión y pánico.
La IA tiene la capacidad de generar imágenes, textos y videos hiperrealistas, conocidos como «deepfakes». Estos pueden ser utilizados para crear noticias falsas que parecen auténticas a primera vista. En el caso de la imagen de la explosión del Pentágono, la imagen parecía lo suficientemente real como para que varias cuentas verificadas de Twitter la compartieran y causaran una breve caída en la bolsa. Esta es solo una ilustración del poder y el impacto potencial de la desinformación generada por IA.
Una parte del problema es que la IA puede producir contenido falso a una velocidad y escala que supera la capacidad humana de moderación y verificación. Además, la creciente sofisticación de estas tecnologías significa que la detección de contenido falso se está volviendo cada vez más difícil. El resultado es un entorno en línea donde es cada vez más difícil discernir la realidad de la ficción.
La solución pasa también por la IA
La inteligencia artificial puede desempeñar un papel crucial en la lucha contra la desinformación. Mediante el uso de algoritmos sofisticados y técnicas de machine learning, la IA puede ayudar a identificar y filtrar contenido falso de manera más eficiente y precisa. Los algoritmos de IA pueden analizar grandes cantidades de datos y patrones para detectar señales de desinformación, como la manipulación de imágenes, la propagación masiva de noticias falsas o el uso de fuentes no confiables.
Además, la IA puede trabajar en conjunto con los moderadores humanos para agilizar el proceso de verificación y moderación de contenido. Al implementar sistemas de IA mejorados y políticas más estrictas, es possible fortalecer la integridad de la información en las redes sociales y reducir la propagación de la desinformación.
El papel de la sociedad
Por lo tanto, es crucial desarrollar nuevas estrategias y herramientas para combatir la desinformación generada por la IA. Esto podría implicar la creación de algoritmos de IA más avanzados para detectar y filtrar contenido falso, la implementación de políticas más estrictas de verificación de cuentas en las redes sociales y la promoción de una mayor conciencia pública sobre la desinformación y cómo identificarla.
Aunque la inteligencia artificial ofrece muchas posibilidades emocionantes, su uso indebido puede tener consecuencias perjudiciales. Es responsabilidad de todos, desde los desarrolladores de IA hasta los usuarios de las redes sociales, trabajar juntos para minimizar la propagación de la desinformación y asegurar que la tecnología se utilice de manera que beneficie a la sociedad en su conjunto.
Escrito por
Josep Moré Gili
Referencias
Calero, C. (2023, Mayo 22). Cuentas verificadas de Twitter comparten una imagen falsa de una “explosión” cerca del Pentágono y causan confusión. CNN. https://cnnespanol.cnn.com/2023/05/22/cuentas-verificadas-twitter-imagen-falsa-de-una-explosion-cerca-del-pentagono-trax/
Villasenor, J. (2020, November 23). How to deal with AI-enabled disinformation. Brookings; Brookings. https://www.brookings.edu/research/how-to-deal-with-ai-enabled-disinformation/
Más inteligencia artificial
La misión de Saturdays.ai es hacer la inteligencia artificial más accesible #ai4all mediante cursos y programas intensivos donde se realizan proyectos para el bien #ai4good.
Hazte miembro premium de Saturdays y podrás aprovechar todos los beneficios de una comunidad líder en Inteligencia Artificial: https://saturdays.ai/become-a-member
Si quieres aprender más inteligencia artificial únete a nuestra comunidad en community.saturdays.ai o visítanos en nuestra web www.saturdays.ai ¡te esperamos!