Inteligencia artificial y su papel en la desinformación.
Los desafíos planteados por la creciente influencia de la inteligencia artificial en la propagación de desinformación. Descubre incidentes recientes y las posibles soluciones para combatir este problema en nuestra sociedad.
La explosión falsa en el Pentágono
La difusión de una imagen falsa de una explosión cerca del Pentágono, el 22 de mayo de 2023, mostró lo rápido que puede circular una noticia engañosa. Compartida en Twitter, provocó confusión y coincidió con una breve caída bursátil. El episodio abrió preguntas sobre los contenidos sintéticos y la verificación de la información.
El 22 de mayo de 2023, varias cuentas verificadas de Twitter compartieron una imagen que supuestamente mostraba una explosión cerca del Pentágono. La imagen, fue compartida por numerosas cuentas verificadas, incluyendo una que afirmaba falsamente estar asociada con Bloomberg News. La publicación decía: «Gran explosión cerca del complejo del Pentágono en Washington. Informe preliminar», y mostraba una imagen de humo negro elevándose cerca de un gran edificio.
La foto falsa difundida en Twitter
Difusión de la desinformación
Este incidente pone de relieve el problema de la desinformación y la necesidad de una mayor regulación y moderación en las redes sociales. En este caso, la cuenta que compartió la imagen fue suspendida por Twitter, pero la identidad del responsable sigue siendo desconocida. Bajo la dirección de Elon Musk, Twitter ha implementado un sistema de verificación de pago, lo que ha debilitado el significado de la verificación, ya que ya no es un indicador confiable de que una cuenta representa a quien dice representar.
La difusión de esta desinformación no se limitó a Twitter. Republic TV, una cadena de televisión india, también mostró la imagen y citó informaciones de RT. La cadena se retractó después, cuando quedó claro que la explosión no había ocurrido.
La IA como herramienta de desinformación
El caso recuerda la rapidez y la escala con que puede difundirse información falsa. También invita a revisar los procedimientos y las políticas con los que verificamos y moderamos lo que circula en redes sociales.
La IA puede crear o modificar imágenes, vídeos y textos de forma convincente, lo que añade dificultades a la verificación. En el caso del Pentágono, se sugirió que la imagen podía haberse generado con IA, pero su origen no quedó confirmado en las informaciones citadas. Conviene distinguir entre que una imagen sea falsa y que sepamos cómo se creó.
Los deepfakes son contenidos audiovisuales sintéticos o manipulados mediante aprendizaje profundo; el término no describe cualquier texto falso. Junto con otras formas de contenido generado, pueden facilitar engaños que parecen creíbles a primera vista. El episodio del Pentágono ilustra la vulnerabilidad de la conversación pública ante imágenes falsas, independientemente de la técnica concreta utilizada.
Una parte del problema es que la IA puede producir contenido falso a una velocidad y escala que supera la capacidad humana de moderación y verificación. Además, la creciente sofisticación de estas tecnologías significa que la detección de contenido falso se está volviendo cada vez más difícil. El resultado es un entorno en línea donde es cada vez más difícil discernir la realidad de la ficción.
Imagen generada con IA de un robot utilizando un ordenador.
La solución pasa también por la IA
La IA también puede apoyar la lucha contra la desinformación. El análisis de imágenes, patrones de difusión y grandes volúmenes de datos puede ayudar a priorizar contenido para su revisión. Pero un detector no es una prueba definitiva de falsedad: sus resultados deben contrastarse con fuentes fiables y con el contexto.
La combinación de herramientas automáticas y revisión humana puede agilizar la verificación. Para reforzar la integridad de la información hacen falta procedimientos claros, evaluación de errores y políticas que permitan corregir decisiones equivocadas.
El papel de la sociedad
Por lo tanto, es crucial desarrollar nuevas estrategias y herramientas para combatir la desinformación generada por la IA. Esto podría implicar la creación de algoritmos de IA más avanzados para detectar y filtrar contenido falso, la implementación de políticas más estrictas de verificación de cuentas en las redes sociales y la promoción de una mayor conciencia pública sobre la desinformación y cómo identificarla.
Aunque la inteligencia artificial ofrece muchas posibilidades emocionantes, su uso indebido puede tener consecuencias perjudiciales. Es responsabilidad de todos, desde los desarrolladores de IA hasta los usuarios de las redes sociales, trabajar juntos para minimizar la propagación de la desinformación y asegurar que la tecnología se utilice de manera que beneficie a la sociedad en su conjunto.
Escrito por
Josep Moré Gili
Referencias
Calero, C. (2023, Mayo 22). Cuentas verificadas de Twitter comparten una imagen falsa de una “explosión” cerca del Pentágono y causan confusión. CNN. https://cnnespanol.cnn.com/2023/05/22/cuentas-verificadas-twitter-imagen-falsa-de-una-explosion-cerca-del-pentagono-trax/
Villaseñor, J. (2020, 23 de noviembre). Cómo lidiar con la desinformación habilitada por la IA. Brookings; Brookings. https://www.brookings.edu/research/how-to-deal-with-ai-enabled-disinformation/
Más inteligencia artificial
Saturdays.AI acerca la IA a más personas a través del aprendizaje en comunidad y de proyectos con impacto social. Nuestro lema es AI4ALL IS AI4GOOD.
Hazte miembro premium de Saturdays y podrás aprovechar todos los beneficios de una comunidad líder en Inteligencia Artificial: https://saturdays.ai/become-a-member
Una historia de la comunidad Saturdays.AI. Publicada originalmente el 24 may 2023.
← Más historias de la comunidad
