Privacidad e inteligencia artificial: ¿son incompatibles?

Programación de robots en Python con pintura digital humana.

Prompt: un robot y una persona programando en Python, pintura digital.

Introducción

En la era digital actual, la inteligencia artificial (IA) se está convirtiendo en una parte integral de nuestras vidas, transformando la forma en que trabajamos, nos comunicamos y resolvemos problemas. Una de las áreas de mayor crecimiento en la IA es el procesamiento del lenguaje natural (NLP, por sus siglas en inglés). Sus aplicaciones plantean preguntas sobre qué datos se usan, quién puede acceder a ellos y cómo se protegen.

A pesar de los beneficios, el uso de datos personales en el entrenamiento de estos modelos plantea preocupaciones en cuanto a la privacidad y seguridad. En este artículo, exploraremos cómo se entrenan los modelos de inteligencia artificial, los riesgos asociados al uso de datos personales, y cómo OpenAI enfrenta estas preocupaciones con opciones de privacidad mejoradas.

Cómo se entrenan los modelos de inteligencia artificial

Los modelos de lenguaje que sustentan herramientas como ChatGPT aprenden patrones a partir de grandes conjuntos de datos. Aunque existen distintos métodos, podemos distinguir de forma simplificada el preentrenamiento y las etapas posteriores de ajuste.

1. Preentrenamiento

Durante esta fase, el modelo se expone a enormes cantidades de texto, ya sean textos extraídos de Internet, como sitios web, blogs, foros y redes sociales; como textos no disponibles en internet. Al procesar estos datos, el modelo aprende estructuras gramaticales, vocabulario y patrones de lenguaje. Sin embargo, también puede estar expuesto a información errónea, sesgada o inapropiada.

2. Ajuste posterior

Después del preentrenamiento se pueden emplear ejemplos seleccionados, instrucciones y evaluaciones humanas para ajustar el comportamiento del modelo. Estas etapas buscan respuestas más útiles y coherentes, aunque no eliminan los errores.

Riesgos de privacidad en la inteligencia artificial

Los conjuntos de entrenamiento pueden contener datos personales. Su uso plantea riesgos tanto para las personas a quienes se refieren como para las organizaciones que desarrollan y utilizan los sistemas:

1. Violación de la privacidad

Si un modelo de IA es entrenado con datos personales, existe el riesgo de que pueda aprender y reproducir información privada o confidencial, lo que podría exponer a los usuarios a riesgos de violación de la privacidad.

2. Exposición a ciberataques

Los datos personales utilizados en el entrenamiento de modelos de IA pueden convertirse en un objetivo atractivo para los ciberdelincuentes. Si los atacantes acceden a estos datos, pueden utilizarlos con fines maliciosos, como robo de identidad o extorsión.

3. Uso indebido de la información

Los datos personales de los usuarios pueden ser utilizados de manera indebida por las empresas o terceros que accedan a los modelos de IA, lo que podría dar lugar a discriminación, manipulación o explotación de los usuarios.

4. Falta de consentimiento informado

En muchos casos, los usuarios pueden no ser conscientes de que sus datos personales están siendo utilizados para entrenar modelos de IA. Esto plantea problemas éticos y legales relacionados con el consentimiento informado y el derecho a la autodeterminación informativa.

5. Responsabilidad legal

El tratamiento de datos o la generación de resultados que incumplan las normas aplicables pueden dar lugar a responsabilidades y sanciones. Las obligaciones dependen del contexto, del tipo de datos y de la jurisdicción. Ya abordamos el tema de IA y los derechos de autor con más profundidad en un artículo previo.

Prompt: ilustración de un ciberataque, con una persona ante varios ordenadores.

La opción de OpenAI para proteger los datos de los usuarios

Para abordar las preocupaciones de privacidad, OpenAI ofrece controles para decidir si las nuevas conversaciones de determinadas cuentas personales se utilizan para mejorar los modelos. La disponibilidad y las condiciones dependen del producto y de la cuenta, por lo que conviene consultar la documentación vigente. Estos controles tienen varias implicaciones:

1. Control del usuario

Los usuarios pueden tener un mayor control sobre su información personal y cómo se utiliza en el desarrollo de la inteligencia artificial.

2. Reducción de riesgo

Desactivar el uso para entrenamiento limita ese uso de las nuevas conversaciones. No elimina automáticamente los chats, no equivale a desactivar el almacenamiento y no garantiza que desaparezcan todos los riesgos de privacidad.

3. Confianza en la IA

Este enfoque centrado en la privacidad puede aumentar la confianza de los usuarios en la tecnología, alentando una adopción más amplia y responsable de la inteligencia artificial en diversas aplicaciones.

Conclusiones

La inteligencia artificial, en particular el procesamiento del lenguaje natural y modelos como ChatGPT, tienen un enorme potencial para mejorar nuestras vidas en múltiples aspectos. Sin embargo, también es esencial abordar los riesgos relacionados con la privacidad y seguridad de los datos personales durante todo el ciclo de vida del sistema. Los controles de uso para entrenamiento son una parte de esa protección, junto con la minimización de datos, la seguridad, la retención y los derechos de las personas.

Este tipo de medidas son cruciales para garantizar un desarrollo ético y sostenible de la IA, pero ningún ajuste por sí solo garantiza privacidad absoluta. Las organizaciones deben explicar sus prácticas, comprobar los riesgos y responder por el tratamiento de los datos.

Como usuarios podemos reclamar que nuestros datos sean usados de forma segura, conocer las finalidades del tratamiento y ejercer los derechos que correspondan. El consentimiento es una posible base jurídica, pero no la única en todos los contextos.

Referencias

Modelo de IA: ¿Cómo funciona? (2022). Koombea; Koombea. https://www.koombea.com/blog/ai-model/#:~:text=AI%20models%20don’t%20have,teach%20in%20the%20same%20way.

Escrito por

Josep Moré Gili

Más inteligencia artificial

Saturdays.AI acerca la IA a más personas a través del aprendizaje en comunidad y de proyectos con impacto social. Nuestro lema es AI4ALL IS AI4GOOD.

Hazte miembro premium de Saturdays y podrás aprovechar todos los beneficios de una comunidad líder en Inteligencia Artificial: https://saturdays.ai/become-a-member

Conoce la comunidad de Saturdays.AI