ChatGPT y su capacidad para vulnerar la privacidad

MARCOS RAMALLO SEBASTIÁN  |  Fotografía: PIXABAY

Pese a ser la aplicación de consumo que más ha crecido hasta la fecha, su forma de alimentarse de nuestros datos personales ha traído consecuencias

Cuando OpenAI lanzó GPT-3 en julio de 2020, todo era diferente. Esta herramienta pretendía ser la más didáctica y novedosa hasta el momento. Su objetivo no era otro que recoger datos y utilizarlos para entrenar el modelo lingüístico. Sin embargo, con el tiempo se ha ido demostrando que, para crear el sistema generativo de texto, se utilizan millones de páginas de Internet, entradas de Reddit y libros, etc, y estos mismos recogen parte de la información personal que el usuario comparte en Internet. 

Esta es la razón por la que la autoridad de protección de datos de Italia emitió el 31 de marzo una sentencia provisional de emergencia por la que ordena a OpenAI que deje de utilizar los datos personales de millones de italianos que forman parte de sus datos de entrenamiento. El organismo regulador, Garante per la Protezione dei Dati Personali, afirma que OpenAI carece de autoridad legal para explotar la información privada de los individuos en ChatGPT. En respuesta, OpenAI ha bloqueado el acceso a su chatbot en Italia mientras responde a las preguntas de las autoridades y realiza más investigaciones.

La acción se ha convertido en la primera de un regulador occidental contra ChatGPT y pone de relieve la preocupación por la privacidad en torno al desarrollo de modelos generativos masivos de IA, que a menudo se entrenan con enormes cantidades de datos de Internet. El regulador de datos presenta ahora la misma reclamación en relación con el uso de la información personal de los ciudadanos que los artistas y las empresas de medios de comunicación han hecho en relación con los desarrolladores de IA generativa que utilizan su trabajo sin autorización.

Otros países de Europa están trabajando en la misma línea. Las autoridades de datos de Francia, Alemania, Irlanda y ahora España, se han puesto en contacto con el Comité Europeo de Protección de Datos (EDPB, por sus siglas en inglés) para solicitar información adicional sobre sus conclusiones en los días transcurridos desde que Italia anunció su investigación. 

¿Por qué es un problema?

En primer lugar, OpenAI no pregunta sobre el uso de nuestros datos. Se trata de una flagrante invasión de la privacidad, especialmente cuando los datos son sensibles y pueden utilizarse para localizarnos, identificar a nuestros seres queridos o identificarnos a nosotros mismos.

El uso de los datos puede comprometer lo que se conoce como integridad contextual, incluso cuando los datos están a disposición del público. Esta es una idea fundamental en los debates sobre la ley de privacidad. La información sobre las personas no debe hacerse pública fuera del contexto en el que se creó.

Además, OpenAI no ofrece ningún proceso para que los clientes consulten o soliciten la eliminación de sus datos personales. El Reglamento General Europeo de Protección de Datos (RGPD), que garantiza este derecho, sigue siendo objeto de debate para determinar si ChatGPT cumple sus criterios. Este «derecho al olvido» es crucial en situaciones en las que la información es poco fiable o engañosa, como suele ocurrir con ChatGPT.

La información que ChatGPT recibe de los usuarios en forma de preguntas plantea otro riesgo para la privacidad. Corremos el riesgo de revelar accidentalmente información privada cuando pedimos a la herramienta que realice tareas o responda a consultas.

Por ejemplo, un programador podría pedir a la herramienta que verificara una sección de código, mientras que un abogado podría pedirle que revisara un borrador de acuerdo de divorcio. Junto con los artículos redactados, el acuerdo y el código se almacenan en la base de datos de ChatGPT. De este modo, pueden incorporarse a las respuestas a las preguntas de otras personas y utilizarse para seguir formando a la herramienta.

Por otro lado, OpenAI recopila  también otros datos sobre los usuarios. La política de privacidad de la empresa establece que recopila información sobre las direcciones IP de los usuarios, los tipos de navegador y la configuración, así como información sobre cómo interactúan con el sitio, incluidos los tipos de material que utilizan, los servicios que utilizan y las actividades que realizan. OpenAI afirma que, con el fin de promover sus objetivos comerciales, puede compartir la información personal de los usuarios con terceros no identificados sin su consentimiento.

¿Es hora de frenar?

Según algunos expertos, la materialización de avances tecnológicos que pueden revolucionar nuestra forma de trabajar, aprender, escribir e incluso pensar es lo que convierte a ChatGPT en el punto de inflexión de la IA. A pesar de sus ventajas potenciales, debemos tener en cuenta que OpenAI es una organización privada con ánimo de lucro cuyos objetivos y exigencias empresariales no siempre coinciden con los de la comunidad en general.

Los riesgos para la privacidad asociados a ChatGPT deberían servir de advertencia. Y como usuarios de un número cada vez mayor de tecnologías de IA, es imprescindible extremar la precaución a la hora de decidir qué datos dar a estos programas.

  • Related Posts

    La propagación del absentismo en las aulas universitarias

    La falta de asistencia supera ya el 42% en muchas de las aulas universitarias del país LAURA CUADRADO TUHRINSKA | Fotografía: Pixabay El silencio de los pasillos en horas punta…

    Leer más

    Publicaciones recientes

    Crímenes en serie: Netflix y su fascinación por los asesinos seriales

    Crímenes en serie: Netflix y su fascinación por los asesinos seriales

    El código del guerrero: el… ¿Bushido?

    El código del guerrero: el… ¿Bushido?

    Tordesillas y el día en que un pueblo vallisoletano partió el mundo en dos

    Tordesillas y el día en que un pueblo vallisoletano partió el mundo en dos

    OPINIÓN | Oportunidad perdida: VOX cancela su entrevista con ’The Wild Project’

    OPINIÓN | Oportunidad perdida: VOX cancela su entrevista con ’The Wild Project’

    La propagación del absentismo en las aulas universitarias

    La propagación del absentismo en las aulas universitarias

    La UVa ofrece distintos cursos para aprender idiomas

    La UVa ofrece distintos cursos para aprender idiomas

    Del barrio al mundo: la evolución del reggaetón, de Don Omar a Bad Bunny

    Del barrio al mundo: la evolución del reggaetón, de Don Omar a Bad Bunny

    Ediciones UVa: El motor editorial que conecta la investigación académica con la sociedad desde Castilla y León

    Ediciones UVa: El motor editorial que conecta la investigación académica con la sociedad desde Castilla y León

    La Séptima: el nuevo canal que cambiará la televisión española

    La Séptima: el nuevo canal que cambiará la televisión española

    No todo cabe en cajas: Hens trae su repertorio a Valladolid con «Una mudanza»

    No todo cabe en cajas: Hens trae su repertorio a Valladolid con «Una mudanza»

    Itaca Band convierte la imperfección en trinchera festiva

    Itaca Band convierte la imperfección en trinchera festiva

    Castilla y León a través de sus joyas patrimoniales: el cáliz de Doña Urraca, la leyenda del Santo Grial en León

    Castilla y León a través de sus joyas patrimoniales: el cáliz de Doña Urraca, la leyenda del Santo Grial en León

    Black Friday: cómo el capitalismo salvaje arrasa con nuestras vidas

    Black Friday: cómo el capitalismo salvaje arrasa con nuestras vidas

    San Pío de Pietrelcina, el hombre que llevó las heridas de Cristo en una vida marcada por el misterio y la fe

    San Pío de Pietrelcina, el hombre que llevó las heridas de Cristo en una vida marcada por el misterio y la fe

    Catalina la Grande, la princesa extranjera que conquistó el trono de los zares

    Catalina la Grande, la princesa extranjera que conquistó el trono de los zares