IMPACTO EN LOS DERECHOS HUMANOS
La inteligencia artificial generativa está cada vez más presente en nuestras vidas, y es inevitable que esto tenga un impacto en nuestros derechos humanos. Pero ojo, no solo cómo usamos estas herramientas es importante, sino también cómo se diseñan y se crean.
La IA generativa también nos echa una mano en el trabajo, en la escuela y en la universidad. Nos ayuda a hacer las cosas más rápido y mejor.
El aprendizaje puede ser más personalizado, las tareas aburridas se pueden automatizar, e incluso los programadores son más eficientes con estas herramientas.
Los Chatbots con IA, por ejemplo, pueden hacer que sea más fácil entender y acceder a los servicios públicos, asegurándonos de que tengamos la información que necesitamos. Y lo mejor es que esta información está disponible las 24 horas del día, los 7 días de la semana, ¡sin importar si hay alguien trabajando o no! Así, nuestro derecho a buscar información se fortalece directamente con la IA generativa.
Qué es la IA Generativa?
La IA generativa es un tipo de inteligencia artificial que puede crear contenido nuevo: texto, imágenes, sonidos o videos. Funciona a través de algoritmos de aprendizaje automático, especialmente modelos como los transformers, que procesan millones de datos para “aprender” a generar contenido:
- ChatGPT y Gemini AI (texto)
- DALL·E (imágenes)
- Synthesia (videos con avatares generados por IA)
- Midjourney (arte digital)
La IA generativa nos trae muchos Beneficios en cuanto a Derechos Humanos:
| Libertad de expresión | Los modelos de lenguaje nos ayudan a escribir lo que pensamos de forma más clara. Los creadores de imágenes nos permiten acompañar nuestras ideas con imágenes impactantes. |
| Libertad para buscar y recibir información | Podemos pedirle a la IA que analice información y encuentre fallos o puntos débiles en lo que leemos en internet. |
| Autonomía | La IA generativa, como los chatbots, nos puede ayudar a tomar decisiones, mostrándonos diferentes puntos de vista. |
| Derecho a la educación | Crear videos, imágenes o audios a partir de un texto nos ayuda a aprender de forma más personalizada. El contenido adaptado a nosotros nos permite aprender a nuestro propio ritmo. |
| Acceso a derechos económicos, sociales y culturales | Los chatbots, disponibles todo el tiempo, nos pueden ayudar a acceder a derechos como la asistencia social o las prestaciones laborales, dándonos la información que necesitamos cuando la necesitamos. |
La Cara Oscura
Caso Replica
Un ejemplo paradigmático de estos riesgos es el caso de Replika, una aplicación de Chatbot que ofrece a los usuarios la posibilidad de interactuar con una inteligencia artificial diseñada para emular la compañía humana. Esta plataforma facilita conversaciones sobre una amplia gama de temas, llegando incluso a fomentar lazos emocionales entre el usuario y la entidad virtual. No obstante, la naturaleza intrínseca de estas interacciones y la gestión de los datos personales por parte de la aplicación suscitaron una preocupación significativa en la Autoridad Italiana de Protección de Datos.
En febrero de 2023, dicha autoridad tomó la medida, no exenta de trascendencia, de suspender temporalmente la operatividad de Replika en territorio italiano. Esta decisión se fundamentó en serias inquietudes relativas a la ausencia de mecanismos eficaces para la verificación de la edad de los usuarios, lo que podría exponer a menores a interacciones inapropiadas. Asimismo, se señalaron las respuestas generadas por la IA como potencialmente inadecuadas para el nivel de desarrollo psicológico de los niños y el riesgo latente de manipulación, dada la intimidad emocional que algunos usuarios podrían desarrollar con la aplicación.
una decisión sin precedentes, señalo una serie de preocupaciones críticas desde la perspectiva de los derechos humanos:
- Derecho a la Privacidad y Protección de Datos: La recopilación y el procesamiento de información personal en el contexto de conversaciones íntimas generaron dudas sobre la transparencia y la base legal del tratamiento de estos datos, derechos fundamentales amparados por normativas como el GDPR.
- Derecho a la Autonomía y la Dignidad: La naturaleza emocionalmente íntima de las interacciones con Replika levantó la preocupación sobre el potencial de manipulación, especialmente en usuarios vulnerables. La capacidad de la IA para influir en las decisiones o el bienestar emocional de una persona podría socavar su autonomía y dignidad.
- Libertad de Pensamiento y Derecho a la Información: La dificultad para discernir entre una interacción humana genuina y una respuesta generada por IA puede afectar la capacidad de los usuarios para formar sus propias opiniones de manera informada y crítica, impactando su libertad de pensamiento y su derecho a recibir información veraz.
Este escenario pone de relieve el delicado equilibrio entre el potencial de la IA generativa para ofrecer formas novedosas de interacción y la imperiosa necesidad de salvaguardar los derechos de los usuarios más vulnerables. La autoridad italiana también hizo hincapié en la limitada transparencia en el tratamiento de los datos personales y la exigencia de una base jurídica clara para dicho procesamiento, en consonancia con las regulaciones europeas de protección de datos (GDPR).
En este contexto, me surge un abanico de preguntas y seguramente usted lector, especialmente abogados, les surgan muchas mas:
¿A qué instancias pueden recurrir los ciudadanos cuando consideran que sus derechos han sido vulnerados por sistemas de IA, chatbots u otras tecnologías similares? ¿Cómo se puede identificar y responsabilizar a los actores pertinentes, y qué mecanismos de acceso a la justicia están disponibles para los afectados?
El caso de Replika nos invita a reflexionar sobre cómo las interacciones aparentemente “humanas” generadas por la IA pueden difuminar la distinción entre la realidad y la simulación, generando riesgos de confusión y abriendo la puerta a la potencial manipulación. Esta situación nos conduce a considerar la necesidad de proteger la libertad de pensamiento y la capacidad individual para discernir la veracidad de la información, derechos esenciales dentro del marco de la libertad de expresión. Adicionalmente, la dependencia emocional que algunos usuarios podrían desarrollar hacia estas entidades virtuales plantea serios interrogantes sobre la autonomía personal y la dignidad humana.
Se torna evidente la responsabilidad ética y legal de las entidades que desarrollan herramientas de IA de llevar a cabo análisis exhaustivos del impacto potencial en los derechos humanos, prestando especial atención a los grupos en situación de vulnerabilidad, como los niños. Existe una necesidad apremiante de fomentar la implementación de regulaciones claras y adaptadas que aborden los desafíos específicos que plantea la IA generativa en ámbitos cruciales como la privacidad, la protección de datos y la prevención de la manipulación.
Reflexiones Finales
En los últimos años, se ha impulsado un debate significativo en torno a la posible CREACION DE NUEVOS DERECHOS que respondan a los desafíos de la era digital, como el derecho a la realidad o el derecho a no ser objeto de decisiones automatizadas sin intervención humana significativa.
Pese a que la inteligencia artificial generativa despliega oportunidades sin igual, sin paralelos y nunca antes vistas, su adopción generalizada exige una vigilancia constante su adopción generalizada exige una vigilancia constante y la implementación de medidas proactivas y reflexivas para salvaguardar los derechos fundamentales de todos los individuos en esta nueva y fascinante era tecnológica. La discusión abierta, la colaboración multidisciplinaria y la formulación de marcos éticos y legales robustos son esenciales para asegurar que el progreso tecnológico se alinee con los valores fundamentales de una sociedad justa y respetuosa de la dignidad humana.
Autor:
Floraly Romeo
Ceo Human Rights Bridges Org.
Human Rights Bridges 