Con motivo del Día de la Protección de Datos el 28 de enero, el Comité Consultivo de la Convención para la Protección de las Personas con respecto al Procesamiento de Datos Personales (Convención 108) publicó Pautas sobre Inteligencia Artificial y Protección de Datos.

Sistemas, software y dispositivos basados ​​en Inteligencia Artificial (IA) ofrecen nuevas y valiosas soluciones para abordar las necesidades y desafíos en una variedad de campos. Tales como hogares inteligentes, ciudades inteligentes, el sector industrial, salud y prevención del crimen.

Las aplicaciones de IA pueden representar una herramienta útil para la toma de decisiones. Pero estas aplicaciones también pueden tener consecuencias adversas para los individuos y la sociedad.

Para evitar esto, la UE ha elaborado unas directrices que garantizarán y permitirán que el desarrollo y uso de IA respeten los derechos de privacidad y protección de datos. Reforzando así los derechos humanos y las libertades.

Normas generales

Estas Directrices proporcionan un conjunto de medidas de referencia que los gobiernos, los desarrolladores de IA, los fabricantes, y los proveedores de servicios deben seguir.  Con ellas se asegurará que las aplicaciones de IA no socaven la dignidad humana y los derechos humanos y libertades fundamentales de todos individuales. En particular con respecto al derecho a la protección de datos.

  1. La protección de la dignidad humana y la salvaguarda de los derechos humanos y libertades fundamentales, en particular el derecho a la protección de datos personales, son esenciales al  desarrollar y adoptar aplicaciones de IA que pueden tener consecuencias en los individuos y la sociedad. Esto es especialmente importante cuando las aplicaciones de IA se utilizan en los procesos de toma de decisiones.
  2. El desarrollo de IA que se basa en el procesamiento de datos personales debe basarse en los principios de:
    • legalidad
    • imparcialidad
    • especificación del propósito
    • proporcionalidad del procesamiento de datos
    • privacidad por diseño y por defecto
    • responsabilidad y demostración de cumplimiento (rendición de cuentas)
    • transparencia
    • seguridad de datos
    • gestión de riesgos
  3. Un enfoque centrado en evitar y mitigar los riesgos potenciales del procesamiento. Los datos personales son un elemento necesario de la innovación responsable en el campo de la IA.
  4. En línea con la guía sobre evaluación de riesgos proporcionada en las Directrices sobre Big Data adoptadas por el Comité europeo, los resultados del procesamiento de datos deben ser adoptados.
  5. Las aplicaciones de IA deben respetar en todo momento los derechos de los interesados.
  6. Las aplicaciones deben permitir un control significativo por parte de los sujetos sobre los datos y efectos relacionados en los individuos y en la sociedad.

Directrices para desarrolladores, fabricantes y proveedores de servicios

Los desarrolladores, fabricantes y proveedores de servicios de IA deben adoptar un enfoque orientado a los valores en el diseño de sus productos y servicios. Deben evaluar los posibles efectos adversos y consecuencias de las aplicaciones de la IA en los derechos humanos y las libertades fundamentales.

Teniendo en cuenta estas consecuencias, adoptarán un enfoque de precaución basado en medidas adecuadas de prevención y mitigación de riesgos.

  • En cualquier fase del procedimiento, incluso en la recopilación de datos, desarrolladores, fabricantes y proveedores deben adoptar un enfoque de diseño de los derechos humanos y evitar cualquier riesgo potencial, incluidos los no intencionales u ocultos
  • Existe la obligación, por parte de los desarrolladores, de evaluar la calidad, naturaleza, origen y cantidad de datos utilizados. Reduciendo datos innecesarios, redundantes o marginales durante el desarrollo, y fases de entrenamiento
  • Se anima a los desarrolladores, fabricantes y proveedores a establecer y consultar a comités independientes de expertos de diversos campos. Así como a con instituciones académicas independientes. Estos les ayudarán a diseñar aplicaciones basadas en los derechos humanos y con orientación ética y social. Y a detectar posibles riesgos
  • Todos los productos y servicios deben diseñarse de manera que garantice el derecho de los individuos
  • Con el fin de mejorar la confianza de los usuarios, los desarrolladores, fabricantes y proveedores deben diseñar sus productos y servicios de forma que protejan la libertad de elección de los usuarios. Proporcionando alternativas viables a esas aplicaciones
  • Debe informarse a los titulares de los datos si interactúan con una aplicación de IA y tienen derecho a obtener información sobre el razonamiento subyacente en las operaciones de procesamiento de datos
  • Debe garantizarse el derecho a oponerse en relación con el procesamiento basado en tecnologías que influyen en las opiniones de los individuos

Directrices para legisladores y responsables políticos

Para legisladores y responsables políticos también existen unas reglas como:

  • Respeto del principio de responsabilidad, la adopción de procedimientos de evaluación de riesgos y la aplicación de otras medidas adecuadas. Por ejemplo códigos de conducta y mecanismos de certificación, pueden mejorar la confianza en los productos y servicios de IA
  • Los procedimientos de contratación pública deben imponer a los desarrolladores, fabricantes y proveedores de servicios de IA tareas específicas de:
    • transparencia
    • evaluación previa del impacto del procesamiento de datos en los derechos humanos y libertades fundamentales
    • vigilancia sobre los posibles efectos adversos y consecuencias de las aplicaciones de inteligencia artificial
  • Debe fomentarse la cooperación entre las autoridades supervisoras de protección de datos y otros organismos que tienen competencias relacionadas con la IA. Tales como:
    • protección al consumidor
    • competencia
    • contra la discriminación
    • Reguladores del sector
    • autoridades reguladoras de medios
  • Deberían establecerse mecanismos apropiados para garantizar la independencia de los Comités de expertos
  • Los individuos y partes interesadas deben estar informados. Y participar activamente en el debate sobre qué papel debe desempeñar la IA en la configuración de las dinámicas sociales y en los procesos de toma de decisiones que les afectan
  • Tiene que existir una inversión de recursos en alfabetización digital y educación para aumentar la conciencia y comprensión de los sujetos sobre las aplicaciones de la IA y sus efectos

Escribe aquí tu comentario

Deja un comentario

Las siguientes reglas del RGPD deben leerse y aceptarse:
Este formulario recopila tu nombre, correo electrónico y contenido para que podamos realizar un seguimiento de los comentarios dejados en la web. Para más información revisa nuestra política de privacidad, donde encontrarás más información sobre dónde, cómo y por qué almacenamos tus datos.