Con motivo del Día de la Protección de Datos el 28 de enero, el Comité Consultivo de la Convención para la Protección de las Personas con respecto al Procesamiento de Datos Personales (Convención 108) publicó Pautas sobre Inteligencia Artificial y Protección de Datos.
Sistemas, software y dispositivos basados en Inteligencia Artificial (IA) ofrecen nuevas y valiosas soluciones para abordar las necesidades y desafíos en una variedad de campos. Tales como hogares inteligentes, ciudades inteligentes, el sector industrial, salud y prevención del crimen.
Las aplicaciones de IA pueden representar una herramienta útil para la toma de decisiones. Pero estas aplicaciones también pueden tener consecuencias adversas para los individuos y la sociedad.
Para evitar esto, la UE ha elaborado unas directrices que garantizarán y permitirán que el desarrollo y uso de IA respeten los derechos de privacidad y protección de datos. Reforzando así los derechos humanos y las libertades.
Antes de analizar esas directrices de la UE, vamos a ver en qué consiste la Inteligencia artificial, sus tipos, funcionamiento y usos.
¿Qué es la Inteligencia artificial?
Inteligencia artificial (IA), la capacidad de un ordenador digital o controlado por computadora robot para realizar tareas comúnmente asociadas con seres inteligentes.
El término se aplica con frecuencia al proyecto de desarrollar sistemas dotados de los procesos intelectuales característicos de los humanos, como la capacidad de razonar, descubrir significados, generalizar o aprender de experiencias pasadas.
Desde el desarrollo de la computadora digital en la década de 1940, se ha demostrado que las computadoras pueden programarse para realizar tareas muy complejas, como, por ejemplo, descubrir pruebas de teoremas matemáticos o jugar al ajedrez.
Aún así, a pesar de los continuos avances en la velocidad de procesamiento de la computadora y la capacidad de memoria, todavía no hay programas que puedan igualar la flexibilidad humana en dominios más amplios o en tareas que requieren mucho conocimiento diario.
Por otro lado, algunos programas han alcanzado los niveles de desempeño de expertos y profesionales humanos en la realización de ciertas tareas específicas, de modo que la inteligencia artificial en este sentido limitado se encuentra en aplicaciones tan diversas como el diagnóstico médico, los motores de búsqueda y reconocimiento de voz o escritura a mano.
La inteligencia artificial se refiere a la inteligencia de una máquina, programa o sistema, en contraste con la inteligencia humana. No debe considerarse una tecnología simple, es una colección de tecnologías. Es un nuevo paradigma que tiene como objetivo dar más potencia a la máquina. Es una tecnología que reemplazará a los humanos en algunos casos.
¿Cuáles son las aplicaciones cotidianas de la inteligencia artificial?
Hay muchos campos asociados y subcampos de inteligencia artificial. Las aplicaciones de IA van desde aplicaciones cotidianas hasta investigación espacial, robots humanoides o automóviles sin conductor.
El aprendizaje automático es una aplicación de inteligencia artificial donde las máquinas pueden ‘aprender’ sin necesidad de ser programadas para esa tarea específica
Algunos ejemplos comunes de aprendizaje automático que puedes usar todos los días en tu teléfono inteligente incluyen:
- Siri, o reconocimiento de voz;
- Reconocimiento facial;
- Servicios de transmisión de música, televisión o películas, como Netflix y Apple Music, que aprenden las preferencias del usuario y predicen el contenido relacionado; y
- Las redes sociales como Instagram, donde se utilizan algoritmos de inteligencia artificial para determinar qué contenido mostrar primero al usuario.
Otras aplicaciones comunes de inteligencia artificial incluyen:
- Vehículos autónomos, como los autos sin conductor;
- Aplicaciones de salud; y
- Robótica
Marketing
El marketing es una forma de endulzar los productos para atraer a más clientes. Nosotros, los humanos, somos bastante buenos en esta tarea, pero ¿qué pasa si un algoritmo o un bot se construye únicamente con el propósito de comercializar una marca o una empresa? ¡Haría un trabajo increíble!
A principios de la década de 2000, si buscábamos en una tienda en línea para encontrar un producto sin saber su nombre exacto, sería una pesadilla encontrar el producto.
Pero ahora, cuando buscamos un artículo en cualquier tienda de comercio electrónico, obtenemos todos los resultados posibles relacionados con el artículo. ¡Es como si estos motores de búsqueda leyeran nuestras mentes!
En cuestión de segundos, obtenemos una lista de todos los elementos relevantes. Un ejemplo de esto es encontrar las películas correctas en Netflix.
Banca
La IA en la banca está creciendo más rápido de lo que pensabas. Muchos bancos ya han adoptado sistemas basados en inteligencia artificial para proporcionar asistencia al cliente, detectar anomalías y fraudes con tarjetas de crédito.
El uso de IA para la prevención del fraude no es un concepto nuevo. De hecho, las soluciones de inteligencia artificial se pueden utilizar para mejorar la seguridad en varios sectores comerciales, incluidos el comercio minorista y las finanzas.
Al rastrear el uso de la tarjeta y el acceso al punto final, los especialistas en seguridad están evitando más eficazmente el fraude. Las organizaciones confían en AI para rastrear esos pasos mediante el análisis de los comportamientos de las transacciones.
Empresas como MasterCard y RBS WorldPay han confiado en AI y Deep Learning para detectar patrones de transacciones fraudulentas y prevenir el fraude de tarjetas durante años. Esto ha ahorrado millones de dólares.
Finanzas
Las empresas han estado confiando en computadoras y científicos de datos para determinar patrones futuros en el mercado. El comercio depende principalmente de la capacidad de predecir el futuro con precisión.
Las máquinas son excelentes en esto porque pueden procesar una gran cantidad de datos en un lapso corto. Las máquinas también pueden aprender a observar patrones en datos pasados y predecir cómo estos patrones podrían repetirse en el futuro.
En la era del comercio de frecuencia ultra alta, las organizaciones financieras están recurriendo a la IA para mejorar su rendimiento en el comercio de acciones y aumentar las ganancias.
Cuidado de la salud
Cuando se trata de salvar nuestras vidas, muchas organizaciones y centros de atención médica confían en la IA. Hay muchos ejemplos de cómo la IA en la atención médica ha ayudado a pacientes de todo el mundo.
Una organización llamada Cambio Health Care desarrolló un sistema de apoyo a la decisión clínica para la prevención del accidente cerebrovascular que puede advertir al médico cuando hay un paciente en riesgo de sufrir un accidente cerebrovascular.
Lo mejor de la IA en la atención médica es que no es necesario desarrollar un nuevo medicamento. Simplemente usando un medicamento existente de la manera correcta, también pueden salvarse vidas.
Vehículos autónomos
Durante mucho tiempo, los vehículos autónomos han sido una palabra de moda en la industria de la inteligencia artificial. El desarrollo de vehículos autónomos revolucionará definitivamente el sistema de transporte.
Empresas como Waymo realizaron varias pruebas de manejo en Phoenix antes de implementar su primer servicio de transporte público basado en inteligencia artificial. El sistema de inteligencia artificial recopila datos del radar del vehículo, cámaras, GPS y servicios en la nube para producir señales de control que operan el vehículo.
Los algoritmos avanzados de aprendizaje profundo pueden predecir con precisión lo que es probable que hagan los objetos cercanos al vehículo.
Chatbots
En estos días, los asistentes virtuales se han convertido en una tecnología muy común. Casi todos los hogares tienen un asistente virtual que controla los electrodomésticos en el hogar. Algunos ejemplos incluyen Siri, Cortana, que están ganando popularidad debido a la experiencia del usuario que proporcionan.
Echo de Amazon es un ejemplo de cómo la Inteligencia Artificial se puede utilizar para traducir el lenguaje humano en acciones deseables. Este dispositivo utiliza reconocimiento de voz y PNL para realizar una amplia gama de tareas en su comando. Puede hacer más que solo reproducir tus canciones favoritas. Se puede usar para controlar los dispositivos en su casa, reservar taxis, hacer llamadas telefónicas, pedir su comida favorita, verificar las condiciones climáticas, etc.
Redes sociales
Desde que las redes sociales se han convertido en nuestra identidad, hemos generado una cantidad inconmensurable de datos a través de chats, tweets, publicaciones, etc. Y donde hay una gran cantidad de datos, la IA y el aprendizaje automático siempre están involucrados.
En plataformas de redes sociales como Facebook, la inteligencia artificial se utiliza para la verificación de rostros, en la que los conceptos de aprendizaje automático y aprendizaje profundo se utilizan para detectar características faciales y etiquetar a sus amigos.
Deep Learning se utiliza para extraer cada minuto de detalle de una imagen mediante el uso de un montón de redes neuronales profundas. Por otro lado, los algoritmos de aprendizaje automático se utilizan para diseñar su feed en función de sus intereses.
Otro ejemplo de ello es la IA de Twitter, que se utiliza para identificar el discurso de odio y el lenguaje terrorista en los tweets. Hace uso de Machine Learning, Aprendizaje profundo y procesamiento de lenguaje natural para filtrar contenido ofensivo. La compañía descubrió y prohibió 300,000 cuentas vinculadas con terroristas, el 95% de las cuales fueron encontradas por máquinas no humanas artificialmente inteligentes.
Inteligencia artificial vs inteligencia humana
Las computadoras superarán a los humanos con IA en unos años. Cuando eso suceda, debemos asegurarnos de que las computadoras tengan objetivos alineados con los nuestros.
También se ha planteado la cuestión de si las máquinas inteligentes trabajarán para preservar nuestros valores, o si tienen valores propios.
La ética de la IA
El concepto de máquinas diseñadas para funcionar de acuerdo con los valores humanos es fundamental para los diferentes puntos de vista sobre la ética de la inteligencia artificial.
El principal desafío de la Inteligencia Artificial y la robótica es el tipo de IA que ya está apoderándose del mundo.
Un ejemplo es que en 2014, una niña fue arrestada en los Estados Unidos. Fue llevada a una estación de policía y allí fue clasificada por un algoritmo, que señalaba un alto riesgo de reincidencia, por lo que no la dejaron en libertad bajo fianza y la encarcelaron durante tres días. Ella era negra, no tenía antecedentes, y nunca más volvió a cometer un delito. Casi al mismo tiempo, un hombre fue arrestado. Era un criminal experimentado, fue arrestado por robar en tiendas … y en la estación de policía fue señalado como de bajo riesgo para cometer un delito. Después de eso, cometió varios crímenes. Era blanco.
De esto podemos deducir que, posiblemente, los datos no son neutrales. Si los humanos están programando la máquina, la inteligencia de la máquina puede verse afectada por el sesgo de la misma manera que los humanos.
Algunas de las formas en que se usa la inteligencia artificial son controvertidas y políticas.
Un ejemplo interesante de un debate ético es la cuestión de si los robots humanoides como los robots japoneses que están diseñados para proporcionar compañía a las personas mayores que de otro modo podrían luchar contra la soledad, son realmente un reemplazo ideal para un compañero humano. ¿Fabricar relaciones emocionales artificiales con robots conduce a más o menos aislamiento social?
Objetivos de la IA
La investigación de IA intenta alcanzar uno de tres objetivos: IA fuerte, IA aplicada o simulación cognitiva.
La IA fuerte apunta a construir máquinas que piensen. La ambición final de la IA fuerte es producir una máquina cuya capacidad intelectual general no se pueda distinguir de la de un humano. Este objetivo generó un gran interés en las décadas de 1950 y 1960, pero ese optimismo ha dado paso a una apreciación de las dificultades extremas involucradas. Hasta la fecha, el progreso ha sido escaso. De hecho, algunos investigadores que trabajan en las otras dos ramas de IA consideran que la IA fuerte no merece la pena.
La IA aplicada, también conocida como procesamiento avanzado de información, tiene como objetivo producir sistemas «inteligentes» comercialmente viables, por ejemplo, sistemas de diagnóstico médico «experto» y sistemas de negociación de acciones. La IA aplicada ha tenido un éxito considerable.
En la simulación cognitiva, las computadoras se utilizan para evaluar teorías sobre cómo funciona la mente humana, por ejemplo, teorías sobre cómo las personas reconocen caras o recuerdan recuerdos. La simulación cognitiva ya es una herramienta poderosa tanto en neurociencia como en psicología cognitiva.
¿Cómo afectará la inteligencia artificial a los empleos europeos?
¿Qué tipos de trabajos se verán afectados por la IA? ¿Es deseable que los trabajos sean erradicados por la IA? ¿Debería establecerse una regulación para proteger contra la pérdida de empleos?
Por el momento es muy difícil ver si habrá un efecto positivo o negativo en el número de empleos. No debemos olvidar que la inteligencia artificial debe usarse para aumentar la igualdad, no para aumentar la desigualdad, entonces hay acciones específicas que deberían tomarse. Debe existir una colaboración a nivel europeo para dar forma al futuro no escrito de la inteligencia artificial.
Deberíamos aceptar el hecho de que los trabajos repetitivos o posiblemente peligrosos se eliminen y se creen nuevos empleos. Y una cantidad de personas empleadas en la agricultura, en la manufactura, en el transporte, disminuirá. Y el número de personas empleadas en el sector de servicios, en el ocio, aumentará.
Normas generales de la UE sobre IA
Estas Directrices proporcionan un conjunto de medidas de referencia que los gobiernos, los desarrolladores de IA, los fabricantes, y los proveedores de servicios deben seguir. Con ellas se asegurará que las aplicaciones de IA no socaven la dignidad humana y los derechos humanos y libertades fundamentales de todos individuales. En particular con respecto al derecho a la protección de datos.
- La protección de la dignidad humana y la salvaguarda de los derechos humanos y libertades fundamentales, en particular el derecho a la protección de datos personales, son esenciales al desarrollar y adoptar aplicaciones de IA que pueden tener consecuencias en los individuos y la sociedad. Esto es especialmente importante cuando las aplicaciones de IA se utilizan en los procesos de toma de decisiones.
- El desarrollo de IA que se basa en el procesamiento de datos personales debe basarse en los principios de:
- legalidad
- imparcialidad
- especificación del propósito
- proporcionalidad del procesamiento de datos
- accountability
- responsabilidad y demostración de cumplimiento (rendición de cuentas)
- transparencia
- seguridad de datos
- gestión de riesgos
- Un enfoque centrado en evitar y mitigar los riesgos potenciales del procesamiento. Los datos personales son un elemento necesario de la innovación responsable en el campo de la IA.
- En línea con la guía sobre evaluación de riesgos proporcionada en las Directrices sobre Big Data adoptadas por el Comité europeo, los resultados del procesamiento de datos deben ser adoptados.
- Las aplicaciones de IA deben respetar en todo momento los derechos de los interesados.
- Las aplicaciones deben permitir un control significativo por parte de los sujetos sobre los datos y efectos relacionados en los individuos y en la sociedad.
Directrices para desarrolladores, fabricantes y proveedores de servicios
Los desarrolladores, fabricantes y proveedores de servicios de IA deben adoptar un enfoque orientado a los valores en el diseño de sus productos y servicios. Deben evaluar los posibles efectos adversos y consecuencias de las aplicaciones de la IA en los derechos humanos y las libertades fundamentales.
Teniendo en cuenta estas consecuencias, adoptarán un enfoque de precaución basado en medidas adecuadas de prevención y mitigación de riesgos.
- En cualquier fase del procedimiento, incluso en la recopilación de datos, desarrolladores, fabricantes y proveedores deben adoptar un enfoque de diseño de los derechos humanos y evitar cualquier riesgo potencial, incluidos los no intencionales u ocultos
- Existe la obligación, por parte de los desarrolladores, de evaluar la calidad, naturaleza, origen y cantidad de datos utilizados. Reduciendo datos innecesarios, redundantes o marginales durante el desarrollo, y fases de entrenamiento
- Se anima a los desarrolladores, fabricantes y proveedores a establecer y consultar a comités independientes de expertos de diversos campos. Así como a con instituciones académicas independientes. Estos les ayudarán a diseñar aplicaciones basadas en los derechos humanos y con orientación ética y social. Y a detectar posibles riesgos
- Todos los productos y servicios deben diseñarse de manera que garantice el derecho de los individuos
- Con el fin de mejorar la confianza de los usuarios, los desarrolladores, fabricantes y proveedores deben diseñar sus productos y servicios de forma que protejan la libertad de elección de los usuarios. Proporcionando alternativas viables a esas aplicaciones
- Debe informarse a los titulares de los datos si interactúan con una aplicación de IA y tienen derecho a obtener información sobre el razonamiento subyacente en las operaciones de procesamiento de datos
- Debe garantizarse el derecho a oponerse en relación con el procesamiento basado en tecnologías que influyen en las opiniones de los individuos
Directrices para legisladores y responsables políticos
Para legisladores y responsables políticos también existen unas reglas como:
- Respeto del principio de responsabilidad, la adopción de procedimientos de evaluación de riesgos y la aplicación de otras medidas adecuadas. Por ejemplo códigos de conducta y mecanismos de certificación, pueden mejorar la confianza en los productos y servicios de IA
- Los procedimientos de contratación pública deben imponer a los desarrolladores, fabricantes y proveedores de servicios de IA tareas específicas de:
- transparencia
- evaluación previa del impacto del procesamiento de datos en los derechos humanos y libertades fundamentales
- vigilancia sobre los posibles efectos adversos y consecuencias de las aplicaciones de inteligencia artificial
- Debe fomentarse la cooperación entre las autoridades supervisoras de protección de datos y otros organismos que tienen competencias relacionadas con la IA. Tales como:
- protección al consumidor
- competencia
- contra la discriminación
- Reguladores del sector
- autoridades reguladoras de medios
- Deberían establecerse mecanismos apropiados para garantizar la independencia de los Comités de expertos
- Los individuos y partes interesadas deben estar informados. Y participar activamente en el debate sobre qué papel debe desempeñar la IA en la configuración de las dinámicas sociales y en los procesos de toma de decisiones que les afectan
- Tiene que existir una inversión de recursos en alfabetización digital y educación para aumentar la conciencia y comprensión de los sujetos sobre las aplicaciones de la IA y sus efectos