Hace unos años, un usuario descubrió que Google no reconocía de igual manera las fotografías de personas de color. Como tampoco lo hacen muchos otros softwares que no siempre identifican a la gente de piel oscura como personas, lo que podría provocar un problema de accidentes con los coches autónomos.

También Amazon identificó que el software que empleaba para seleccionar candidatos a puestos de trabajo favorecía los currículos de hombres antes que los de mujeres.

¿Son racistas los algoritmos?

La tecnología abre un nuevo mundo de oportunidades. Ahora bien, oportunidades que no deben discriminar por raza, etnia o sexo. Los algoritmos son capaces de aprender por ellos mismos a partir de datos previos, pero también deberían aprender de ética digital.

En este sentido, ¿cuáles son los desafíos éticos que surgen a raíz de la tecnología?

Ética y tecnología

China ha desplegado millones de cámaras por todas las ciudades con algoritmos de inteligencia artificial que permiten identificar en tiempo real qué persona está paseando por la calle. Pero la tecnología se puede llevar al extremo hasta el punto de que si una persona se pasa un semáforo en rojo, se emite en una pantalla la foto, el nombre y el DNI de aquel individuo.

Y es que China es un claro ejemplo de territorio donde los datos están en manos del Gobierno, quien puede tener un control absoluto de sus ciudadanos.

En cambio, en Europa, y más aún desde la aplicación del RGPD, los datos son del individuo. El caso intermedio es Estados Unidos, donde son las empresas las que controlan los datos. Todos conocemos ya los escándalos de Facebook y Cambridge Analytics.

El problema está en que la ley va muy por detrás de la tecnología. Como ejemplo, Google nació en 1998 y el RGPD en 2018, por lo que la compañía lleva 20 años recopilando nuestros datos sin ningún control. Y en EE.UU. o China aún es peor ya que no existe una legislación de protección de datos.

En cuanto a la inteligencia artificial, la Comisión Europea se ha comprometido a presentar una recomendación en este ámbito. Pero todavía estamos lejos de una regulación en la materia.

Es importante evitar reacciones prohibitivas cuando la regulación va por detrás de la tecnología.

Educar para decidir

Ha quedado claro que la regulación es el gran reto en el mundo de la tecnología, pero también está la educación. En un mundo digital, que corren el riesgo de ser discriminados son los analfabetos digitales, es decir, las personas que no entienden lo que está pasando. Y existe un gran desconocimiento de las personas sobre el mundo digital.

Igual ocurre con la identidad y la imagen de cada individuo en la red. Cada persona tiene que saber dónde poner los límites, y debe poder decidir, porque sólo entonces se está protegido.

El problema es cuando no disponemos de suficientes herramientas para decidir adecuadamente. Y es un error pensar que los más jóvenes son los que más dominan de Internet, aunque han nacido con el móvil no tienen ni idea de la repercusión que puede tener la tecnología.

Por eso es fundamental la formación en tecnologías digitales para evitar una desigualdad y una brecha en la sociedad en cuanto al desconocimiento.

El lado oscuro de la tecnología

¿Existe entonces el algoritmo ético?

La clave a la pregunta depende, de nuevo, de la transparencia. Un algoritmo cerrado y oscuro, nunca será ético. Por ejemplo, si en un futuro van a existir algoritmos que decidan si nos darán un crédito o no, si vamos a juicio o no, deben ser transparentes. Y esto quiere decir que debe ser abierto a la ciudadanía para que pueda verlo y opinar.

Pero la gran duda es: ¿de quién es la culpa si en una operación quirúrgica en remoto el paciente muere, del médico o de la tecnología?

Y el coche autónomo, ¿como decidirá si atropella a una persona o se choca contra un árbol? La respuesta se encuentra en la ética de la persona que lo programa, ya que alguien tomará esta decisión. Estos son los problemas éticos pendientes y que hacen que el vehículo autónomo aún no circule por nuestras calles.

Ética digital, ¿es racista la tecnología?
4.3 (86.67%) 6 voto[s]

Escribe aquí tu comentario

Deja un comentario

Las siguientes reglas del RGPD deben leerse y aceptarse:
Este formulario recopila tu nombre, correo electrónico y contenido para que podamos realizar un seguimiento de los comentarios dejados en la web. Para más información revisa nuestra política de privacidad, donde encontrarás más información sobre dónde, cómo y por qué almacenamos tus datos.