La IA, inteligencia artificial, es neutra o refleja los sesgos de quienes la codifican? La respuesta correcta es la segunda, pero sus efectos se pueden prevenir. Eso quiere lograr la Unesco en materia de género con una nueva red de mujeres expertas en tecnología y ética que desafíen la amenaza de una AI patriarcal. Inteligencia artificial reproduce los sesgos y desigualdades.
«La inteligencia artificial, que muchas veces se considera como si estuviera cayéndonos del cielo, es una tecnología que está siendo desarrollada por seres humanos, que está reproduciendo los sesgos, las brechas y las desigualdades que existen en el mundo real y exacerbándolas», explica a EFE Gabriela Ramos, subdirectora General de Ciencias Sociales y Humanas de la Unesco.
Ramos copreside, junto a Alessandra Sala, directora de IA y Ciencia de Datos de Shutterstock, la nueva plataforma Women4Ethical AI, nacida de los esfuerzos de la agencia de la ONU para la Educación, la Ciencia y la Cultura (Unesco) por dar un marco ético a las nuevas tecnologías digitales.
Junto a ellas trabajan otras 17 expertas del mundo académico, de la sociedad civil, del sector privado y de organismos reguladores de todo el mundo. Su meta es apoyar los esfuerzos de gobiernos y empresas para que las mujeres estén representadas equitativamente tanto en el diseño de la IA como en sus resultados.
«(La plataforma) nos da una voz para decir todas esas cosas en alto», señala Sala a EFE, mientras que Ramos promete que esto no va a ser «ellas haciendo ruido por un lado» y ellos, «los serios», trabajando por el otro.
A nivel práctico, Women4Ethical AI impulsará, por ejemplo, que los algoritmos y sus fuentes de datos no infrarrepresenten a niñas, mujeres y otros grupos, que haya auditorías y que se ponga nota a los esfuerzos de empresas y gobiernos.
«No es que las tecnologías discriminen, es que han sido entrenadas para discriminar. Y han sido entrenadas par discriminar porque no tenemos conciencia de cómo construirlas ex ante de una manera inclusiva (…). Tú le preguntas al ChatGPT descríbeme a una mujer y te la describe en la casa, y a los hombres te los describen exitosos llegando a la Luna», ejemplifica Ramos, originaria de México.
Solo el 12 % de los investigadores en IA son mujeres
Actualmente, a nivel mundial según la Unesco, las mujeres y las niñas tienen un 25% menos de probabilidades que los hombres de saber aprovechar la tecnología digital para fines básicos, cuatro veces menos de saber programar ordenadores y 13 veces menos de solicitar una patente de TIC.
En la inteligencia artificial, solo el 26% de la mano de obra del sector son mujeres y solo el 12% de las investigaciones están hechas por expertas.
«Hay menos mujeres en el sector de las tecnologías de la información que en la ingeniería y la ciencia, que usualmente ya era un área en la que todo el mundo decía ‘necesitamos más mujeres’», insiste Ramos.
Sala desafía esa regla, al igual que Arisa Ema, profesora de la Universidad de Tokio; Elena Estavillo, fundadora del Centro-I para la Sociedad del Futuro; o Elisabeth Renieris, investigadora especializada en ética de la IA asociada a la Universidad de Oxford.
«Estamos muy lejos de donde tendríamos que estar. Las buenas noticias es que las mujeres somos increíbles, tenemos una curiosidad que nos convierte en las mejores analistas de datos, hacemos preguntas. Preguntas a un hombre y te dan una respuesta estándar», indica la directora de IA y Ciencia de Datos de Shutterstock.
Pero la propia Sala, a pesar de su impresionante currículum, afirma que nunca hubiera podido tener las mismas oportunidades si su perfil hubiera tenido que ser seleccionado por una IA.
«Hemos visto fracasos dramáticos de modelos que fueron diseñados por clases muy pequeñas de seres humanos», explica Sala.
Es el caso, por ejemplo, de una herramienta de IA de reclutamiento laboral diseñada para Amazon que no percibía a las mujeres como candidatas exitosas.
Pese a lo difícil de la batalla, no son, sin embargo, pesimistas. De hecho, Ramos considera que «la corriente está cambiando» y ya hay conciencia de que el sistema del «laissez faire» como excusa para alimentar la innovación provoca demasiados daños.
«La batalla es por las reglas del juego, cuáles son las reglas del juego y quién es el ‘referee’ (árbitro). ¿El algoritmo? Pues no, no se puede», recalca Sala. EFE
