El rol de los Estados para una IA sin sesgos

Los estados de los países en vías de desarrollo, entre ellos Chile, tienen una enorme oportunidad de promover en sus ecosistemas locales una inteligencia artificial libre de sesgos. Este es uno de los principales hallazgos que un grupo de investigadores chilenos ha realizado al liderar un trabajo de exploración en materia de sesgos en economías del Foro de Cooperación Económica Asía-Pacífico (APEC).

Por su funcionamiento, el sistema público es un generador y controlador de miles de datos cada día -por ejemplo, a través de los centros de salud o los registros de identidad. Si ese gigantesco volumen de recursos es puesto a disposición de la investigación y desarrollo, podría facilitar el entrenamiento de algoritmos verdaderamente representativos de esas poblaciones y los diversos grupos que la componen.

Esto permitiría, de alguna forma, poner un contrapeso a la hegemonía de las grandes tecnológicas en el control de datos y a subsanar el déficit de representatividad de datos que estén fuera del norte global en el desarrollo de tecnología de alto impacto. De hecho, el problema es incluso más profundo, pues dentro de países desarrollados -como la población afroamericana en Estados Unidos o las mujeres musulmanas en Europa- también se observan sesgos.

Los sesgos son uno de los grandes dilemas éticos de la inteligencia artificial y, contrario a lo que podría pensarse, su existencia no se debe a una fuerza maligna detrás de las máquinas o el poco escrúpulo de los desarrolladores. La principal razón no es otra que la falta de disponibilidad de datos que se utilizan para la elaboración de plataformas tecnológicas. El desafío radica justamente en cómo avanzamos para evitar que los sesgos que traen los datos de manera "natural" no se amplifiquen en el desarrollo de sistema de IA.

Este desafío tiene dos componentes fundamentales: primero, a nivel local adaptamos modelos abiertos preentrenados con datos que están muy lejos de nuestra realidad regional; y segundo, cómo logramos disponer más datos para democratizar el desarrollo de algoritmos.

Allí está el rol de las economías: de qué forma podemos aprovechar los millones de datos que se generan en la interacción con servicios públicos para crear soluciones que sirvan a los propios ciudadanos, generen nuevas áreas para el crecimiento económico o diseñen mecanismos de frontera para resolver los problemas específicos que nos aquejan, y que difieren de los que enfrenta un hombre blanco, cristiano, con formación universitaria y de altos ingresos.

Nuestra investigación abordó cómo los sesgos tienen un mayor o menor impacto en economías APEC y en sectores específicos, como la salud, los servicios públicos o el mercado laboral. Uno de los hallazgos interesantes es que uno de los sectores con mayor avance a través de la propia autorregulación en sortear los sesgos de la IA es el financiero.

Y esto no obedece a una cuestión ética, sino a un enfoque basado en la rentabilidad: un algoritmo capaz de evitar el prejuicio de que los hombres ganan históricamente más que las mujeres puede valorar recomendar que una mujer sí puede ser sujeto de crédito (de hecho, el acceso a financiamiento es también un problema de género en los países en desarrollo).

En definitiva, un algoritmo menos sesgado es un algoritmo más rentable, más competitivo, lo que demuestra que la autorregulación privada está mucho más avanzada que la política pública. Nuevamente, otro gran desafío para los Estados.