El avance de tecnologías como la Inteligencia Artificial (IA) plantea retos en materia de seguridad y protección de derechos humanos que algunos países ya comenzaron a atender mientras otros simplemente no los han incluido como prioridad en sus agendas.
En 2018, México fue uno de los 10 países del mundo en contar con una Estrategia de IA que incluía cinco objetivos principales entre los que se encontraba la creación de una Subcomisión de IA, que fomentara el diálogo entre distintos actores para la creación de un marco de gobernanza adecuado; impulsar el uso de IA en el sector privado; aumentar el número de estudiantes de posgrado en la materia; proteger la privacidad personal; crear bases de datos nacionales que sirvieran para el desarrollo de aplicaciones de IA, entre otras cosas.
Los objetivos se condensaron en el estudio En miras hacia una Estrategia de Inteligencia Artificial (IA) en México: Aprovechando la Revolución de IA, elaborado por las organizaciones Oxford Insights, C-Minds y comisionado por la Embajada Británica en México. Sin embargo, una de las metas principales que consistía en darle continuidad a los esfuerzos durante la actual administración aún dista de ser cumplida.
Si bien han surgido intentos por posicionar el tema —como el de la senadora Alejandra Lagunes con su Alianza Nacional de Inteligencia Artificial, con la que busca que diferentes sectores de la sociedad se involucren en el tema para formular una regulación adecuada—, el recién inaugurado Eon Institute señala que hace falta una mayor participación de México a nivel internacional para que los estándares que establezcan los organismos a nivel mundial sean efectivos y permitan resolver los problemas que aquejan al país.
“Si México no es parte de los diálogos internacionales que llevan a estándares y de esos estándares se desprenden regulaciones nacionales, esas regulaciones no van a tener sentido para México ni para los mexicanos a nivel individual, es un gran riesgo que el diseño se haga sin nosotros”, señaló la directora y fundadora del instituto, Claudia del Pozo, en entrevista para El Financiero.
¿Qué es Eon Institute?
Del Pozo colaboró en la elaboración de la estrategia nacional de IA en México hace cinco años mientras trabajaba en C-Minds, un think thank liderado por mujeres que promueve el desarrollo, uso e investigación responsable de tecnología pionera que busca generar impactos en América Latina.
Durante varios años dirigió el área conocida como Eon Resilience Lab, donde conoció a Daniela Rojas Arroyo y juntas decidieron crear Eon Institute, un brazo de C-Minds que busca enfocarse en la exploración de los usos del Metaverso en América Latina, en la privacidad de usuarios y justicia tecnológica, en la promoción de los derechos digitales de la niñez, entre otros temas.
“Buscamos crear una sociedad a prueba de futuro, eso significa muchas cosas: trabajar con instituciones, escuelas, gobiernos y sociedad para que no solo tengan conocimiento de las nuevas tecnologías y sus impactos positivos y negativos en nuestras vidas, pero también que puedan aprovecharlas”, comentó durante la ceremonia de lanzamiento del instituto este 17 de julio.
Retos del uso de Inteligencia Artificial en América Latina
A inicios de mayo, la secretaria general de la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo, Rebeca Grynspan, recordó que las tecnologías digitales basadas en datos, como la Inteligencia Artificial, son una herramienta importante que ayudará a impulsar los Objetivos de Desarrollo Sostenible siempre y cuando se tomen en cuenta sus impactos negativos, sobre todo en países del sur global.
Estos impactos muchas veces pueden ir ligados a los sesgos que llegan a presentar los datos empleados para entrenar los sistemas de IA, indicó Daniela Rojas Arrollo, actual Coordinadora de Proyectos en Eon Institute.
“Los sesgos se dan porque los sistemas han sido entrenados con datos históricos y sabemos que históricamente algunos grupos poblacionales han sido marginalizados y no están representados dentro de los datos”, señaló.
Estas fallas se han podido observar en múltiples modelos de IA a lo largo del tiempo. En 2020, el documental de Netflix, Sesgo Codificado (Coded Bias) reveló que muchos sistemas de reconocimiento facial no identificaban rostros con rasgos afroamericanos porque fueron configurados principalmente con caras de hombres blancos.
Un año después, un estudio publicado en la revista BMJ Health & Care Informatics reveló que los modelos de inteligencia artificial creados para predecir la enfermedad hepática a partir de análisis de sangre tienen el doble de probabilidades de pasar por alto la enfermedad en las mujeres que en los hombres. Esto porque los modelos fueron entrenados con datos de pacientes hepáticos indios hombres.
Si bien la IA ha brindado resultados notables en ámbitos especializados, organizaciones tanto nacionales como internacionales han hecho énfasis en la importancia de regularla para garantizar que los beneficios lleguen a todos los grupos poblacionales sin distinción y así evitar que los sesgos se perpetúen.
“No solo vemos que puede ser una herramienta que permita beneficiar a las personas sino también acabar con las injusticias”, apuntó Rojas Arrollo.