En lo que se refiere a Inteligencia Artificial todo es contexto. Cuando me preguntan cómo funciona la tecnología les respondo que es muy simple: interpretación de estímulos, procesamiento, calificación, respuesta más probable y aprendizaje. Su simpleza se compara con su complejidad de configuración, entrenamiento y adopción.
El mundo de la IA suele ser poco complaciente y no podría ser distinto. Recientemente se hablaba de un concepto: la "estupidez artificial". A decir de expertos de la Universidad Carlos III de Madrid, los algoritmos habían sido diseñados para resolver problemas concretos, pero no para comprender qué sucede en su entorno, solo ven señales y aplican la misma solución siempre. Las máquinas son totalmente autistas y darles comprensión de su entorno es muy complicado, argumentan los especialistas.
Ejemplo de esto son algunos sistemas de visión artificial que podrían confundir una tortuga de juguete con un rifle y a personas negras con simios. Estos dispositivos han sido entrenados para ver patrones y hacen falta cambios de simetría para desbaratarlos, de lo contrario podría causar graves consecuencias en las sociedades.
Alguna vez ya habíamos tratado en esta columna el tema del sistema de IA "Compas" que como herramienta tiene un sesgo y tiende a castigar más a ciudadanos negros que a los blancos. "Compas" analiza 173 variables (ninguna de ellas es la raza) y da una probabilidad de reincidencia de 0 al 10. La causa del problema es que las bases de datos con las que funcionan estos algoritmos son de la policía y en ellas hay importantes sesgos racistas. Las máquinas no son racistas, el sesgo se da en la muestra que se usa para entrenarlas o en quiénes las entrenan.
Comparar la lógica del humano con un robot sería aún injusto. El hombre está hecho para identificar caras y las vemos en las nubes, las manchas de la pared o el humo de un cigarrillo. Un humano conoce el contexto, sabe que parece una cara, pero que en realidad es una nube.
Hoy hay que voltear a ver qué están haciendo en materia médica los científicos israelíes. Theator es una startup que usa algoritmos de visión artificial y aprendizaje automático para ayudar a los cirujanos a prepararse para los procedimientos mediante la revisión de casos anteriores en diferentes contextos. El sistema recientemente anunciado edita automáticamente las secuencias de video de los procedimientos quirúrgicos para resaltar los pasos críticos. Esto ayuda a los cirujanos a analizar y optimizar su práctica y por tanto reducir los errores.
La humanidad está en el pináculo de su capacidad tecnológica, al alba del desarrollo de máquinas más inteligentes que el más inteligente de sus exponentes; es momento de asegurarnos de no ser víctimas de nuestra creación y que la tecnología nos habilite y no nos limite.
Fundador y Presidente del Consejo de Metrics.