Hace unos días, la revista Nature (Vol 621, 28 de septiembre del 2023, págs. 672-674) detalló un sondeo entre mil 600 investigadores que explora la percepción y uso de la inteligencia artificial (IA) en el campo científico.
Dicho sondeo revela que las herramientas de IA están adquiriendo una presencia cada vez más significativa, previendo que se volverán centrales en el desarrollo de actividades de desarrollo científico; más de la mitad de los encuestados consideran que la IA será ‘muy importante’ o ‘esencial’ en la próxima década para sus respectivos campos de investigación. Por lo que las actividades para el impulso a dichas actividades requieren un amplio y creciente apoyo en cuanto al manejo de dichas herramientas.
Como sabemos, las herramientas como los Modelos (Largos) de Lenguaje (LLMs) (e.g. ChatGPT) son utilizadas para tareas como generación de texto, código e información sugerente para generar ideas, mejorando la fluidez en la escritura y la gramática, especialmente para investigadores cuyo primer idioma no es el inglés. Sin embargo, a pesar de su utilidad, existe cierta preocupación en cuanto a la precisión y legitimidad de la información generada por estas herramientas, así como el potencial para la proliferación de información errónea y plagio, sin la supervisión apropiada. Esto implica que eventualmente la carga humana de la evaluación de los productos deberá volverse más exigente.
Existe también preocupación sobre la aplicación indebida de la IA en ciencias, principalmente sobre la potencial creación de resultados incorrectos, investigaciones irreproducibles y descubrimientos falsos. Los mismos científicos de IA enfrentan obstáculos como la falta de recursos de cómputo, financiamiento y datos de alta calidad para dar soporte a los nuevos mecanismos para crear sistemas y modelos robustos gracias al mismo aprendizaje automático que se ha venido consolidando como una herramienta imprescindible para la aplicación en diversas áreas.
Los investigadores también señalan que el uso de IA puede conllevar a un excesivo énfasis en el reconocimiento automático e incorrecto de patrones sin el debido y apropiado entendimiento sustancial, y en consecuencia, pueden perpetuar sesgos y discriminaciones que generan tendencias distorsionadas por la falta de homogeneidad en los datos.
Además, los resultados del sondeo indican que la colaboración con empresas comerciales en el desarrollo de herramientas de IA es un tema relevante, pues existe preocupación sobre que el dominio cuasi exclusivo de estas firmas en cuanto a infraestructura, recursos y propiedad de herramientas de IA ahonde aún más la denominada brecha digital (digital gap). Por lo mismo, se han hecho diversas manifestaciones internacionales para impulsar el uso transparente y abierto tanto de código como de sistemas y métodos de procesamiento inteligente de datos.
Las barreras para el desarrollo o uso de la IA varían, pero incluyen falta de habilidades, recursos de cómputo, financiamiento, y preocupaciones de privacidad y seguridad. Los encuestados ven potencial en la IA y los LLMs para acelerar cálculos y procesamientos de datos previamente inviables y para ahorrar tiempo y dinero, pero existe una clara necesidad de manejar y aplicar estas herramientas correctamente para evitar resultados equivocados y dañinos. Se plantea la necesidad de enfocar esfuerzos en maximizar los beneficios de la IA, garantizando que sus aportes sean positivos y minimizando los problemas potenciales.
Ante dichos señalamientos resaltan nuevamente los testimonios ya mencionadas en columnas anteriores sobre lo comentado por Yann Lecun recientemente ante el Congreso de los Estados Unidos, donde resalta cómo la tecnología de código abierto (open source) ha sido fundamental para el desarrollo y avance rápido de estas tecnologías y cómo ha servido de base para infraestructuras como internet y las redes móviles de comunicación. “Si bien no todos los modelos tecnológicos son o deben ser de código abierto” -comenta Lecun- “se destaca la importancia de tener modelos básicos de código abierto, en los cuales la industria pueda construir un ecosistema robusto y vibrante.”
Los modelos de código abierto crean estándares en la industria, aceleran el progreso tecnológico y ofrecen a empresas e investigadores herramientas a las que no tendrían acceso de otra manera, democratizando así el acceso a la tecnología avanzada y contribuyendo a minimizar las disparidades sociales. Además, promueven los principios democráticos y la competencia.
Me parece que, acorde a las tendencias, lo que tenemos que hacer está claro.