Los expertos en inteligencia artificial y los líderes de la industria, incluidos Elon Musk, el profesor de informática de la Universidad de California en Berkeley, Stuart Russell, y el cofundador de Apple Inc., Steve Wozniak, están pidiendo a los desarrolladores que presionen el botón de pausa en el entrenamiento de poderosos modelos de Inteligencia Artificial (IA).
Más de mil 100 personas en la industria firmaron una petición pidiendo un descanso de seis meses del entrenamiento de sistemas de IA más potentes que la última iteración detrás de ChatGPT de OpenAI, para permitir el desarrollo de protocolos de seguridad compartidos.
“Los últimos meses han visto a los laboratorios de IA encerrados en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable”, dijo una carta abierta publicada en el sitio web del Instituto Futuro de la Vida.
“Los sistemas de inteligencia artificial potentes deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”.
Aumentan los lanzamientos de proyectos con Inteligencia Artificial
La llamada se produce después del lanzamiento de una serie de proyectos de IA en los últimos meses que realizan tareas humanas de manera convincente, como escribir correos electrónicos y crear arte.
OpenAI, respaldado por Microsoft Corp., lanzó su GPT-4 este mes, una importante actualización de su chatbot impulsado por IA, capaz de contar chistes y aprobar exámenes como el examen de la barra.
Google y Microsoft de Alphabet Inc. se encuentran entre las empresas que utilizan inteligencia artificial para mejorar sus motores de búsqueda, mientras que Morgan Stanley ha estado utilizando GPT-4 para crear un chatbot para sus asesores de riqueza.
Los desarrolladores deberían trabajar con los legisladores para crear nuevos sistemas de gobierno de IA y órganos de supervisión, según la carta. Pidió a los gobiernos que intervinieran en el desarrollo de sistemas de IA si los principales actores no aceptaban de manera inminente una pausa pública y verificable.
“La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas poderosos y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”, dijo.
Yoshua Bengio, fundador y director científico del instituto canadiense de investigación de IA Mila, firmó la petición, según un comunicado del instituto. Emad Mostaque, fundador y director ejecutivo de Stability AI, dijo que también firmó.
OpenAI no respondió a las solicitudes de comentarios sobre la carta. No hubo signatarios de OpenAI. El Future of Life Institute es una organización sin fines de lucro que busca mitigar los riesgos asociados con tecnologías poderosas y cuenta con la Fundación Musk como su mayor contribuyente.