Un empleado de OpenAI especializado en la seguridad de la IA ha dimitido de la empresa y ha advertido de que las principales empresas de inteligencia artificial no están haciendo lo suficiente para mitigar los riesgos de esta tecnología, sumándose así a un creciente coro de empleados que dan la voz de alarma desde dentro del sector.
David Robinson, quien anteriormente dirigió el trabajo de transparencia en el equipo de seguridad de OpenAI, escribió en un ensayo para The Atlantic que el creador de ChatGPT “ha prosperado mediante prueba y error”. Sin embargo, afirmó que las consecuencias de los inevitables fallos derivados de ese enfoque aumentan a la par que las capacidades de la tecnología, citando el fracaso de OpenAI para evitar que su IA se descontrolara durante las pruebas.
«Mis antiguos compañeros son inteligentes, trabajan duro y se esfuerzan por tomar buenas decisiones», escribió Robinson en el ensayo.
«Pero a medida que la empresa avanza a toda velocidad de un lanzamiento a otro, no logra alcanzar el nivel de atención que, en mi opinión, es necesario». Lo que se requiere, añadió, es «algo mucho más cercano a la perfección desde el principio».
En las últimas semanas, varios empleados de las principales empresas de IA han advertido sobre los posibles riesgos catastróficos de la inteligencia artificial. Algunos incluso han llegado a afirmar que existe la posibilidad de que esta tecnología acabe con la raza humana.
En este contexto, Dario Amodei, director ejecutivo de Anthropic PBC, abogó por ralentizar el ritmo de desarrollo de los modelos más vanguardistas y afirmó que su empresa contrataría evaluadores externos para ayudar a validar y proteger la tecnología. Otros miembros del sector, como Sam Altman de OpenAI, han respaldado públicamente el plan de Amodei.
En su ensayo, Robinson afirmó que las empresas de IA deberían gestionarse más como centrales nucleares, “con múltiples niveles de redundancia y una planificación cuidadosa y minuciosa, para que el error humano ocasional e inevitable no abra la puerta al desastre”.
En estos momentos, dijo, “las empresas de IA no saben cómo hacerlo, pero otras personas sí”.
