Siete firmas líderes en inteligencia artificial presentarán este viernes en un evento en la Casa Blanca nuevas medidas de seguridad diseñadas para minimizar el abuso y el sesgo dentro de esta tecnología emergente.
El presidente Joe Biden estará acompañado por ejecutivos de Amazon, Alphabet, Meta, Microsoft, y OpenAI, que se encuentran entre las firmas comprometidas con la “transparencia y la seguridad”.
Según el acuerdo, las empresas someterán los nuevos sistemas de inteligencia artificial a pruebas internas y externas antes de su lanzamiento, y pedirán a equipos externos que investiguen sus sistemas en busca de fallas de seguridad, tendencias discriminatorias o riesgos para los derechos o la información de salud.
Las empresas, entre ellas Anthropic e Inflection AI, también están asumiendo nuevos compromisos para compartir información para mejorar la mitigación de riesgos con los gobiernos, la sociedad civil y los académicos, e informar sobre las vulnerabilidades a medida que surgen. Y las principales empresas de inteligencia artificial incorporarán marcas de agua virtuales en el material que generan, ofreciendo una forma de ayudar a distinguir las imágenes y videos reales de los creados por computadoras.
El paquete formaliza y amplía algunos de los pasos que ya están en marcha en las principales empresas de inteligencia artificial, las que han recibido un inmenso interés público en su tecnología emergente, solo igualado por la preocupación por los riesgos sociales correspondientes.
Nick Clegg, presidente de asuntos globales de Meta, dijo que los compromisos voluntarios eran un “primer paso importante para garantizar que se establezcan salvaguardias responsables para la IA y se cree un modelo a seguir para otros gobiernos”.
“La IA debería beneficiar a toda la sociedad. Para que eso suceda, estas nuevas y poderosas tecnologías deben construirse e implementarse de manera responsable”, dijo en un comunicado publicado el viernes temprano.
Los asesores de la Casa Blanca dicen que el compromiso ayuda a equilibrar la promesa de la tecnología artificial con los riesgos, y es el resultado de meses de intenso cabildeo tras bambalinas. Muchos de los ejecutivos que participan en la actividad del viernes en la Casa Blanca asistieron en mayo a una reunión con Biden y la vicepresidenta, Kamala Harris, donde el gobierno de EU advirtió a la industria que era responsable de garantizar la seguridad de su tecnología.
“Tenemos que asegurarnos de que las empresas hagan pruebas de presión de sus productos a medida que los desarrollan y, ciertamente, antes de lanzarlos al mercado, para asegurarnos de que no tengan consecuencias no deseadas, como ser vulnerables a ciberataques o ser utilizados para discriminar a ciertas personas”, dijo el jefe de Gabinete de la Casa Blanca, Jeff Zients, en una entrevista. “Y algo relevante, que veremos a lo largo de todo el trabajo, es que no pueden calificar su propia tarea”.
Salvaguardias voluntarias vs la ‘mala’ AI
Aun así, el hecho de que los compromisos sean voluntarios ilustra los límites de lo que el gobierno de Biden puede hacer para alejar los modelos de IA más avanzados de posibles usos indebidos.
Las pautas no exigen la aprobación de expertos externos específicos para lanzar tecnologías, y las empresas solo están obligadas a informar, en lugar de eliminar, riesgos como un posible uso inapropiado o sesgo. El sistema de marcas de agua aún debe desarrollarse y puede resultar difícil sellar el contenido de una manera que las personas o entidades maliciosas que buscan sembrar desinformación en internet no puedan eliminar fácilmente.
Y hay pocos mecanismos más allá de la presión de la opinión pública para hacer que se comprometan a utilizar las tecnologías para prioridades sociales como la medicina y el cambio climático.