¿Has escuchado de un caso en 2018 cuando Amazon produjo un algoritmo de aprendizaje automático para contratar y dejó a mujeres fuera?
La empresa diseñó el algoritmo para ayudar a los reclutadores a contratar a los mejores talentos. El modelo se entrenó con miles de currículos de personas que fueron o no contratadas por Amazon. Aprendió 50 mil frases asociadas con currículos y comenzó a ignorar frases comunes, como los nombres de los lenguajes de programación. Sin embargo, el algoritmo también aprendió a degradar los que contenían la palabra “mujeres”. Esto incluía currículos que hacían referencia a universidades, equipos o comités de mujeres.
Este caso llamó la atención, ya que la inteligencia artificial, si bien puede ser de un gran uso para el desarrollo, también hay mucho que regular y conocer de ella.
Pero primero que nada, definamos qué es la IA y por qué dentro de unos años vamos a tenerla más presente en nuestra vida cotidiana. En términos prácticos es tecnología que permite a las aplicaciones realizar tareas que normalmente requieren intervención humana, como el reconocimiento de patrones y la toma de decisiones. Utiliza subcampos como el aprendizaje automático y el aprendizaje profundo para analizar datos y hacer predicciones. Su adopción está creciendo en empresas, donde aporta ventajas competitivas al optimizar procesos, personalizar experiencias y automatizar operaciones complejas. Sin embargo, innovaciones de tal calado siempre vienen acompañadas de retos que gestionar.
La privacidad también es un tema delicado: con más datos en juego, la gestión de información personal y la vigilancia masiva se vuelven preocupantes. Además, la implementación de IA en espacios públicos sin lineamientos claros podría amenazar el derecho a la privacidad. En ese sentido, debemos buscar una regulación que logre hacer frente a estos y muchos retos más que se pudieran presentar, pues es y será una herramienta que cambie al mundo.
Otro desafío es que la IA replique sesgos humanos y perpetúe desigualdades. La falta de transparencia en cómo operan algunos algoritmos puede afectar a grupos vulnerables y, sin reglas claras, es probable que los efectos negativos recaigan sobre sectores con menor acceso a la tecnología y menor poder de decisión. Para evitarlo, es fundamental que las regulaciones incluyan lineamientos para reducir el sesgo y establecer mecanismos de transparencia y supervisión continua. Tal vez mencionar el riesgo de pérdida de empleos, aunque sea para desmarcarse de él como tema.
Por otro lado, también busca aportar desarrollo y progreso social. La IA tiene el potencial de ser una herramienta transformadora en sectores clave. En la educación, podría personalizar el aprendizaje para los estudiantes, brindando materiales adaptados a sus necesidades. En la salud, por ejemplo, la IA ya está ayudando a detectar enfermedades tempranas y a optimizar procesos médicos, algo que podría ser crucial para mejorar la atención en zonas rurales o con pocos recursos.
Además, la regulación de la IA podría fomentar un crecimiento económico significativo, incentivando la innovación y la creación de empleos especializados. Con un marco legal claro, México podría atraer inversiones internacionales en tecnología, convirtiéndose en un centro de desarrollo de IA responsable en América Latina.
La inteligencia artificial modificará sin duda la forma en que trabajamos, abriendo puertas a nuevas oportunidades y optimización de tiempos. La clave estará en adaptarse, aprender y colaborar para navegar con éxito este nuevo entorno, donde el 40% de los trabajos del mundo serán impactados por los Large Language Models para 2027, de acuerdo con Accenture.
México está dando pasos importantes para regular la IA, un esfuerzo para proteger a los usuarios y fomentar un uso responsable de esta tecnología.
En octubre de 2024, se estableció una Comisión de Análisis para estudiar los impactos de la IA y se presentaron dos iniciativas legislativas en el Congreso, incluyendo una Ley Nacional de Inteligencia Artificial y reformas a la Ley Federal del Derecho de Autor.
Estas propuestas buscan que la IA respete principios éticos y los derechos de autor, especialmente en el contexto de IA generativa, que produce obras que desafían la noción de originalidad. La creación del Centro Nacional de IA, una entidad dedicada a supervisar el desarrollo y regulación de esta tecnología, es otro paso importante.
Si México aborda la regulación con un enfoque inclusivo, podría no solo proteger a su ciudadanía, sino también posicionarse como un referente en América Latina. Aprovechar esta tecnología de forma responsable podría, en el futuro, ayudar a mejorar sectores estratégicos como la educación, salud y agricultura. La clave estará en equilibrar el impulso innovador con la responsabilidad de velar por el bienestar social y los derechos de cada persona.
Para nuestro país, regular la IA es una oportunidad para dirigir su impacto hacia un desarrollo equitativo, responsable y humano, que priorice siempre la ética y el beneficio colectivo.