El creador de ChatGPT está tratando de eliminar la reputación del programa de ser una ‘máquina de hacer trampa’ con una nueva herramienta que puede ayudar a los maestros a detectar si un estudiante o una inteligencia artificial escribió una tarea.
El nuevo AI Text Classifier lanzado este martes por OpenAI sigue a la discusión despertada en escuelas y universidades sobre los temores de que la capacidad de ChatGPT para escribir casi cualquier cosa pueden ‘alimentar’ la deshonestidad académica y dificultar el aprendizaje.
OpenAI advierte que su nueva herramienta, como otras ya disponibles, no es infalible. El método para detectar textos escritos por Inteligencia Artificial (IA) “es imperfecto y a veces será incorrecto”, aclaró Jan Leike, jefe del equipo de OpenAI encargado de hacer que sus sistemas sean más seguros.
“Por eso, no se debe confiar únicamente en él para tomar decisiones”, subrayó Leike.
‘No podemos darnos el lujo de ignorar a ChatGPT’
Adolescentes y estudiantes universitarios se encontraban entre los millones de personas que comenzaron a experimentar con ChatGPT después de su lanzamiento el 30 de noviembre como una aplicación gratuita en el sitio web de OpenAI. Aunque muchos encontraron formas de usarlo de manera creativa e inofensiva, la facilidad con la que podía responder preguntas de exámenes y ayudar con otras tareas provocó el pánico entre algunos educadores.
Cuando las escuelas abrieron para el nuevo año, la ciudad de Nueva York, Los Ángeles y otros grandes distritos escolares públicos comenzaron a bloquear el uso de ChatGPT en las aulas y en los dispositivos escolares.
El distrito de las Escuelas Públicas de Seattle inicialmente bloqueó ChatGPT en todos los dispositivos escolares en diciembre, pero luego abrió el acceso a los educadores que quieren usarlo como herramienta de enseñanza, acotó Tim Robinson, el portavoz del distrito.
“No podemos darnos el lujo de ignorarlo”, admitió.
El distrito también está discutiendo la posibilidad de expandir el uso de ChatGPT en las aulas para permitir que los maestros lo usen para capacitar a los estudiantes para que sean mejores pensadores críticos y para permitir que los estudiantes usen la aplicación como un ‘tutor personal’ o para ayudar a generar nuevas ideas cuando trabajan en una tarea.
El bloqueo no es la solución
Los distritos escolares de todo Estados Unidos aseguran que están viendo que la conversación sobre ChatGPT evoluciona rápidamente.
“La reacción inicial fue ‘Dios mío, ¿cómo vamos a detener la ‘marea’ de trampas que sucederán con ChatGPT’”, consideró Devin Page, especialista en tecnología del Distrito de Escuelas Públicas del Condado de Calvert en Maryland. Ahora hay una creciente comprensión de que “este es el futuro” y bloquearlo no es la solución.
“Creo que seríamos ingenuos si no estuviéramos conscientes de los peligros que representa esta herramienta, pero tampoco serviríamos a nuestros estudiantes si les prohibimos a ellos y a nosotros que la usen con todo su poder potencial”, abundó Page, quien piensa que los distritos como el suyo eventualmente desbloquearán ChatGPT, especialmente una vez que el servicio de detección de la compañía esté en funcionamiento.
OpenAI enfatizó las limitaciones de su herramienta de detección en una publicación de blog este martes, pero dijo que además de disuadir el plagio, podría ayudar a detectar campañas de desinformación automatizadas y otros usos indebidos de la IA para imitar a los humanos.
Cuanto más largo sea un pasaje de texto, mejor será la herramienta para detectar si una IA o un ser humano escribieron algo.
Escriba cualquier texto (un ensayo de admisión a la universidad o un análisis literario) y la herramienta lo etiquetará como “muy poco probable, poco probable, poco claro si es, posible o probablemente” generado por una IA.
Pero al igual que el propio ChatGPT, que se ‘entrenó' analizando un gran tesoro de libros, periódicos y escritos en línea digitalizados, pero que a menudo escupe falsedades o tonterías con confianza, no es fácil interpretar cómo llegó a un resultado.
“No sabemos fundamentalmente a qué tipo de patrón presta atención o cómo funciona internamente”, admitió Leike. “Realmente no hay mucho que podamos decir en este momento sobre cómo funciona realmente el clasificador”.
Las instituciones de educación superior de todo el mundo también han comenzado a debatir el uso responsable de la tecnología de IA. Sciences Po, una de las universidades más prestigiosas de Francia, prohibió su uso la semana pasada y advirtió que cualquier persona que sea sorprendida usando ChatGPT y otras herramientas de inteligencia artificial para producir trabajos escritos u orales podría ser expulsada.
En respuesta a la reacción violenta, OpenAI dijo que ha estado trabajando durante varias semanas para elaborar nuevas pautas para ayudar a los educadores.
“Al igual que muchas otras tecnologías, puede ser que un distrito decida que es inapropiado para su uso en sus aulas”, dijo Lama Ahmad, investigadora de políticas de OpenAI. “Realmente no los empujamos de una forma u otra. Solo queremos darles la información que necesitan para poder tomar las decisiones correctas para ellos”.