Un estudiante de Princeton desarrolla una útil para detectar el uso de ChatGPT en un texto | Tecnología

Cuando Edward Tian, estudiante de posterior curso en la Universidad de Princeton (Nueva Chaleco, Estados Unidos), volvió a casa en las recreo de Navidad, ChatGPT ya monopolizaba conversaciones y debates en todo el mundo. OpenAI, una compañía que investiga con inteligencia fabricado (IA), había agresivo el 30 de noviembre ChatGPT, un chatbot o software informático con el que se puede surtir una conversación y que ya forma parte del día a día de muchos que lo han podido probar (cuando no se encuentra colapsado por la enorme demanda). Entre las polémicas que surgieron con este propagación, la que se refiere a que los estudiantes pueden redactar ensayos o incluso una obra de ficción solo con proponerle un tema al software o haciéndole unas cuantas preguntas es de las más comentadas.

Haciendo uso de la propia bloque de ChatGPT, Tian diseñó durante sus días de alivio GPTZero, una útil que permite detectar si un texto ha sido primoroso con inteligencia fabricado, como recoge la publicación NewScientist. En algunas pruebas realizadas, el maniquí alcanza un 98% de precisión. “Tuvimos más de 35.000 profesores en la letanía de dilación mientras trabajábamos en la lectura personalizada para educadores”. Esa lectura se lanzó el 14 de febrero, pero, hasta entonces, estuvo habitable una lectura beta de independiente camino (es asegurar, que no es necesario registrarse para probarla), que sigue habitable todavía.

En esa lectura de prueba se puede comprobar cómo la útil evalúa cuán probable es que un texto haya sido primoroso por la inteligencia fabricado y cuánto varía esa probabilidad a lo amplio del escrito, porque lo producido por una persona contiene fragmentos que podrían parecer activo sido elaborados por una inteligencia fabricado y otros que no, mientras que lo generado por la inteligencia fabricado es más constante.

La motivación de Edward Tian para desarrollar la contrapartida de ChatGPT surgió, según relata, de que “estas tecnologías son muy innovadoras, pero, al lanzarlas al mundo, hay mucho potencial para el exageración, así que hay que construir defensas al mismo tiempo, no meses o abriles más tarde”. “No esperaba en categórico que se hiciera virulento”, asegura. De hecho, el sitio web que utilizó para conservar GPTZero inmediatamente le proporcionó fortuna gratuitos, tras convertirse en la aplicación más popular de la plataforma.

Cuando, durante las Navidades, visitó su antiguo instituto, la profesora de inglés de Tian le trasladó su percepción de que todos los alumnos están utilizando ChatGPT. Por eso, y por los comentarios que le han llegado, es consciente de que su útil se ha convertido en un alivio para los profesores: “Muchos dicen que es reconfortante retener que GPTZero existe. Aunque no lo estén usando, les resulta tranquilizador retener que está ahí”.

Plagio digital

Cristóbal Fernández Muñoz, vicedecano de Comunicación y Relaciones Institucionales de la Destreza de Ciencias de la Información de la Universidad Complutense de Madrid, explica que en el ámbito purista están siguiendo muy de cerca lo que ocurre con ChatGPT: “El plagio digital conveniente a la inteligencia fabricado es poco especialmente preocupante en ámbitos como el educativo, donde la originalidad es un valencia irremplazable”.

En la Universidad Complutense, por ejemplo, llevan abriles utilizando un software de detección de plagio llamado Turnitin, que se encuentra incorporado en el campus posible y que incluso los alumnos pueden utilizarlo al entregar trabajos, de forma que ven el porcentaje de posible plagio y los fragmentos sospechosos. “GPTZero es un esquema muy interesante, seguramente veremos muchos más en la misma término, como Turnitin, que en 2023 incorporará más funcionalidades de detección de escritura con IA, incluidas aquellas que reconocen el uso de ChatGPT”, señala el profesor.

Al preguntarle a Edward Tian con qué reacciones se ha enfrentado por parte de otros estudiantes, dice esperar que no estén enfadados, y asegura no pretender que a raíz de su útil el asunto se convierta en una batalla de profesores contra alumnos. “De hecho, pertenezco al equipo de los estudiantes. Yo mismo utilizo ChatGPT para mis clases de codificación y creo que los estudiantes deben tener camino a estas tecnologías y usarlas porque es nuestro futuro. Creo que GPTZero se está alejando del blanco y del desfavorable, y está siendo una útil que sirve para iniciar la conversación entre los alumnos y los maestros”. Su objetivo es que estas tecnologías se utilicen de forma responsable y no como un armas secreta, ni por parte del pupilo ni del profesor.

“En el ámbito educativo, no será extraño que proliferen pruebas alternativas para evitar textos generados automáticamente, como las realizadas en tiempo existente con dispositivos que carezcan de esta tecnología o exámenes presenciales orales y escritos manualmente. Sin confiscación, esto no quiere asegurar que estemos en contra del uso de estas tecnologías. En determinados casos, hay espacio para ellas si se usan siempre de modo ética. Siempre que sea utilizada con responsabilidad, la inteligencia fabricado tiene el potencial de apoyar y mejorar el proceso de educación”, insiste Cristóbal Fernández.

La desarrolladora de ChatGPT, OpenAI, incluso lanzó a finales de enero una útil para indicar si un texto ha sido escrito con inteligencia fabricado, pero, en este caso, lo que hace es clasificar la posibilidad entre muy improbable, improbable, posible o probable. La propia compañía reconoce que “no es del todo confiable”. En las pruebas que ha realizado la empresa, la útil acertó que los textos habían sido escritos por la inteligencia fabricado en un 26% de los casos, mientras que en un 9% de las ocasiones etiquetó como elaborados por inteligencia fabricado textos redactados por personas. Aun así, insiste en que, cuanto más amplio sea el escrito, más mejoría el mecanismo.

OpenAI ya ha empezado a trabajar en una marca de agua que ayude a identificar los textos que han sido producidos por su ChatGPT, pero, según los expertos en criptografía, aunque se ponga en marcha, habrá quien encuentre alternativas. Adicionalmente, GPTZero y los modelos similares que surjan solo podrán seguir funcionando si OpenAI continúa proporcionando camino independiente a sus modelos de inteligencia fabricado. De hecho, ahora mismo, la útil de Tian funciona con una lectura previa a la última de ChatGPT, por lo que algunos expertos advierten que, si el maniquí de OpenAI se actualiza para convertirlo en poco desigual, podría extraer resultados inexactos.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para percibir nuestra newsletter semanal.