Esta herramienta basada en machine learning se esfuerza en distinguir si detrás de un texto hay un humano o una IA.
Como si se tratara de una película de ciencia ficción, las IA se están convirtiendo en algo cada vez más difícil de distinguir. Los textos de las IA se camuflan a la perfección y hacen que resulte muy difícil determinar quién es el autor de fondo. Esto pasa en todos los niveles de la educación, pero entraña bastantes peligros cuando se trata de artículos científicos.
Así, para detener la proliferación de artículos científicos escritos por una IA, se ha creado una herramienta muy cercana a las IA y que utiliza el machine learning para detectar con una precisión sorprendente la posibilidad de que se haya usado un generador de textos a través de una IA. Y es que parece que entre las profesiones que van a desaparecer, muchas pueden tener algo que ver con la redacción y la escritura.
A la caza de replicantes
De esta manera, tal y como recoge la revista Nature, investigadores de la Universidad de Kansas se han puesto manos a la obra para evitar que se les cuelen papers de química que no han sido escritos por seres humanos. Sin embargo, para Heather Desaire, uno de los participantes en este proyecto, es necesario hacerlo de una forma bastante centrada en un punto en concreto:
La mayor parte de la gente quiere una herramienta de análisis que sirva en cualquier caso. Nosotros estamos buscando la precisión.
Así, este modelo que han ideado solo sirve para su campo de conocimiento, la química. Por ello han señalado que los detectores de IA pueden funcionar muchísimo mejor si se potencian en distintas formas de escritura. Además, aseguran haberlo hecho con bastante sencillez y rapidez, por lo que se puede aplicar a otros campos sin que existan graves problemas.
Para cazar a las IA, el equipo se ha centrado en veinte estilos de escritura distintos. Incluyendo la longitud de las oraciones y la forma en la que las personas utilizan los signos de puntuación y otro tipo de marcas. Pese a que se trata de algo muy pequeño, aseguran que les ha dado unos resultados brillantes.
Para ello, entrenaron al detector con cien introducciones con la revista de la Sociedad Americana de Química. Posteriormente le pidieron a ChatGPT que escribiera doscientas en el estilo de escritura de la revista. En total, después de poner a prueba estos textos frente a la herramienta anti-IA, solo el 1% de los textos pasaron como humanos. Esto significa que tan solo dos textos de IA pudieron haberse colado siendo rápidamente detectados el resto por el sistema que acababan de inventar estos químicos.
En resumidas cuentas:
- Se trata de una versión muy básica de una inteligencia artificial que puede detectar fácilmente a otras IA.
- En concreto, solo sirve para el campo de la química.
- Sus creadores aseguran que es fácil y rápido de aplicar a otros campos de conocimiento.
- De momento su porcentaje de éxito es del 99%, pero habría que ver en el futuro.
El problema de estas cuestiones es que la IA siempre se está actualizando, por lo que resulta difícil determinar si este exitoso sistema se puede mantener en el tiempo o si por el contrario con las nuevas versiones va a ser totalmente imperceptible y no podremos encontrar una manera de localizar a la IA en los textos.
Fuente info
Autor: Esteban García Marcos