Ahí está. Todos los días se publican una gran cantidad de artículos relacionados con ChatGPT, la herramienta líder en la utilización de la Inteligencia Artificial. OpenAI la puso en marcha y son varias las plataformas que la están utilizando, aunque está creando más disgustos que satisfacciones.
Un grupo de científicos ha creado una herramienta capaz de identificar los contenidos creados con IA con una precisión cercana al cien por cien. Analiza el texto y muestra los resultados, sobre todo en publicaciones creadas con ChatGPT.
En ScienceDirect podemos ver todo o casi todo lo relacionado con este estudio. Además de la herramienta creada se muestra también el código fuente necesario para que se haga una réplica de la misma.
Sobre la investigación y sus resultados
Heather Desaire, química de la Universidad de Kansas que aplica el aprendizaje automático a los estudios biomédicos, ha sido la propulsora de esta herramienta. Con ella se pretende realizar la protección de la integridad científica, no dejando que la Inteligencia Artificial utilice el libre albedrío para mostrar sus creaciones.
Heather Desaire ha dicho lo siguiente: ChatGPT y todos los demás generadores de texto de IA inventan hechos. En las publicaciones científicas académicas —escritos sobre nuevos descubrimientos y la vanguardia del conocimiento humano— realmente no podemos darnos el lujo de contaminar la literatura con falsedades que suenan creíbles. Inevitablemente, se abrirían camino en las publicaciones si los generadores de texto de IA se usan comúnmente. Que yo sepa, no existe una forma infalible de encontrar de forma automatizada esas «alucinaciones», como se las llama. Una vez que comience a llenar hechos científicos reales con tonterías de IA inventadas que suenen perfectamente creíbles, esas publicaciones se volverán menos confiables, menos valiosas.
Cuando una revista científica es revisada por expertos en los temas tratados que aceptan lo mostrado, se puede tener en cuenta lo escrito. Lo que no se debe respetar es lo que ha sido escrito utilizando fuentes no válidas, las que está utilizando en estos momentos ChatGPT.
A tener en cuenta
Heather Desaire apoya la creación de la herramienta citada diciéndonos lo siguiente:
Puede construir fácilmente un método para distinguir la escritura humana de ChatGPT que sea muy precisa, dada la compensación de que se está restringiendo a considerar un grupo particular de humanos que escriben de una manera particular. Los detectores de IA existentes generalmente están diseñados como herramientas generales para aprovechar cualquier tipo de escritura. Son útiles para su propósito previsto, pero en cualquier tipo específico de escritura, no van a ser tan precisos como una herramienta construida para ese propósito específico y limitado.
Conclusión
Desaire y su equipo han conseguido un notable éxito con la creación de la utilidad destinada a la detección de texto creado con Inteligencia Artificial. El alto nivel de conocimiento humano, frente a la detección de patrones enfocados al aprendizaje automático, es lo que se ha tenido en cuenta para elaborar el código.
El código es totalmente accesible para los investigadores que estén interesados en su desarrollo. No necesitan ser programadores informáticos para comprobar que la IA y la detección de contenido apoyados en la IA son válidos para ellos.
