Indicadores de uso inapropiado de herramientas de IA

La utilización de herramientas como ChatGPT para realizar tareas escolares puede ser útil en términos de investigación y comprensión de conceptos. No obstante, un uso excesivo o incorrecto puede indicar una dependencia de la herramienta y una falta de desarrollo de habilidades esenciales en el alumno.

Plagio — Elaboración propia con ChatGPT (CC BY-SA)

A continuación se presenta una lista de señales o indicadores, a nivel general, que podrían sugerir un uso inapropiado de la IA:

Calidad del trabajo: Si el trabajo entregado es consistentemente perfecto y no muestra errores comunes de aprendizaje, podría haber sido creado por la IA.
Falta de proceso: Si la persona no puede explicar cómo llegó a una respuesta o solución, es posible que simplemente esté copiando las respuestas.
Tiempo de finalización: Si las asignaciones que normalmente tomarían un tiempo considerable se completan muy rápidamente, podría ser una señal de utilización de herramientas externas.
Inconsistencia en el rendimiento: Un rendimiento excepcional en tareas hechas en casa, pero dificultades en pruebas o tareas en clase podría indicar una discrepancia en el proceso de aprendizaje.
Falta de habilidades básicas: Si se muestra una falta de comprensión de conceptos básicos, pero se pueden responder preguntas avanzadas, podría haber una obtención de respuestas sin realmente entender el material.
Desinterés en discusiones en clase: Un desinterés o falta de participación en discusiones en clase, pero siempre entregando tareas perfectas, podría ser una señal de dependencia de herramientas en línea.
Respuestas genéricas: Las respuestas que parecen demasiado genéricas o que no se ajustan exactamente a la pregunta pueden ser un indicador de que se obtuvieron de una fuente externa.
Falta de trabajo en grupo: Evitar trabajar en grupo o colaborar con otros podría ser una señal de haberse habituado a depender de herramientas en línea para obtener respuestas.
Resistencia a pensar críticamente: La resistencia a abordar problemas desde diferentes ángulos o a pensar de manera creativa puede ser una señal de dependencia de respuestas directas de herramientas en línea.
Desarrollo desigual de habilidades: Mostrar habilidades avanzadas en un área, pero carecer de habilidades básicas en otra podría ser una señal de apoyo excesivo en herramientas en línea para ciertas tareas.

Indicadores del uso de IA en los textos

Aunque los programas antiplagio son incapaces de detectar de manera fiable cuándo un texto ha sido escrito por una inteligencia artificial, pueden detectarse patrones y expresiones que nos alertan sobre su uso en los trabajos académicos. Sin embargo, debemos ser conscientes de que existen servicios en Internet que reescriben los textos para ocultar que han sido generados por IA, como por ejemplo, Smodin.

Estructura del texto

ChatGPT sigue un esquema bastante rígido con las siguientes partes:

Introducción, a la cual suele dedicar un párrafo con definiciones o explicaciones de lo que abordará a continuación.
Desarrollo, con varios párrafos explicando el tema central de su exposición.
Resumen o conclusión, al que dedica un párrafo, a veces solo una frase. Esta parte es especialmente reconocible en ChatGPT, ya que suele finalizar sus disertaciones diciendo: En resumen o En conclusión. La aparición de estas expresiones al final del texto debe alertarnos de que el texto ha sido generado, al menos en parte, por ChatGPT.

Gemini no sigue una estructura tan clara, pero suele presentar la información en forma de pros y contras con listas de viñetas. Si el texto no se presta a esto, suele incluir una lista de viñetas con recomendaciones o aspectos que el usuario debe tener en cuenta. También suele incluir una breve introducción y una línea de conclusión, aunque sin encabezamiento particular. Por lo tanto, un texto escrito por Gemini se caracteriza por la inclusión de numerosos puntos en forma de lista.

Listas

Tanto Gemini como ChatGPT suelen hacer muchas listas. Se caracterizan porque las encabezan por un título en negrita seguido por dos puntos:

Cómo clavar un clavo — Elaboración propia. *Instrucciones de ChatGPT para clavar un clavo. Cada punto tiene un título, seguido por dos puntos* (CC BY-SA)

Repetición de palabras que forman parte del prompt

Cuando se le hace alguna petición a ChatGPT o a Gemini, repiten la palabra que se ha usado en esta petición de forma tan reiterativa que llama la atención. Apenas utilizan sinónimos y aparece en el texto con una frecuencia exagerada. A continuación, podemos ver la respuesta de ChatGPT al prompt: 100 palabras sobre el tren. Donde repite hasta 8 veces la palabra «tren» y no emplea ningún sinónimo.

Elaboración propia. *Respuesta de ChatGPT al prompt: 100 palabras sobre el tren* (CC BY-SA)

En la siguiente imagen podemos ver la respuesta al prompt: 100 palabras sobre el ferrocarril. Esta vez utiliza 4 veces la palabra «ferrocarril» y ninguna vez «tren».

Gemini hace exactamente lo mismo. Por lo tanto, una forma de detectar el uso de IA es observar la repetición de ciertas palabras. Si aparecen de manera constante y frecuente, es un buen indicador de que el texto probablemente esté escrito con IA

Palabras y expresiones recurrentes en ChatGPT

Esta IA repite ciertas palabras que pueden no ser de uso común entre los estudiantes, por lo que si se detecta una acumulación de ellas en el mismo texto también nos ayudará a estar alerta:

En resumen
En conclusión
Invaluable
Estudiante (ni ChatGPT ni Gemini emplean las palabras «alumno» o «alumna»)
Tema controvertido
Objeto de debate
Es importante (esta expresión la usan mucho tanto ChatGPT como Gemini)
Desafiante
Fundamental

Uso de referencia y citas

Los textos de ChatGPT y Gemini raramente llevan referencias, por lo tanto, un texto sin referencias o con referencias falsas puede ser un indicador de uso de la IA.