Hasta dónde puede llegar
Tenemos que ser muy conscientes de lo que podemos esperar de la IA. La Inteligencia Artificial ha irrumpido en el ámbito educativo con un gran potencial para transformar la enseñanza y el aprendizaje. Sin embargo, es crucial que el profesorado esté al tanto de las limitaciones inherentes a esta tecnología para implementarla de manera eficaz y ética.
A continuación, se presentan algunas de las limitaciones más importantes que deben tenerse en cuenta:
Fiabilidad de la Información
La IA no debe ser considerada una fuente primaria de información, ya que está sujeta a numerosos errores que, además, son impredecibles.
- Exactitud de los Datos: La IA opera basándose en algoritmos y datos previos, lo que significa que su precisión puede variar. Es importante contrastar la información generada con fuentes confiables.
- Actualización de Contenidos: Los sistemas de IA pueden no estar al día con las últimas investigaciones o cambios curriculares, lo que podría llevar a la difusión de información obsoleta.
- Alucinación de Datos: Los modelos de IA de texto pueden generar información potencialmente falsa para completar una respuesta. Es muy importante verificar cualquier dato o afirmación generada por la IA.
Aspectos Éticos
- Sesgo en los Datos: Los algoritmos pueden reflejar sesgos culturales o sociales presentes en los datos de entrenamiento. Esto podría dar como resultado decisiones o evaluaciones injustas. El profesorado deberá evaluar la posible existencia de estos sesgos tanto en su propio uso de la tecnología como en el de su alumnado.
Interacción Humana
Limitaciones de la IA en la comprensión del contexto emocional y social.
- Falta de Empatía: Aunque la IA puede simular conversaciones y responder preguntas, carece de la capacidad para entender el contexto emocional o social, algo que es intrínseco en la educación.
- Limitaciones en la Evaluación: Los sistemas de IA están diseñados para evaluar respuestas basadas en criterios específicos y no pueden medir aspectos subjetivos y complejos del aprendizaje y desarrollo humanos.
Dependencia Tecnológica
Desafíos relacionados con el acceso equitativo a la tecnología y la personalización.
- Acceso a la Tecnología: La falta de acceso equitativo a dispositivos y a Internet de alta velocidad puede generar desigualdades en el aprovechamiento de las herramientas basadas en IA.
- Falta de Personalización: Aunque algunos sistemas de IA ofrecen aprendizaje adaptativo, no pueden reemplazar la intuición y la adaptabilidad del profesorado.
Formación del Profesorado
Importancia de la formación continua para el uso efectivo de la IA en el aula.
- Necesidad de Formación Continua: La eficacia de la IA está directamente relacionada con la habilidad del profesorado para utilizarla, lo que implica una necesidad de formación continua.
En vista de estas limitaciones, es recomendable que el profesorado adopte un enfoque equilibrado y crítico al integrar la IA en el aula. La tecnología debe verse como un complemento a las estrategias de enseñanza, no como un sustituto. Además, es vital mantenerse actualizado y recibir formación continua para maximizar los beneficios de la IA mientras se minimizan sus desventajas.
Es también importante saber que muchas personas a lo largo de la historia han hablado de cualquier tema con seres no humanos: las estrellas, las cartas del tarot, las cenizas, las piedras, las mascotas, las deidades… Y podemos caer en los mismos errores que esas personas, al autoconvencernos de que los sistemas de IA puedan “explicar sus razonamientos o dar consejos sobre infinidad de asuntos”. A este respecto dejamos un artículo, "Can LLMs Really Reason and Plan?" de Subbarao Kambhampati, para https://cacm.acm.org/ que nos habla de este tema