Ética en la IA
Reglamento europeo de regulación de la IA
El nuevo "Reglamento de Inteligencia Artificial" de la UE, que debe entrar en vigor en 2026, establece normativas para garantizar que los sistemas de IA sean seguros y respeten los derechos fundamentales, con un enfoque en la mitigación de riesgos y la promoción de la innovación. Este marco legal podría influir positivamente en el sector educativo, asegurando que las herramientas de IA usadas en las aulas sean fiables y éticas, y fomentando entornos de aprendizaje que respeten la privacidad y la autonomía del alumnado y educadores.
Consideraciones sobre los chatbots educativos
En el caso de herramientas como chatbots educativos es crucial considerar aspectos éticos como la transparencia y el consentimiento. Por ejemplo, es importante que los docentes, alumnos y tutores comprendan cómo se utiliza esta tecnología en el aula. Deben estar informados sobre las capacidades y limitaciones de la herramienta, y tener la opción de dar o retirar su consentimiento para su uso. Además, la responsabilidad y la rendición de cuentas son aspectos que no deben pasarse por alto. Si se produce algún error o problema ético, debe quedar claro quién es responsable, ya sea el desarrollador de la herramienta o el docente que la implementa.
Equidad
Es importante abordar la equidad en el acceso a la tecnología de IA. Aunque la IA tiene el potencial de personalizar el aprendizaje y hacerlo más accesible, hay que garantizar que todos los alumnos, independientemente de su ubicación geográfica o situación socioeconómica, tengan igual acceso a estas herramientas. Este enfoque inclusivo es esencial para evitar ampliar la brecha digital y educativa.
La implementación de la IA en la educación debe hacerse con un enfoque ético, asegurando que las herramientas y sistemas no solo sean técnicamente competentes sino también moralmente responsables. Esto incluye garantizar que los algoritmos estén libres de sesgos y promuevan la equidad y la justicia en el aula.
Edades de uso
El uso de la Inteligencia Artificial (IA) comporta ciertas restricciones en función de la edad que el profesorado debe tener en cuenta a la hora de utilizar la IA con sus alumnos. Para las IA generativas más utilizadas hemos elaborado esta tabla:
| Servicio | Edad mínima para poder usar el servicio |
Comentarios | |
| Texto |
ChatGPT | 13 años | Entre 13 y 18 años se necesita consentimiento parental. |
| HuggingChat | 13 años | ||
| BingChat | 13 años | ||
| Gemini | 18 años | ||
Imágenes |
DALL·E 2 | 13 años | Entre 13 y 18 años se necesita consentimiento parental. |
| Ideogram | 13 años | Entre 13 y 18 años se necesita consentimiento parental. | |
| NightCafe Studio | 16 años | Los menores de 16 años deben contar con el consentimiento parental. | |
| Catbird | 18 años | ||
| Craiyon | 18 años | ||
| Leaonardo.AI | 18 años | ||
| Pcfinder | 18 años | ||
| Scribble Diffusion | No indicado | ||
| Stable Diffusion | No indicado | La plataforma declara explícitamente que no realiza la recopilación de información del usuario bajo ninguna circunstancia. |
Uso ético por el alumnado
El uso ético de la Inteligencia Artificial no es solo responsabilidad de los desarrolladores o de las instituciones educativas; el alumnado también tiene un papel crucial en este aspecto. A continuación, se presentan algunas consideraciones éticas que el alumnado debe tener en cuenta al interactuar con chatbots y otras herramientas de IA en el ámbito educativo.
- Es fundamental que se utilicen las herramientas de IA de manera honesta, especialmente en entornos de evaluación. Por ejemplo, no deben manipular el sistema para obtener respuestas a pruebas o tareas.
- Deben ser conscientes de que no está permitido compartir información personal de terceros sin su consentimiento, incluso si la herramienta de IA podría beneficiarse de dicha información para ofrecer respuestas más precisas.
- Las herramientas de IA, como los chatbots educativos, están diseñadas para facilitar el aprendizaje. No deben ser utilizadas para acosar, insultar o dañar a otros usuarios o al propio sistema.
- Es importante que el alumnado entienda las limitaciones de la IA. Aunque estas herramientas pueden ser muy útiles, no son infalibles y no deben ser la única fuente de información o aprendizaje.
- Al utilizar herramientas de IA para la generación de contenido, como redacción de textos o creación de gráficos, el alumnado debe asegurarse de que el trabajo final sea auténtico y no una copia directa generada por la máquina. Una norma aplicable en cualquier centro escolar sería que, aunque puede usarse la IA como ayuda en los trabajos, jamás se debe presentar ninguno que suponga una copia directa de la IA.
Al fomentar un uso ético de la IA entre el alumnado, se promueve un ambiente de aprendizaje más seguro y eficaz. Además, se prepara a las nuevas generaciones para interactuar de manera ética y responsable con las tecnologías emergentes, habilidades que serán cada vez más importantes en el mundo digital en el que vivimos.
Actividades positivas en el uso de la IA
- Investigación Asistida: Utilizar chatbots o motores de búsqueda basados en IA para encontrar información relevante para proyectos o tareas.
- Tutoría Virtual: Interactuar con chatbots educativos para aclarar dudas en materias específicas.
- Práctica de Idiomas: Usar aplicaciones de IA para mejorar habilidades lingüísticas, como gramática, vocabulario y pronunciación.
- Creación de Contenido: Emplear herramientas de IA para generar gráficos, presentaciones o resúmenes, siempre y cuando el contenido final sea auténtico.
- Autoevaluación: Utilizar sistemas de IA que ofrezcan pruebas y ejercicios para evaluar el propio nivel de comprensión en una materia.
- Organización del Aprendizaje: Utilizar asistentes virtuales para programar horarios, metodologías o sistemas de estudio.
- Análisis de Datos: Emplear herramientas de IA para analizar datos en proyectos de ciencias, matemáticas o sociales.
- Feedback Inmediato: Utilizar sistemas que proporcionen retroalimentación instantánea en tareas y ejercicios para mejorar de forma continua.
- Accesibilidad: Utilizar herramientas de IA que faciliten el aprendizaje para personas con necesidades especiales, como lectores de pantalla o traductores en tiempo real.
- Exploración del Futuro Profesional: Utilizar sistemas de IA que proporcionen orientación vocacional basada en intereses, habilidades y metas personales.
Estas actividades, y otras semejantes que podamos imaginar, no solo son aceptables desde el punto de vista ético, sino que también pueden enriquecer significativamente la experiencia educativa del alumnado. Sin embargo, es crucial que se realicen siguiendo las pautas éticas y de integridad académica.
Accesibilidad y Licencias en Herramientas de IA
En el contexto de fomentar un uso ético y accesible de la Inteligencia Artificial en la educación, es fundamental discutir el papel de las licencias de software. Las licencias OpenRAIL (licencias abiertas de IA responsable) son un conjunto de acuerdos que permiten a los desarrolladores de tecnología de inteligencia artificial (IA) establecer normas éticas para su uso. Estas licencias buscan asegurar que las aplicaciones de IA se utilicen de manera responsable, evitando usos perjudiciales o no éticos. Esto significa que al elegir herramientas de IA para fines educativos, pueden optar por aquellas que estén comprometidas con prácticas éticas, garantizando así que las tecnologías implementadas en el aula promuevan valores positivos y sean seguras para estudiantes y docentes.
Optar por herramientas de IA que se distribuyen bajo licencias abiertas puede empoderar a la comunidad educativa, fomentando un entorno de colaboración y aprendizaje compartido. Además, el uso de software de código abierto en la educación apoya los principios de equidad educativa, asegurando que todos los estudiantes, independientemente de su contexto socioeconómico, tengan acceso a las últimas innovaciones tecnológicas.
Al integrar tecnologías de IA en el aula, es necesario que los docentes consideren el tipo de licencia bajo la cual se distribuye el software. Esta consideración no solo afecta la accesibilidad y la usabilidad de las herramientas, sino que también refleja un compromiso con la enseñanza responsable y ética de la tecnología.
Actualmente, las herramientas de IA que puede utilizar el usuario final (alumnado y docentes) basadas en el concepto de software libre, código abierto y más concretamente, OpenRAIL, son una minoría, algo que, no obstante, probablemente cambiará en el futuro próximo de la mano de modelos de lenguaje como Llama 2 (de Meta) o MistralNext (de Lmsys).
European Commission, Directorate-General for Education, Youth, Sport and Culture, Directrices éticas sobre el uso de la inteligencia artificial (IA) y los datos en la educación y formación para los educadores, Publications Office of the European Union, 2022, https://data.europa.eu/doi/10.2766/898