🎓 Ética, IA y educación: lecciones de la charla de Idoia Salazar (OdiseIA)
Asistimos a la conferencia de Idoia Salazar, presidenta de OdiseIA, en la jornada de FSIE en el colegio Nicoli de Madrid y salimos con la cabeza llena de preguntas.
No sobre el futuro de la inteligencia artificial, sino sobre cómo estamos enseñando a convivir con ella. Salazar no habló de máquinas que piensan ni de robots que roban empleos. Habló de responsabilidad, de educación ética y de la urgencia de formar ciudadanos capaces de usar la IA sin ser usados por ella.
El antes y después de ChatGPT en educación
Idoia lo explicó con claridad: ChatGPT marcó un punto de inflexión.
Antes de su llegada, la IA se veía como algo técnico, reservado a ingenieros o grandes empresas. En educación, se hablaba de “transformación digital” y pizarras electrónicas.
Después de ChatGPT, todo cambió. La herramienta era barata, fácil de usar y útil. Tres ingredientes marcan cualquier revolución tecnológica digital.
De pronto, cualquier docente o estudiante podía experimentar con un modelo de lenguaje y obtener respuestas, ideas, borradores o explicaciones personalizadas.
Esa accesibilidad generó confianza, curiosidad y una explosión de creatividad educativa. Pero también un riesgo: el de usar sin entender.
“La meta no es sustituir al profesor, sino amplificar lo que puede hacer”, recordó Salazar.
Ética y regulación: enseñar a pensar antes de programar
La ponente repasó cómo organismos como la UNESCO, la ONU y la Unión Europea están marcando el rumbo ético global. Los principios son simples y potentes:
evitar los sesgos,
garantizar la transparencia,
mantener la supervisión humana.
El problema es que la ética, sin regulación, se queda en un PowerPoint bonito. Por eso el AI Act europeo da un paso más: convierte esos principios en obligaciones legales.
Los sistemas de IA se clasifican por niveles de riesgo, y aquellos que puedan afectar a derechos fundamentales (como educación, salud o justicia) deberán pasar auditorías antes de usarse.
Esto tiene implicaciones directas para los centros educativos: no se trata solo de usar IA, sino de saber qué tipo de IA se está usando y bajo qué reglas.
España, laboratorio de ética aplicada
España ha dado un paso importante con el sandbox regulatorio de IA, una especie de campo de pruebas donde los algoritmos pueden evaluarse antes de aplicarse.
En educación, esto abre la puerta a experimentar con seguridad: usar IA para personalizar el aprendizaje sin poner en riesgo los datos de los estudiantes.
También está en marcha el Sello Nacional de Confianza, que acreditará herramientas de IA seguras y éticas, algo que será clave para el sector educativo. Y desde A Coruña, la Agencia de Supervisión de Algoritmos (ASA) ya vigila el cumplimiento de estas normas.
Los riesgos éticos en educación
La IA no tiene ideología, pero refleja la de quienes la crean.
En el ámbito educativo, eso puede amplificar desigualdades si no se usa con cuidado:
Sesgos en los datos: un modelo entrenado con contenidos dominantes puede invisibilizar perspectivas culturales o históricas.
Desinformación: modelos que inventan respuestas o generan contenido falso con tono de verdad.
Dependencia tecnológica por uso excesivo.
Menos pensamiento crítico por resolución autónoma de problemas.
Es fundamental fomentar el uso responsable y promover la reflexión y el análisis crítico.
Salazar insistió en algo que debería estar en los planes de estudio: la alfabetización en IA no es opcional. Enseñar a usar ChatGPT o Gemini no es el fin, sino el medio para desarrollar pensamiento crítico.
Las ventajas incomparables: IA como aliada del aprendizaje
Aun con todos sus riesgos, Salazar defendió lo evidente: la IA es una herramienta educativa incomparable.
Permite personalizar el aprendizaje en tiempo real.
Facilita la inclusión, adaptando contenidos a estudiantes con distintas capacidades o idiomas.
Ofrece feedback instantáneo, reduciendo la carga del profesorado.
Abre el acceso a recursos de calidad sin depender de grandes presupuestos.
La clave no está en prohibir, sino en enseñar a usar con criterio. La IA puede democratizar el conocimiento si se combina con una ética firme y una pedagogía bien pensada.
“La tecnología no sustituye al profesor, pero puede convertirlo en el mejor mentor que un alumno haya tenido.”
Educar para convivir con la IA
La charla terminó con un mensaje directo:
No necesitamos más miedo, necesitamos formación interdisciplinar.
La IA no debe ser un tema exclusivo de informática o tecnología, sino de todas las materias y de la ciudadanía.
Hay que enseñar a todas las edades (también a los adultos y mayores) a convivir con ella, entenderla y exigir transparencia.
La conclusión de Idoia fue clara y urgente: el momento de actuar es ahora.
Educar en ética y tecnología es el único camino para que la inteligencia artificial sea realmente humana.