La integración de la Inteligencia Artificial (IA) en el ámbito educativo ha marcado uno de los desarrollos más significativos del siglo. Ha cambiado la forma en que aprendemos, enseñamos, investigamos, manejamos y generamos información. Aunque esta revolución promete transformar profundamente las prácticas educativas, ampliando las oportunidades de desarrollo personal y profesional para docentes y estudiantes, también plantea serios desafíos éticos que atentan contra los ideales de la educación.
La IA ha abierto oportunidades sin precedentes, por ejemplo, para el aprendizaje personalizado, para el desarrollo profesional docente y la eficiencia de la investigación educativa. Sin embargo, al ser tan nueva y con un uso tan extendido y poco crítico, la IA también se presenta como una amenaza para la equidad educativa.
En el corazón de los debates éticos sobre la IA está el balance entre la innovación tecnológica y los valores humanos de inclusión, equidad y justicia. Especialmente si le abrimos las puertas del aula a la IA. Aspectos tan graves como el sesgo de la información, las brechas digitales y el impacto en el aprendizaje de habilidades fundamentales deben considerarse y discutirse a nivel de escuela y país para asegurar que la IA sea beneficiosa para todos, particularmente para los grupos más vulnerables y marginalizados. Y que, más bien, no sea utilizada para profundizar brechas y perpetuar inequidades.
Uno de los logros más importantes a nivel global para asegurar el uso beneficioso de la IA en educación es el establecimiento de los estándares éticos de IA desarrollados por Unesco. A continuación retomamos algunas advertencias en los estándares globales de Unesco y potenciales riesgos del uso de la IA en educación.
Particularmente en los países de ingresos más bajos, la brecha digital y la ahora llamada “brecha algorítmica” continúan exacerbando las diferencias de desempeño y oportunidades del estudiantado basado en su acceso a recursos. Esta brecha amenaza con dejar relegados a quienes no pueden acceder a los beneficios de la IA debido a la dominancia de los países de ingresos altos y del norte global en el desarrollo de algoritmos de IA.
En esa misma línea, el uso efectivo de la IA en educación demanda de nuevas habilidades y una sólida formación docente. Sin embargo, en la región latinoamericana todavía luchamos por la profesionalización de la docencia para asegurar los retos aún más básicos como lectoescritura y aritmética. Por lo tanto, docentes poco preparados para aprovechar la IA puede negarles a sus estudiantes las oportunidades de beneficiarse de la IA e incluso exponer a sus estudiantes a prácticas riesgosas, que atenten contra su privacidad, promuevan antivalores o información falsa y que finalmente impacten negativamente en su aprendizaje.
Si bien es cierto que la IA puede generar textos útiles y ahorrar tiempo para educadores y educandos, este proceso no es necesariamente inmediato. Son necesarias múltiples iteraciones con enunciados o prompts cada vez más específicos para que la IA dé información de valor. Una preocupación válida es que el estudiantado se contente con la primera respuesta, sin analizarla críticamente ni guiar su afinamiento; lo que puede resultar en aprendizajes fundamentados en información falsa, incompleta o engañosa.
Asimismo, es vital que educadores y estudiantes comprendan que los modelos de IA han sido entrenados por seres humanos con sesgos y estereotipos, alimentado con textos de los grupos dominantes y que, por lo tanto, reflejan solamente la visión de esos grupos. Es decir, educadores y estudiantes deben ser conscientes que la IA muchas veces excluye las voces de grupos minoritarios o aquellos del sur global que, aunque son mayoría global, tienen poco poder en el entrenamiento de modelos de IA.
Aún más importante es tener claro que debido a la rapidez y el volumen de información generada por IA, en el futuro cercano será esta misma información la que entrene y alimente los sistemas de IA. Por lo tanto, la cantidad de información falsa, sesgada, discriminatoria o de dudosa procedencia será tanta, pero presentada de forma tan creíble que limitará seriamente nuestro acceso al conocimiento veraz y es muy probable que dé como resultado mayores inequidades.
Directora de educación - Barrilete
Investigadora, psicóloga educativa, maestra