Desde Estados Unidos y Reino Unido, donde se concentra buena parte del desarrollo y del debate internacional sobre inteligencia artificial, han surgido nuevas advertencias de investigadores y exempleados vinculados a compañías como OpenAI, Anthropic y Google. Reportajes recientes de BBC News Mundo y EL PAÍS recogen testimonios de especialistas que conocen esta tecnología desde dentro y que expresan preocupación por la velocidad de su evolución, las dificultades para controlar sistemas cada vez más capaces y la insuficiencia de algunas salvaguardas. Si quienes conocen de cerca cómo se construyen estos modelos están reclamando mayores controles, la educación también tiene motivos para preguntarse hasta dónde debe permitir que la IA intervenga en el aprendizaje.
Las advertencias llegan desde dentro de la propia industria
Uno de los testimonios más recientes es el de Jacob Coxon, joven investigador que dejó Anthropic después de trabajar en el entrenamiento de modelos avanzados. Su salida volvió a poner sobre la mesa una discusión que lleva años creciendo dentro de la industria: qué ocurrirá si el desarrollo de la inteligencia artificial avanza más rápido que nuestra capacidad para comprenderla, supervisarla y establecer límites.
Coxon ha descrito un ambiente de preocupación entre algunos trabajadores del sector y ha advertido sobre escenarios extremos relacionados con sistemas mucho más inteligentes y difíciles de controlar. Sus predicciones son discutidas por otros especialistas y no deben interpretarse como certezas. Sin embargo, su preocupación no aparece de manera aislada.
Durante los últimos años, investigadores y antiguos responsables de OpenAI, Google y Anthropic han abandonado sus cargos expresando inquietudes sobre seguridad, alineamiento, privacidad, vigilancia, aplicaciones militares y pérdida de control. Entre ellos aparecen figuras como Geoffrey Hinton, Paul Christiano, Jan Leike, Helen Toner, Steven Adler y Zoë Hitzig.
Daniel Kokotajlo, antiguo integrante del equipo de gobernanza de OpenAI, resumió su preocupación con una frase especialmente contundente:
“El mundo no está preparado y nosotros no estamos preparados”.
El debate, por tanto, ya no consiste únicamente en preguntarse qué puede hacer la inteligencia artificial, sino en determinar qué deberíamos permitirle hacer y bajo qué condiciones.
¿Y si llevamos esta discusión a las aulas?
Las advertencias sobre sistemas avanzados pueden parecer alejadas de la realidad cotidiana de una escuela. Un estudiante que utiliza inteligencia artificial para resolver una tarea evidentemente no está enfrentándose a los escenarios extremos que preocupan a algunos investigadores.
Pero existe una pregunta educativa mucho más cercana: ¿qué sucede cuando comenzamos a entregar progresivamente a la IA capacidades que precisamente intentamos desarrollar en nuestros estudiantes?
Leer, interpretar, redactar, argumentar, investigar, comparar fuentes, resolver problemas, equivocarse, volver a intentarlo y construir una conclusión propia son procesos fundamentales del aprendizaje. Si una herramienta realiza permanentemente esos procesos por el estudiante, podemos obtener mejores trabajos sin necesariamente obtener mejores estudiantes.
Ese es uno de los desafíos educativos más importantes de la inteligencia artificial: no confundir la calidad del producto generado con la calidad del aprendizaje alcanzado.
El peligro no es solamente que la IA haga la tarea
Durante los primeros años de expansión de la inteligencia artificial generativa, buena parte de la preocupación educativa se concentró en el plagio y las tareas realizadas automáticamente. Sin embargo, el problema puede ser bastante más profundo que descubrir quién escribió un trabajo.
El estudiante puede acostumbrarse progresivamente a solicitar respuestas antes de intentar encontrarlas por sí mismo. Puede aceptar argumentos que no ha comprobado, utilizar información que no comprende o entregar textos que ni siquiera ha leído completamente.
En ese contexto aparecen varios riesgos educativos:
- Debilitamiento del pensamiento crítico, cuando se acepta una respuesta sin analizarla ni contrastarla.
- Dependencia intelectual, cuando la herramienta deja de complementar el razonamiento y comienza a sustituirlo.
- Reducción del esfuerzo cognitivo, cuando se evita sistemáticamente el proceso necesario para llegar a una respuesta.
- Trabajos académicos sin aprendizaje real, cuando el producto presentado supera ampliamente los conocimientos del estudiante.
- Difusión de información falsa, debido a respuestas incorrectas o inventadas que pueden parecer convincentes.
- Pérdida progresiva de autonomía, cuando escribir, resumir, investigar o resolver problemas se convierte automáticamente en una tarea delegada.
- Riesgos para la privacidad y los datos personales, especialmente cuando estudiantes y docentes introducen información sensible en plataformas externas.
La IA puede ser una extraordinaria herramienta educativa, pero utilizar una herramienta no debería significar renunciar a desarrollar las capacidades que esa misma herramienta facilita.
¿Puede la IA condicionar lo que piensa un estudiante?
Existe además una cuestión particularmente delicada: la capacidad de estos sistemas para influir en las personas mediante sus respuestas.
Los modelos de inteligencia artificial no son fuentes infalibles ni absolutamente neutrales. Sus respuestas dependen de datos de entrenamiento, instrucciones, criterios de seguridad, diseños empresariales y decisiones humanas. Pueden cometer errores, reproducir determinados sesgos, privilegiar unas interpretaciones frente a otras o presentar una respuesta discutible con enorme seguridad.
En un adulto con conocimientos suficientes, esto puede resolverse contrastando información. En un estudiante que todavía está formando criterios, conocimientos y capacidad crítica, aceptar sistemáticamente las respuestas de una IA como autoridad puede resultar mucho más problemático.
Hablar directamente de “adoctrinamiento” sería excesivo si se afirmara que actualmente las inteligencias artificiales están siendo utilizadas de manera generalizada para adoctrinar estudiantes. No existe base para sostener semejante afirmación.
Pero sí resulta legítimo preguntarse hasta qué punto una herramienta utilizada diariamente puede terminar condicionando la manera de interpretar la realidad si sus respuestas nunca son cuestionadas.
Y aquí aparece una paradoja educativa casi sarcástica: preocuparnos por que una inteligencia artificial determine lo que piensa un estudiante cuando, en ocasiones, ese estudiante ni siquiera lee completamente el trabajo que la propia IA acaba de hacerle.
La privacidad es también un problema educativo
Otro de los asuntos planteados por quienes han trabajado dentro de estas compañías es la cantidad de información que los usuarios entregan voluntariamente a los asistentes de inteligencia artificial.
Las personas conversan con estos sistemas sobre problemas personales, familiares, profesionales y académicos. En educación, esto obliga a extremar las precauciones. Un estudiante o un profesor puede introducir nombres, fotografías, calificaciones, evaluaciones, informes, dificultades de aprendizaje, conversaciones privadas o documentos institucionales sin comprender plenamente cómo serán tratados esos datos.
Por eso, enseñar inteligencia artificial no puede limitarse a enseñar buenos prompts. La alfabetización en IA también debe incluir privacidad, verificación de información, sesgos, propiedad intelectual, seguridad y conocimiento de aquello que nunca debería introducirse en una plataforma.
El profesor no debería competir contra la IA
La respuesta educativa tampoco puede consistir simplemente en prohibir.
La inteligencia artificial ya forma parte del entorno académico, profesional y cotidiano en el que vivirán los estudiantes. Una escuela que ignore esta tecnología puede quedar tan desactualizada como una escuela que permita utilizarla para absolutamente todo.
El desafío consiste en determinar cuándo la IA aporta valor y cuándo interfiere con el aprendizaje.
Puede utilizarse para explicar un concepto de diferentes maneras, proporcionar retroalimentación, generar ejemplos, practicar idiomas, explorar alternativas, adaptar determinados materiales o ayudar a iniciar una investigación. Pero habrá momentos en los que el estudiante tendrá que demostrar que sabe leer, escribir, calcular, argumentar, crear y resolver problemas sin asistencia artificial.
La evaluación también deberá evolucionar. Presentaciones orales, defensa de trabajos, resolución de problemas en clase, explicación del procedimiento seguido y actividades presenciales pueden adquirir mayor importancia frente a tareas cuyo autor real resulta cada vez más difícil determinar.
La IA debe ayudar a pensar, no pensar en lugar del estudiante
La discusión que actualmente mantienen investigadores y responsables de las principales compañías tecnológicas contiene una enseñanza especialmente relevante para la escuela: una tecnología poderosa necesita límites precisamente porque es poderosa.
No se trata de alimentar miedo hacia la inteligencia artificial ni de negar sus enormes posibilidades educativas. Tampoco de convertirla en enemiga del profesor o del estudiante.
Se trata de establecer una diferencia fundamental entre utilizar la IA para aprender y utilizarla para evitar aprender.
Si una herramienta ayuda al estudiante a formular mejores preguntas, comprender un concepto, encontrar un error, comparar argumentos o explorar nuevas posibilidades, puede enriquecer extraordinariamente la educación. Si, por el contrario, sustituye permanentemente la lectura, el razonamiento, la escritura, la creatividad y el esfuerzo intelectual, la comodidad obtenida puede terminar pagándose con pérdida de aprendizaje.
Los propios especialistas que han trabajado en el desarrollo de estos sistemas están reclamando mayor atención sobre sus límites y consecuencias. La educación no debería esperar a descubrir los problemas después de que se hayan normalizado en las aulas.
La pregunta ya no debería ser si permitimos o prohibimos la inteligencia artificial. La pregunta verdaderamente educativa es qué queremos que siga siendo responsabilidad del estudiante, qué podemos confiar a una máquina y qué capacidades humanas no estamos dispuestos a dejar de enseñar.
Pongámosle límites a la IA. Eduquemos para su buen uso.
Redacción: Web del Maestro CMF
