Fuente: Negocios.com
La Unión Europea pide regular las infraestructuras que pueden llegar a gobernar nuestra mente
Un humano se mete en una jaula contra un robot tipo Terminator: una sola patada lo manda al suelo
La decisión adoptada por la ciudad de Nueva York de restringir durante un año el uso de herramientas de inteligencia artificial generativa en buena parte de sus colegios públicos introduce una cuestión que trasciende el debate, demasiado sencillo, entre quienes consideran que toda innovación tecnológica debe incorporarse inmediatamente al aula y quienes pretenden mantener la educación al margen de cualquier avance digital. La medida afecta aproximadamente a 600.000 estudiantes, desde educación infantil hasta octavo grado, y parte de una premisa que merece ser tomada en serio: que no todo aquello que puede automatizarse resulta conveniente automatizarlo cuando lo que está en juego es precisamente la formación intelectual de una persona.
El alcalde de Nueva York, Zohran Mamdani, ha defendido que la industria tecnológica ha construido durante los últimos años la percepción de que la inteligencia artificial constituye una herramienta inevitable y necesaria para prácticamente cualquier actividad. Su Administración ha optado, al menos provisionalmente, por cuestionar esa inevitabilidad. La idea no consiste tanto en negar la utilidad de los sistemas algorítmicos como en impedir que su presencia en las primeras etapas educativas se convierta en un hecho consumado antes de haber evaluado suficientemente sus consecuencias sobre el aprendizaje, la autonomía intelectual y la relación entre profesores y alumnos.
La medida adquiere especial relevancia porque no se limita a recomendar prudencia. El Departamento de Educación deberá retirar o desactivar las funcionalidades de inteligencia artificial incorporadas a más de 38 programas que hasta ahora podían utilizarse en los centros educativos. Además, herramientas como ChatGPT y Claude permanecerán bloqueadas para los estudiantes dentro del sistema público, mientras que los alumnos de los cursos superiores dispondrán de un acceso más limitado y acompañado de formación específica sobre pensamiento crítico. No se trata, por tanto, de una prohibición absoluta de la tecnología, sino de una diferenciación por edades y usos que intenta separar aquello que puede ser pedagógicamente útil de aquello que puede terminar sustituyendo procesos intelectuales que todavía están en formación.
Educar no consiste solamente en obtener respuestas
Existe una diferencia fundamental entre utilizar una herramienta para aprender y utilizarla para evitar el esfuerzo necesario para aprender. Esa diferencia puede parecer evidente en abstracto, pero se vuelve mucho más difícil de apreciar cuando las máquinas son capaces de redactar textos, resolver problemas, explicar conceptos, traducir documentos, resumir libros o proporcionar en cuestión de segundos una respuesta aparentemente razonable a casi cualquier pregunta. El riesgo educativo no reside necesariamente en que el estudiante reciba una respuesta incorrecta, sino también en que reciba una respuesta correcta sin haber tenido que recorrer el camino intelectual que conduce hasta ella.
Aprender implica una sucesión de operaciones que no siempre producen un resultado inmediatamente visible: formular preguntas, equivocarse, comparar posibilidades, recordar información, establecer relaciones, argumentar, detectar contradicciones y modificar una conclusión cuando aparecen nuevos elementos. Muchas de esas actividades son precisamente las que una herramienta de inteligencia artificial puede hacer innecesarias desde el punto de vista práctico. Pero que una máquina pueda realizar una operación cognitiva no significa que resulte conveniente privar al estudiante de practicarla. El objetivo de la educación no es exclusivamente resolver problemas, sino desarrollar a la persona capaz de resolverlos cuando la herramienta no esté disponible.
En las edades más tempranas esta consideración adquiere todavía mayor importancia. Un alumno que todavía está construyendo sus capacidades lingüísticas, matemáticas, argumentativas o de comprensión puede acostumbrarse demasiado pronto a delegar en un sistema externo operaciones que deberían formar parte de su propio desarrollo. La cuestión, por tanto, no es si una máquina puede ayudarle, sino qué parte del aprendizaje deja de producirse cuando la máquina hace por él aquello que precisamente necesitaba aprender a hacer.
La relación entre profesor y alumno no es una cuestión tecnológica
La segunda razón que explica la posición de Nueva York tiene que ver con una característica de la educación que resulta difícil de reproducir mediante un sistema automatizado: la relación humana. Enseñar no consiste únicamente en proporcionar información. El profesor observa las dificultades del alumno, interpreta sus errores, detecta cuándo una explicación no ha sido comprendida, modifica el ritmo de la clase y, en muchas ocasiones, percibe problemas que ni siquiera aparecen expresamente formulados en una respuesta escrita.
Un algoritmo puede generar una explicación adaptada a determinados parámetros, pero esa capacidad no equivale necesariamente a comprender al alumno como persona. La educación incorpora elementos emocionales, sociales y contextuales que no se reducen a la transmisión de contenidos. Una respuesta puede ser impecablemente correcta y, sin embargo, resultar pedagógicamente inadecuada para quien la recibe. La sustitución progresiva del profesor por herramientas automatizadas podría producir así una paradoja: disponer de más capacidad tecnológica para transmitir información y, al mismo tiempo, perder parte de la capacidad humana necesaria para convertir esa información en conocimiento.
Por eso resulta especialmente significativa la prohibición de utilizar inteligencia artificial para calificar trabajos o realizar evaluaciones de estudiantes, aunque los profesores sí puedan emplearla para preparar clases y desarrollar determinadas tareas operativas. La distinción es razonable: una cosa es utilizar una herramienta como apoyo al trabajo docente y otra diferente convertirla en el sujeto que determina, directa o indirectamente, el rendimiento académico de un menor. Cuando una máquina participa en una decisión educativa, la cuestión deja de ser simplemente tecnológica y pasa a afectar a la evaluación de una persona.
La pantalla también puede convertirse en una forma de dependencia
El debate sobre inteligencia artificial en las aulas aparece, además, vinculado a otro problema: el tiempo de exposición a las pantallas. Nueva York pretende establecer límites diferenciados por edades y contempla excepciones para determinados alumnos, entre ellos quienes tienen discapacidad o quienes están aprendiendo inglés. La decisión revela que el problema no se contempla exclusivamente desde la perspectiva de la exactitud de las respuestas generadas por los algoritmos, sino también desde la cantidad de tiempo que el estudiante permanece dentro de un entorno tecnológico.
La educación digital ha presentado durante años la pantalla como un instrumento esencialmente neutral: lo importante sería qué contenido aparece en ella y no tanto el medio utilizado. Sin embargo, la generalización de sistemas capaces de conversar, responder, sugerir, corregir, resumir y producir contenidos modifica sustancialmente esa relación. La pantalla deja de ser una simple ventana hacia información exterior y comienza a comportarse como un interlocutor permanente. Cuanto más sofisticado es ese interlocutor, mayor puede ser la tentación de recurrir a él antes incluso de intentar resolver personalmente una cuestión.
No es difícil imaginar el efecto acumulativo. Un estudiante puede comenzar utilizando la inteligencia artificial para comprobar una duda, continuar empleándola para estructurar un trabajo y terminar delegando en ella la formulación de las ideas que debería aprender a expresar por sí mismo. Ninguno de esos pasos, considerado aisladamente, tiene por qué ser problemático. El verdadero riesgo aparece cuando la herramienta deja de ser un apoyo ocasional y se convierte en una prótesis cognitiva permanente, hasta el punto de que el alumno pierde progresivamente la costumbre de enfrentarse por sí mismo a la dificultad.
La prohibición durante un año tiene una virtud: permite observar antes de decidir
Uno de los aspectos más interesantes de la política neoyorquina es precisamente su carácter temporal. La ciudad no parece haber decidido que la inteligencia artificial carezca de utilidad educativa para siempre. Ha optado por establecer una moratoria durante un curso para observar sus efectos y decidir posteriormente qué tecnologías pueden regresar a las aulas y bajo qué condiciones. Desde una perspectiva regulatoria, esta estrategia tiene una ventaja considerable: evita que la incorporación de una tecnología de enorme impacto se produzca simplemente porque su disponibilidad precede a la capacidad de las instituciones para evaluar sus consecuencias.
La moratoria convierte los colegios en un espacio de experimentación controlada. Durante ese periodo, una coalición integrada por profesores, padres, estudiantes y otros miembros de la comunidad educativa deberá analizar los efectos de la medida y formular recomendaciones para los siguientes cursos. El planteamiento resulta especialmente relevante porque introduce una lógica de evaluación que suele faltar en la expansión acelerada de las tecnologías digitales: primero se estudia qué ocurre y después se decide hasta dónde debe llegar la herramienta.
En cierto modo, Nueva York está aplicando al ámbito educativo una lógica semejante a la que empieza a reclamar una parte creciente del debate sobre inteligencia artificial en otros sectores. Cuando una tecnología puede producir consecuencias significativas sobre derechos, autonomía o capacidades humanas, la pregunta no debería limitarse a determinar si técnicamente funciona. También es necesario averiguar qué transforma, qué desplaza, qué dependencia genera y qué costes produce aunque cumpla correctamente su función inmediata.
No todas las edades necesitan la misma inteligencia artificial
La decisión de Nueva York también introduce un elemento que con frecuencia desaparece en las discusiones generales sobre inteligencia artificial: la edad del usuario. No parece razonable analizar de la misma manera el empleo de un asistente algorítmico por un niño de educación infantil y por un estudiante próximo a finalizar su formación escolar. Las capacidades cognitivas, la autonomía, la comprensión de los riesgos y la posibilidad de evaluar críticamente una respuesta tecnológica son muy diferentes.
Por ello resulta significativo que los alumnos de educación secundaria superior puedan acceder a determinadas herramientas, acompañadas de formación específica para desarrollar pensamiento crítico. La cuestión no sería entonces prohibir la inteligencia artificial a toda una generación, sino retrasar y modular su utilización hasta que el estudiante tenga mayores recursos para comprenderla. La alfabetización tecnológica no consiste únicamente en saber utilizar una herramienta, sino también en conocer sus límites, cuestionar sus resultados y comprender cuándo su utilización puede perjudicar el objetivo que se pretende alcanzar.
La paradoja es evidente: cuanto más poderosa sea una herramienta, mayor será la necesidad de que quien la utiliza posea capacidad suficiente para cuestionarla. Un adulto especializado puede detectar con relativa facilidad que una respuesta algorítmica contiene una afirmación dudosa o una conclusión insuficientemente fundamentada. Un niño puede no disponer todavía de los conocimientos necesarios para hacerlo. La misma herramienta puede ser, por tanto, un instrumento de aprendizaje para un usuario y un mecanismo de sustitución del aprendizaje para otro.
El profesor puede utilizar inteligencia artificial, pero no debería desaparecer detrás de ella
La política neoyorquina tampoco parece responder a una lógica de rechazo indiscriminado. Se permite a los profesores recurrir a estas tecnologías para preparar materiales docentes y realizar determinadas tareas administrativas u operativas. Esta diferencia es importante porque evita confundir dos debates distintos: el de la utilidad profesional de la inteligencia artificial y el de su conveniencia como sustituto de determinadas experiencias educativas.
Un profesor puede servirse de un sistema algorítmico para generar ideas, organizar contenidos, preparar ejercicios o acelerar determinadas tareas burocráticas y continuar siendo plenamente responsable del resultado. El problema aparece cuando esa herramienta comienza a ocupar el espacio reservado al juicio profesional. Si un profesor deja de corregir porque lo hace una máquina, deja de valorar porque lo hace un sistema automatizado o deja de conocer las dificultades individuales de sus alumnos porque confía en un programa, la tecnología ya no está ayudando al proceso educativo: está modificándolo en su propia estructura.
La prohibición de que la inteligencia artificial realice evaluaciones apunta precisamente a ese límite. Evaluar no es simplemente comparar una respuesta con un patrón. Supone atribuir valor a un proceso de aprendizaje y, en determinadas circunstancias, adoptar decisiones que pueden afectar a la trayectoria educativa de una persona. Cuanto mayor sea la consecuencia de esa decisión, más difícil resulta justificar que la responsabilidad pueda diluirse detrás de un algoritmo.
La cuestión decisiva será qué ocurre fuera del colegio
La propia Administración neoyorquina reconoce una dificultad evidente: el colegio no puede controlar completamente lo que hacen los estudiantes en sus hogares. Una prohibición dentro de las aulas puede impedir que determinados sistemas sean utilizados durante la jornada escolar, pero difícilmente puede evitar que un alumno recurra a ellos por la tarde para realizar sus deberes, redactar trabajos o resolver ejercicios. La frontera física entre escuela y hogar no coincide con la frontera tecnológica.
Por ello, la política incorpora también a las familias como parte de la respuesta. Esta circunstancia demuestra que la regulación de la inteligencia artificial educativa no puede descansar exclusivamente en mecanismos de bloqueo. Si la tecnología está disponible fuera de los centros, la solución pasa necesariamente por formar a estudiantes y familias para que comprendan qué usos favorecen el aprendizaje y cuáles pueden terminar sustituyéndolo. Una educación que prohíbe sin explicar corre el riesgo de generar únicamente una utilización clandestina; una educación que explica sin establecer límites puede confiar demasiado en una capacidad crítica que todavía está desarrollándose.
El desafío es especialmente complejo porque la inteligencia artificial no tiene que utilizarse necesariamente para copiar. Puede emplearse de formas mucho más difíciles de detectar: para reformular una idea, completar un razonamiento, seleccionar argumentos, corregir un texto o sugerir una respuesta. El resultado final puede incluso parecer genuinamente producido por el alumno. Por eso el debate educativo no puede reducirse a perseguir el fraude académico. El problema más profundo es determinar qué competencias queremos que los estudiantes desarrollen personalmente y cuáles aceptamos que sean realizadas por máquinas.
La educación no debería convertirse en una carrera tecnológica
Durante años, el discurso dominante sobre innovación educativa ha tendido a identificar modernización con incorporación de tecnología. Un aula parecía más avanzada cuanto mayor era su equipamiento digital. Pero la aparición de sistemas generativos obliga a revisar aquella ecuación. Una escuela no es mejor porque utilice más tecnología, del mismo modo que tampoco es mejor por utilizar menos. La pregunta verdaderamente relevante es si cada herramienta mejora el aprendizaje sin destruir aquellas condiciones que hacen posible aprender.
En este sentido, la decisión de Nueva York contiene una crítica implícita a la idea de que toda innovación debe ser adoptada inmediatamente para evitar que los alumnos se queden atrás. Puede ocurrir exactamente lo contrario. Si una tecnología permite obtener resultados sin desarrollar las capacidades necesarias para producirlos, incorporarla demasiado pronto podría generar estudiantes aparentemente más productivos pero intelectualmente más dependientes. El progreso tecnológico y el progreso educativo no son necesariamente sinónimos.
Hay además una cuestión de poder que merece atención. Las grandes empresas tecnológicas disponen de enormes recursos para presentar sus productos como soluciones naturales a problemas educativos. Los sistemas de inteligencia artificial llegan a las escuelas acompañados de promesas de personalización, eficiencia, accesibilidad y mejora del rendimiento. Muchas de esas posibilidades pueden ser reales. Pero corresponde a las instituciones educativas decidir si son compatibles con sus fines, y no a la existencia de la tecnología determinar por sí misma cómo debe enseñarse.
La moratoria neoyorquina no es una guerra contra la inteligencia artificial
Sería, sin embargo, un error interpretar la medida como una declaración de hostilidad frente a la inteligencia artificial. La propia estructura de la política demuestra lo contrario. Los estudiantes mayores podrán utilizar determinadas herramientas, los profesores podrán emplearlas en diversas tareas y una coalición educativa estudiará durante el periodo de moratoria cuáles son sus efectos. Lo que se cuestiona no es la existencia de la tecnología, sino su utilización indiscriminada y prematura.
Esta distinción resulta fundamental. Una regulación inteligente no debería perseguir el objetivo de mantener a los estudiantes al margen de las tecnologías que encontrarán en su vida profesional. Precisamente porque esas tecnologías formarán parte de su futuro, necesitan aprender a utilizarlas correctamente. Pero aprender a utilizar una herramienta no exige utilizarla para todo. También puede significar saber cuándo apagarla, cuándo desconfiar de ella y cuándo realizar personalmente una tarea que la máquina podría ejecutar en unos segundos.
Quizá ese sea el verdadero significado de la política neoyorquina. Frente a la idea de que el futuro educativo consiste en colocar un algoritmo entre el profesor y cada estudiante, la ciudad está planteando una cuestión mucho más elemental: qué cosas merece la pena que sigamos haciendo nosotros aunque una máquina pueda hacerlas mejor o más rápido.
El criterio final debe ser el interés del estudiante
La discusión sobre inteligencia artificial en las aulas corre el riesgo de quedar atrapada entre dos posiciones igualmente simplificadoras. Una sostiene que la tecnología resolverá buena parte de las deficiencias educativas; la otra considera que toda presencia algorítmica supone necesariamente una amenaza. Ninguna de las dos resulta suficiente. Una herramienta puede ampliar las capacidades de un buen profesor y, al mismo tiempo, perjudicar gravemente a un alumno si sustituye el esfuerzo intelectual que necesitaba realizar. La cuestión no está en la tecnología por sí misma, sino en el lugar que ocupa dentro del proceso educativo.
Por eso los motivos de Nueva York resultan coherentes, aunque la eficacia definitiva de la moratoria solo podrá valorarse cuando existan datos suficientes sobre sus resultados. La ciudad no ha afirmado que la inteligencia artificial sea inútil. Ha planteado que su utilidad no justifica automáticamente su utilización en cualquier edad, para cualquier tarea y bajo cualquier circunstancia. Y esa afirmación, en una época en la que la capacidad técnica de una herramienta suele confundirse con la conveniencia de utilizarla, merece una reflexión mucho más amplia.
La educación tiene una finalidad que ninguna innovación tecnológica debería hacer olvidar: formar personas capaces de pensar por sí mismas. Si un algoritmo ayuda a conseguirlo, debe ser bienvenido. Si consigue que el estudiante dependa cada vez más de él para pensar, redactar, resolver, decidir o incluso formular una pregunta, entonces la tecnología habrá cumplido perfectamente su función inmediata y, paradójicamente, habrá fracasado en la función educativa que pretendía mejorar.
La decisión de Nueva York puede parecer, desde fuera, una reacción conservadora frente a una tecnología extraordinariamente avanzada. Pero también puede interpretarse de una manera muy diferente: como un intento de proteger durante un tiempo el espacio necesario para comprobar qué parte de nuestra inteligencia queremos aumentar con máquinas y qué parte seguimos considerando irrenunciablemente humana. En educación, quizá esa pregunta sea bastante más importante que la de quién dispone del algoritmo más poderoso.
