Por: María Eugenia Bujanda
La pregunta instrumental dominante
Si analizamos con atención buena parte de las iniciativas, actividades de formación y debates sobre Inteligencia Artificial (IA) en educación, observaremos que suele predominar una pregunta: ¿cómo incorporarla a nuestras prácticas educativas? La atención se concentra en cómo usarla, adoptarla o integrarla, a menudo con cierto sentido de urgencia alimentado por el temor a quedarnos atrás o renunciar a las oportunidades y beneficios asociados a la innovación y el progreso. Este énfasis en la adopción tecnológica lo pude detectar al analizar las ponencias dedicadas a la IA en la conferencia mundial ICDE 2023 celebrada en Costa Rica. La literatura científica reciente apunta en la misma dirección. Uno de los estudios de revisión sistemática más citados de los últimos años muestra que el diseño de sistemas y aplicaciones de IA para apoyar y analizar el aprendizaje constituye el tema más frecuente de investigación (52,8%), seguido por los efectos de la IA sobre el aprendizaje (39,2%). Sin embargo, apenas un 2,4% de los trabajos analizados aborda los problemas y desafíos de la IA desde una perspectiva socio-técnica más amplia y equilibrada.
Esta mirada instrumental predominante, que tiende a reducir la IA a una herramienta, suele venir acompañada de alguno de los siguientes supuestos. El primero consiste en asumir que la tecnología es esencialmente neutral y que sus efectos dependen sobre todo de cómo decidamos utilizarla. Se trata de un discurso muy común (especialmente en el sector educativo), en el que la IA ha calzado a la perfección debido a su pretensión de objetividad y precisión, pero altamente cuestionado, como veremos más adelante.
El segundo remite a una visión tecnodeterminista según la cual el cambio tecnológico constituye un fenómeno inevitable, cuya orientación difícilmente podemos influir. Si nos fijamos bien, es la idea que subyace en expresiones frecuentes como “la IA llegó para quedarse” o “contener la IA es como ponerle puertas al campo”, dando a entender que es algo fuera de nuestro control y a lo cual debemos adaptarnos nos guste o no.
Existe un tercer supuesto, quizá menos frecuente en la comunidad educativa, pero bastante extendido en ciertos sectores tecnológicos y empresariales: la idea de que los grandes problemas sociales, y también educativos, pueden resolverse principalmente mediante innovaciones tecnológicas. Este enfoque, conocido como tecnosolucionismo, tiende a minimizar la importancia de factores políticos, culturales, económicos e institucionales. Últimamente encontramos esta visión llevada al extremo en los imaginarios utópicos de numerosos líderes tecnológicos. Un ejemplo es la propuesta presentada por el fundador de Moodle, Martin Dougiamas, en ICDE 2023, donde proyectó una sociedad futura basada en la IA en la que el trabajo para subsistir desaparecería y las personas podrían dedicarse plenamente a su desarrollo personal.
En este post planteo que no podemos limitarnos a pensar la IA como una mera herramienta y, menos aún, como una tecnología neutral. Concluiré que es indispensable que preservemos nuestra capacidad de decisión frente a las presiones que nos empujan a adoptarla de manera acelerada, sin evidencias ni suficiente reflexión, y que la pregunta que debemos resolver primero es qué educación necesitamos y queremos fortalecer en un contexto crecientemente mediado por los algoritmos.
Qué perdemos de vista cuando pensamos en la IA solo como herramienta
Reducir la IA a la condición de herramienta nos impide apreciarla como el fenómeno complejo que es: un engranaje sociotécnico en el que la tecnología no subsiste separada de las relaciones sociales, económicas, culturales o políticas que la producen y la utilizan. Como explica Paola Ricaurte, una de las más destacadas académicas y activistas latinoamericanas en el campo de la IA, existe todo un sistema sociotécnico en el que tecnologías, actores sociales, instituciones, marcos culturales intereses económicos interactúan continuamente, configurándose y transformándose de manera recíproca. Por eso, los resultados que estos sistemas generan no son el simple producto de cálculos matemáticos, sino que reflejan la forma en que se articulan esos actores, recursos, valores y relaciones de poder.
La mirada instrumental hace difícil que captemos esta complejidad: nos aleja de preguntas fundamentales sobre cómo se diseñan y producen estos sistemas, qué valores e intereses representan y qué visiones de futuro guían a quienes lideran su desarrollo. Impide que problematicemos los impactos de estas tecnologías y limita nuestra capacidad para imaginar alternativas y participar más activamente en la orientación de los cambios tecnológicos.
¿Es importante que quienes trabajamos en educación profundicemos en esta discusión? Basta considerar la responsabilidad que tenemos en la formación, el bienestar y la protección de las personas a quienes nos dedicamos y la función humanizadora que deberían perseguir las transformaciones que promovemos en los sistemas educativos. Resulta difícil sostener que la reflexión crítica sobre la IA y todo lo que la rodea, sea un asunto secundario.
Para comprender mejor por qué la IA no puede considerarse una simple herramienta, podríamos examinar algunas de las dimensiones que suelen quedar fuera de las conversaciones más usuales. Según el manifiesto decolonial sobre la IA, esta es “una tecnología, una ciencia, un negocio, un sistema de conocimiento, un conjunto de narrativas, de relaciones, un imaginario”. Detengámonos en tres de estas facetas: la IA como negocio, como sistema de conocimiento y como un conjunto de narrativas e imaginarios.
La IA como negocio. Hay enormes intereses económicos alrededor del desarrollo e implementación de la IA. La inversión en las grandes empresas que lideran el sector está alcanzando cifras estratosféricas. Tanto es así que algunas voces sugieren que podríamos encontrarnos ante un fenómeno semejante al de la “burbuja de las puntocom” de finales de los años noventa: expectativas sobredimensionadas, inversiones masivas y promesas de crecimiento continuo. Esta dinámica está protagonizada por un reducido número de empresas con la capacidad de cómputo, almacenamiento y acopio de datos necesaria para desarrollar modelos fundacionales de IA. Como resultado, están acumulando niveles de poder económico y político poco habituales, y una inmensa capacidad para influir en las narrativas predominantes sobre el tema.
La retórica promovida por esta industria, que oscila entre la utopía y la amenaza de peligros apocalípticos, relega a un segundo plano la discusión sobre los costes humanos y ambientales reales del modelo actual de desarrollo tecnológico: la apropiación, a menudo sin autorización ni compensación, de grandes volúmenes de producción artística, literaria, científica e intelectual disponible en internet; la captura sistemática de datos personales cada vez más sensibles a cambio del acceso gratuito a servicios digitales (algo especialmente relevante en educación, dado el enorme valor que tendría para estas empresas acceder a la información generada por la población estudiantil); el trabajo invisibilizado, precarizado y con elevados riesgos psicosociales que realizan mujeres, migrantes y trabajadores digitales del Sur Global encargados de etiquetar y moderar contenidos; y el enorme consumo de energía, agua y recursos materiales que requiere toda esta infraestructura tecnológica, cuyos costes recaen de manera desproporcionada sobre países del Sur Global.
Resulta difícil sostener la neutralidad de una tecnología cuyos beneficios, riesgos y costes se distribuyen de forma tan desigual.
La IA como sistema de conocimiento. La IA no solo procesa información, sino que cada vez produce más conocimiento y moldea nuestra forma de entender la realidad. Aunque sus resultados están basados en probabilidades, suelen presentarse o percibirse como hechos objetivos. Al sustentarse en cálculos matemáticos, sus predicciones, recomendaciones y producciones adquieren un halo de precisión, objetividad y neutralidad que puede terminar otorgándole autoridad para definir qué es verdadero.
Como ha señalado la filósofa Carissa Véliz, el problema no es únicamente que la IA describa el mundo, sino que también puede contribuir a construir el futuro que dice anticipar. La IA genera probabilidades; el lenguaje las presenta como afirmaciones; las personas las interpretan como hechos; y esos “hechos” terminan orientando decisiones individuales y colectivas.
Esto representa un riesgo particular para la educación. Cuando la IA se convierte en una fuente inmediata de respuestas y en una autoridad aparentemente más competente que nosotros, corremos el riesgo de sustituir los procesos de investigación, análisis, discusión y elaboración personal por la búsqueda de soluciones rápidas. Sin embargo, aprender exige tiempo, esfuerzo y confrontación con la complejidad.
Además, la capacidad predictiva de la IA tampoco es neutral. Por una parte, refuerza una determinada visión del futuro según la cual este puede predecirse y los algoritmos tienen la capacidad de hacerlo, lo cual deja por fuera la incertidumbre y la posibilidad de imaginar escenarios diversos. Por otra, aprende de datos históricos que contienen exclusiones sociales, discriminaciones y visiones dominantes del mundo, para luego generar nuevo conocimiento a partir de ellos, ampliando el riesgo de reproducir y reforzar continuamente los mismos patrones.
A ello se suma que gran parte de los sistemas de IA se desarrollan en países del Norte Global. Esto implica que los datos, los valores incorporados y las formas de interpretar el mundo suelen reflejar esas perspectivas. Como consecuencia, las realidades, conocimientos y experiencias de otros territorios pueden quedar invisibilizados o subordinados. Desde una perspectiva latinoamericana, esta crítica conecta con los debates sobre colonialidad del conocimiento y justicia epistemológica, al recordarnos que toda producción de conocimiento implica relaciones de poder y que no todas las voces y saberes ocupan la misma posición dentro de los sistemas tecnológicos contemporáneos.
La IA como conjunto de narrativas e imaginarios. Uno de los imaginarios más poderosos que acompañan el desarrollo de la IA es la promesa de una eficiencia sin precedentes: la IA nos permitirá hacer más cosas en menos tiempo, tomar decisiones más objetivas y reducir costes en prácticamente cualquier ámbito de la vida social. Sin embargo, esta promesa merece ser examinada críticamente. En primer lugar, porque los altos costes humanos y ambientales asociados al modelo actual de desarrollo de la IA cuestionan de entrada la legitimidad y la sostenibilidad de esas ganancias. Segundo, porque la evidencia disponible sobre sus beneficios reales arroja resultados mucho más ambiguos de lo que suelen sugerir los discursos promocionales. Y, en tercer lugar, porque la eficiencia nunca es un objetivo neutral: siempre favorece determinadas formas de organización social y determinados valores en detrimento de otros.
Cuando la optimización se convierte en la finalidad principal, otros criterios igualmente importantes pueden quedar desplazados: la creatividad, la diversidad, la deliberación democrática, el cuidado, la complejidad de los procesos humanos o la protección del entorno. La cuestión relevante no es tanto cuán eficientes pueden llegar a ser nuestros sistemas, sino qué fines queremos que persigan. La felicidad humana, la calidad de nuestras relaciones y el cuidado del planeta constituyen objetivos que difícilmente pueden reducirse a una lógica de optimización.
Como nos hace ver Carlos Magro, esta narrativa de la eficiencia ha encontrado eco en el sector educativo, donde se lleva tiempo privilegiando el rendimiento y los resultados medibles. Sin embargo, la promesa de reducir tiempo y esfuerzo entra en conflicto con algo esencial del aprendizaje humano: muchas de las capacidades que más valoramos, como pensar críticamente, comprender en profundidad, desarrollar criterios propios, requieren un proceso lento de práctica, reflexión y elaboración personal.
La pregunta clave que deberíamos hacernos
Las anteriores son solo algunas de las aristas (otras serían la sociopolítica y la geopolítica) que ilustran por qué quedarnos en la lógica del “aprovechamiento” de la IA no es suficiente. Mantenemos en este nivel nos lleva a adoptar un papel pasivo frente a lo que diversas perspectivas críticas han denominado un proceso “ademocrático por diseño”, en el que son las grandes empresas tecnológicas las que toman la mayor parte de las decisiones.
En el plano tecnológico, la cuestión central es quién tiene capacidad para decidir qué tecnologías necesitamos y qué tipo de sociedad queremos construir con ellas. En esta línea, numerosas voces defienden enfoques más críticos y humanistas basados en tecnologías diseñadas para necesidades concretas, con datos compartidos mediante consentimiento explícito, control comunitario, auditoría pública, software libre y una mayor capacidad colectiva para decidir sobre los fines de la innovación tecnológica. Frente al enfoque predominante que defiende más datos, más tamaño y más capacidad computacional, estas otras perspectivas abogan por modelos más pequeños, especializados y contextualizados.
En el plano educativo, podemos pensar cómo contribuimos a desarrollar capacidades para diseñar estas alternativas tecnológicas más abiertas y éticas. Pero más allá de esto, y en primera instancia, la pregunta clave que debemos hacernos es qué educación necesitamos y queremos construir en esta sociedad mediada por algoritmos, y qué papel queremos que la IA ocupe en ella. Seguramente habrá también oportunidad de plantear qué puede hacer la IA por el sistema educativo, pero recordemos que los problemas educativos no se resuelven única ni principalmente con herramientas más sofisticadas, sino transformando las estructuras sociales, institucionales y culturales que los producen. Por ello, es preciso que situemos en primer plano la tarea de fomentar la discusión y la formación crítica sobre la naturaleza de estas tecnologías, las condiciones en que se desarrollan, los impactos que generan y los futuros alternativos que podríamos imaginar y construir colectivamente.
