A propósito de Algorithms of Education

Por Fernando Andonegui

“Algorithms of Education. How Datafication and Artificial Intelligence Shape Policy”*, escrito por Kalervo N. Gulson, Sam Sellar y P. Taylor Webb, editado por la Universidad de Minnesota, es una obra de reciente publicación en la cual se plantean algunos interrogantes acerca de la introducción de tecnología de datos en la educación. En este artículo recuperamos aspectos salientes de la obra para plantear algunos interrogantes acerca de la relación entre las tecnologías y las formas de gobernanza.

Lo primero a considerar con Algorithms of Education es que es un texto de estilo académico basado en una mirada que abreva en la filosofía postestructuralista (Deleuze, Guattari, Foucault, Derrida, así como relacionado con Lacan), esto implica cierto cristal desde el cual se analiza el tema. Esta óptica presenta en términos generales una postura crítica frente al capitalismo y la tecnología, entendiendo que la crítica en relación a la última no conlleva necesariamente una valoración negativa. Provienen además de una matriz de pensamiento con acerbo en el psicoanálisis que hace eje también en el ‘deseo’ como elemento constitutivo a la acción humana, y se encuentran enfocados en las formas que asume el poder y cómo este se manifiesta en el lenguaje, centrándose así en las formas más individuales, difusas y distribuidas donde verdad, saber y poder se encuentran entrelazados (Foucault). El poder se manifiesta así en racionalidades, discursos, interacciones y no solo en las formas represivas o coercitivas directas, las cuales pueden existir en base a las otras más sutiles. El poder modula los comportamientos más que determinarlos, y este no se posee sino que se ejerce. De allí también que elijan un enfoque microsociológico coherente también con el análisis de los discursos y las funciones sociales del lenguaje.

«En este libro, examinamos y discutimos cómo estos tipos de IA para tareas específicas actúan en el mundo, particularmente en relación con la gobernanza de la educación. Adoptamos el punto de vista que celebran Deleuze y Guattari en la microsociología de Gabriel Tarde, es decir, que podemos entender la introducción de la IA en la gobernanza prestando atención a la ‘innovación burocrática minúscula’».

Esta mirada se vincula generalmente con una concepción del poder y la tecnología como dispositivos, ellos se presentan como todo el conjunto de relaciones de fuerza, entorno material y discursos de saber-poder que se enhebran en las distintas instancias del diseño y uso de las tecnologías, y emergen así en forma de racionalidades. 

Al sostener una mirada crítica los autores sitúan este momento histórico dentro de un proceso mayor denominado como tecnocapitalismo, una de cuyas características es que la evaluación de las tecnologías suele hacerse desde dimensiones estrechamente económicas como productividad y eficiencia en detrimento de otros criterios, por ejemplo humanistas.

Plantean entonces gobernanza como un concepto que entrelaza distintas instancias de interés y no solo lo que se entiende por gobierno (burocracia centralizada), sino también a los distintos actores privados y públicos con intereses en el campo de acción. La gobernanza asume así la forma de red más que de pirámide burocrática, de allí la importancia que los discursos técnicos, convincentes, negociados y legitimados a varios niveles asumiendo formas de «mejores prácticas», tienen para organizar y dirigir el accionar de la red sin necesidad de un tipo de coerción vertical y un poder centralizado.

“En la transformación de gobierno a gobernabilidad, los regímenes burocráticos jerárquicos son desplazados por redes de relaciones en las que la cooperación y la coordinación deben negociarse y gestionarse constantemente”.

Datificación: hacia la gobernanza sintética

Los autores proponen aquí un concepto muy interesante referido a los sistemas educativos modernos, incluidos ellos como parte de un proceso mayor de datificación (datafication), proceso que consolida a su vez discursivamente ciertas formas de gobernanza

El surgimiento de la IA en la educación es el último capítulo de un proyecto más extenso de datificación que ha cambiado e intensificado algunos aspectos de la educación. La datificación describe el proceso de traducir cosas y eventos en datos cuantitativos que se pueden agregar a bases de datos masivas que crecen a diario. Los sistemas educativos modernos se han basado en la datificación, es decir, en la adquisición de información sobre el desempeño de los estudiantes en una variedad de campos y luego emitiendo con ellos credenciales que garantizan la autenticidad de esa información.

De esta manera nos invitan a pensar que con la inteligencia artificial (IA) se está forjando un nuevo tipo de gobernanza que ellos denominan gobernanza sintética, donde las máquinas adquieren una dimensión de decisión, creación y generación de saberes en los procesos y por lo tanto tienen nivel de decisión en esa red:

“Para ser claros, esta fusión no es gobernanza humana o de máquinas, sino gobernanza humana y de máquinas”

Este concepto, aunque es algo más novedoso en relación a la educación y la IA, no lo es tanto, o más bien nada, en relación a otros ambientes donde se analiza desde hace mucho la gobernanza algorítmica, como por ejemplo el ciberespacio, donde esta discusión es bastante añeja, comenzando por ejemplo con el eje de quién legisla realmente Internet y cómo los algoritmos forman una legislación escrita en el código de software y hardware en detrimento muchas veces, y en ausencia otras, del escrito en el código legal (Lawrence Lessig).

Sostienen los autores que debido a la enorme cantidad de mediaciones, infraestructura técnica, expertos, etc, la gobernanza sintética contribuye a un mayor desarrollo de sistemas complejos de cognición hombre-máquina que prometen control, mientras al aumentar la cantidad de procesos sobre los que tenemos cada vez menos control, se produce lo opuesto. Es decir que causaría lo contrario a lo que persigue o proclama, menor control debido a la proliferación de procesos opacos y complejos de decisión. Otra vez podríamos decir que la gobernanza de Internet es muy similar, aún cuando no requeriría necesariamente IA, y que, por otro lado, la discusión en torno a la IA y los algoritmos se han consolidado con gran cantidad de bibliografía en relación a los motores de las redes sociales, plataformas en general y su rol en el modelado de comportamientos, segmentación de realidades y muchas otras problemáticas relacionadas.

Por otro lado, sostienen los autores, que la creciente convicción en el efecto positivo del desarrollo de la tecnología se debería en parte también a la tendencia a la adopción de  ideas aceleracionistas (acelerationism), concepto por el cual el crecimiento económico y el desarrollo tecnológico forman un ciclo de retroalimentación positiva «explosivo», de allí que la educación por otra parte aparece señalada como un elemento central en el aumento de la productividad y por tanto componente central de este ciclo que hay que controlar y retroalimentar para incrementarla.

Explican así que de la ciencia de datos y el aprendizaje automático surgiría un pensamiento automatizado (automated thinking) que es opaco para las personas, y que en combinación con su aplicación en la gobernanza no solo se presenta como nuevos procesos para la toma de decisiones, sino que al producir nuevos conocimientos y también nuevos deseos poseería, por lo tanto, efectos en la racionalidad misma de la gobernanza. Critican del mismo modo que se buscaría crear certezas en la toma de decisiones en educación a partir de técnicas que son inciertas y de cálculos que no siempre se pueden mapear hacia atrás, dado el carácter complejo y opaco de los mismos. Y esto no solo se refiere a la IA como tecnología, sino también a la complejización de los procesos y mediaciones de actores de distintos campos que no se relacionan con la educación.

Del mismo modo los autores se concentran en los procesos derivados de la IA en cuanto a su impacto en la toma de decisiones, la gobernanza y las racionalidades que subyacen a las mismas. Y cómo ambas, al volverse un campo complejo y opaco, introducen elementos que no son controlables o controlados, o que están informados por intereses, lógicas y lenguajes que pueden resultar ajenos al campo educativo. En este sentido por ejemplo, sopesan el impacto de ideas economicistas como eficiencia y productividad, que si bien pueden ser perseguibles en educación, su significado e implementación es muy diverso a otros campos. De esta manera los autores advierten que ciertas verdades y dinámicas de deseo que se establecen desde las tecnologías construyen discursos de la gobernanza que ceden a la técnica y a los técnicos hacedores de los los dispositivos y procesos de decisión basados en IA un valor de verdad que se solapa y se encima al de los actores educativos. Estos dispositivos se convierten en actores de las decisiones aunque su construcción se origina muchas veces en lógicas ajenas al campo.

Algunas reflexiones

No es novedad que los algoritmos tanto los presentes en software como en hardware consolidan lógicas de campos en donde ellas se producen, y contienen como todas las tecnologías razones, discursos e intereses propios de quienes las crearon, con mayor o menor impacto en los usos posteriores de las mismas. Eso ocurre tanto con un software o con la IA como con un secador de pelo o un banco de plaza. No obstante, sí podemos pensar y estar de acuerdo con los autores que la IA es capaz de producir a través de su utilización una falsa sensación de autoridad y definir caminos trazados en su diseño que no son del todo auditables como tampoco dirigibles luego de entrenar el modelo, lo que ya es reconocido por muchos como los sesgos del aprendizaje automático. También podemos acordar con ellos en que las formas de gobernanzas basadas en datos, o lo que ellos describen como una parte más del proceso de datificación puede a su vez crear la sensación de estar gestionando con datos cuando en realidad se está gestionando con un modelo de decisión extraño y ajeno, y que las mensurabilidad no siempre significa objetividad. Esta discusión es también propia de cualquier proceso científico de medición, definir la dimensión a medir y sus indicadores es tan propio de la ciencia como luego criticarlos por parte de otros científicos que los vean parciales, sesgados o mal definidos, y no debería ser en sí mismo un problema. En todo caso como en el resto de los desarrollos de IA y procesos de medición se debe definir lo que se conoce como capa semántica acorde a los intereses propios del ámbito educativo y valiéndose de equipos multidisciplinares y con las salvedades del caso, sabiendo que no todo conviene realizarlo por medio de procesos de inferencia. Y si bien puede ocurrir que los educadores no comprendan los procesos de construcción y puesta a punto de sistemas de aprendizaje automático eso no los inhabilita a juzgarlos por sus resultados o participar activamente en su diseño, del mismo modo que los médicos que están probando estas herramientas para diagnosticar el cáncer no requieren conocer sus pormenores sino su efectividad en producir resultados válidos en relación a su conocimiento profesional. Del mismo modo que los doctores son fundamentales para suministrar los datos con que las IA es entrenada. 

Proponen los autores una política sintética como respuesta a la gobernanza sintética. Política tal que se reconozca interna a este proceso de la toma de decisiones algorítmica y del pensamiento automatizado, y que comprenda esta etapa como una más de las múltiples iteraciones de esta adaptación entre procesos de decisión y tecnologías. En este sentido podemos acordar con ellos en que no existe una exterioridad absoluta a los procesos tecnológicos en general y a estos en particular. No obstante ello cierta distancia crítica para evaluar el producto de su adaptación y sobre todo las lógicas que proponen es siempre necesaria. En todo caso será importante el modo en que los educadores se involucren en la producción y evaluación de estas tecnologías que moldean la gobernanza, de modo de que se desarrollen en base a criterios internos de necesidad del campo educativo en lugar de que transmita acríticamente lógicas externas provenientes de sus usinas de ideación.

En todo caso vale destacar que este libro no apunta tanto a los procesos educativos de transmisión de cultura, cosa que nos ha movilizado últimamente, sino a los de gobernanza educativa y la transformación de la misma a través de la incorporación de la IA.

*Autores Kalervo N. Gulson, Sam Sellar, P. Taylor Webb: “Basándonos en nuestras exploraciones de las cuatro áreas anteriores, examinamos cómo el pensamiento automatizado en los contextos de gobernanza educativa puede producir no solo nuevos procesos de toma de decisiones, sino también nuevos conocimientos y deseos que pueden desafiar las formas existentes de entender la gobernanza”. https://manifold.umn.edu/projects/algorithms-of-education