A otro bot con ese cuento

Como una oleada creciente o una ráfaga súbita e imparable, en los distintos niveles educativos se viene corroborando un mismo malestar: docentes que se enfrentan a producciones de sus estudiantes hechas con inteligencia artificial. Por supuesto, no es el único malestar que habita las aulas de los distintos niveles educativos, ni tal vez el más dramático, pero el tema está a la orden del día y suscita acalorados debates.

El documento circuló por algunos medios y reunió adhesiones de distintos especialistas. Originalmente, surgió a pedido del Boletín de la Biblioteca del Congreso de la Nación y se publicará en su número 139. Por su parte, la Facultad de Ciencias Exactas y Naturales de la UBA compartió una versión extendida como un “documento para el debate de temas de interés público”. El escrito, lejos de presentar respuestas cerradas, permite abrir interrogantes y pensar a futuro las múltiples posibilidades que tiene el sistema educativo ante este reto.

Las cosas no están del todo saldadas ni para quienes lo firman. Sus autores, Fernando Schapachnik y Andrea Goldin, se enfrascaron en un intenso debate interno y en un arduo rastreo de evidencias científicas. Según plasmaron allí, su principal preocupación es “el dañino efecto para el aprendizaje que está provocando en las aulas la presencia de un cierto tipo de inteligencia artificial, los chatbots del estilo ChatGPT”.

“La evidencia científica muestra que, lejos de favorecer el aprendizaje, lo perjudican: disminuyen nuestra capacidad de pensar”.

La distinción resulta importante. Suele hablarse de “inteligencia artificial” en general para referirse a cuestiones muy diferentes. “Estos chatbots, sustentados en una tecnología llamada Large Language Models (LLMs) son solo una forma de la IA. Hay muchas otras, con usos en la producción, en la medicina, en el transporte”, precisan en el documento. De esta manera, señalan que sus críticas apuntan únicamente a estos modelos de lenguaje.

“La evidencia científica muestra que, lejos de favorecer el aprendizaje, lo perjudican: disminuyen nuestra capacidad de pensar”, concluyen. Y llaman a reforzar el pensamiento crítico, ya que “sostiene nuestra capacidad de entender el mundo”. “Es como un músculo que a veces da pereza ejercitar, y es por eso que una de las misiones de la educación es brindarnos las herramientas para vencer esa inercia”, sostienen.

Prohibición, ¿sí o no?

“Creo que nos perdemos una gran oportunidad”, enfatiza Andrea Goldin, investigadora del Laboratorio de Neurociencia de la Universidad Torcuato Di Tella, al pensar en la posibilidad de una prohibición lisa y llana. “Si estamos ante un tema fundamental, que va a seguir sucediendo, y del que tenemos evidencia de que está funcionando cada vez peor, entonces es una pena perdernos la posibilidad de intentar hacer algo, porque en sus casas, en el barrio o en la calle no se van a encontrar con el fomento de una mirada y de una ejercitación distinta sobre el tema. Eso se puede hacer desde la escuela”, completa la investigadora.

Fernando Schapachnik, por su parte, no descarta la prohibición, aunque acuerda en la necesidad de un uso diferente. “Yo no tengo ningún problema con la prohibición. Por ejemplo, ¿le vamos a explicar a los chicos que está mal maltratar a un compañero? Sí, pero además, lo vamos a prohibir. Estoy dispuesto a ello porque lo que se estaría preservando es algo más valioso, que es la capacidad de pensar”, remarca el investigador del CONICET en el Instituto de Ciencias de la Computación de Exactas UBA.

“Las maestras y profes comenzaron a sentir la presión de que si en sus clases no se usaba IA se estaban quedando atrás”.

“En el artículo planteamos que hay un falso debate sobre la prohibición porque, muchas veces, en temas de educación, aparece la idea de no prohibir en función de explicar por qué algo es malo. Yo no veo la contradicción. Por eso damos el ejemplo del tabaco. Hay ciertos tipos de prácticas que no tienen lugar dentro de la escuela, salvo como objeto de estudio”, agrega.

Ambos acuerdan con la necesidad que tendría la escuela de preparar para “el mundo real”, pero remarcan que eso no significa replicar sin ninguna problematización sus vicios. “Para mí, son básicas las habilidades que vamos a necesitar sí o sí en un futuro: tener flexibilidad, tolerancia a la frustración, ejercitar la tenacidad y el pensamiento crítico para, eventualmente, aprender a aprender. Pero para aprender cualquier cosa abstracta y holística, hacen falta, antes, muchos niveles de concretitud. Y en ese sentido, no estoy tan segura de que no sea necesario que estos modelos de lenguaje estén en la escuela, porque el hecho de tenerlos y ver en vivo cómo son les quita abstracción”, comparte Goldin.

“Si hablamos de que en una clase se puede abordar cómo es y funciona un LLM, me parece deseable. La crítica apunta a que se lo use constantemente”, señala Schapachnik. Y suma: “Cuando aparecieron, en la industria del software se invitaba a usarlos todo el tiempo, incluso otorgando premios a los empleados que más lo hacían. En las escuelas terminó pasando algo parecido: todas las maestras y profes comenzaron a sentir la presión de que si en sus clases no se usaba IA se estaban quedando atrás. Principalmente, estamos discutiendo eso”.

“Estoy de acuerdo, pero para mí lo ideal no es prohibirlo, sino enseñarlo bien, aprenderlo bien como sociedad, entender de dónde salen los sesgos, a dónde van nuestros datos. Entendiendo esto, podemos ver de qué manera nos pueden servir y con qué limitaciones”, responde Goldin, quien además es investigadora del CONICET y colaboradora del Laboratorio de Inteligencia Artificial Aplicada de Exactas UBA.

Pérdida cognitiva, cultura achatada

En el artículo, ambos argumentan sobre los principales problemas del uso más difundido y cotidiano que se hace con estos modelos de lenguaje. Desde su aspecto más técnico, los contenidos y el tipo de respuesta que se obtiene. Desde el neurocientífico, la dificultad para generar y reforzar los esquemas mentales necesarios para el aprendizaje.

“Para aprender cualquier cosa, se necesita una práctica dirigida, progresiva y sostenida. Si no se ejercita, esa capacidad no se desarrolla o, si se había desarrollado, se va empobreciendo”.

“Para aprender cualquier cosa, se necesita una práctica dirigida, progresiva y sostenida. Si no se ejercita, lo que termina sucediendo es que esa capacidad no se desarrolla o, si se había desarrollado, se va empobreciendo. Es equivalente a practicar un deporte. Si el uso que se hace es el más extendido con los LLM –esto es: ‘dame el tema resuelto’–, entonces, no hay prácticas ni ejercitación, ni se organiza el pensamiento para dar forma a ciertas ideas, que es lo que está sustentado por los esquemas mentales, la manera en la cual se organiza nuestra cognición”, explica Goldin.

La investigadora agrega que los esquemas mentales necesitan tiempo para consolidarse. “Para lograr incorporar cualquier pieza de información en una estructura de conocimiento como lo es un esquema mental, hace falta tiempo, práctica, repetición y error, en caso contrario, no funciona. Entonces, el hecho de que el chat devuelva una tarea resuelta, no me permite armar ese esquema sólidamente”, resume.

Schapachnik comenta que, además, los chatbots fácilmente le dan la razón al usuario. “Están entrenados para ser malos desafiando ideas”, remarca. Goldin agrega: “Si insisto con mi pensamiento y el chat me da la razón, no me permite desestructurar o desacomodar mi respuesta. En ese sentido, van en detrimento. Cuanto menos se practica, más débiles se vuelven todos estos esquemas, entonces, vas perdiendo conocimiento y habilidad para generar y desarrollar más conocimientos y habilidades”.

Por otro lado, el contenido obtenido abarca otras limitaciones. “Estos modelos no implican razonamiento ni mucho menos ´superinteligencia´, son sólo una forma avanzada de la estadística que produce muy buenos resultados. Es un muy buen truco, un objeto probabilístico que genera texto”, explica el investigador. Y suma: “En la ciencia ficción, las computadoras o robots tienen capacidad de introspección, pero al preguntarle a un LLM por qué llegó a determinada conclusión, lo que hace es generar un texto que tiene la mayor probabilidad de ser la respuesta a eso que le dijeron antes, no examinan un estado mental ni hay una representación interna del conocimiento”.

“¿En comparación con qué cosa es la respuesta más probable? –se pregunta Goldin–, eso es fundamental. Es en comparación con lo que tiene, y en ese sentido, vale pensar en dos cuestiones: el problema de la veracidad de la mayor parte de la información de Internet y el hecho de que, principalmente, está en inglés. Ante esto último, hay un sesgo importante en las fuentes de donde estos modelos pueden estar aprendiendo que nos repercute especialmente a los latinoamericanos”, señala. “Por ejemplo, preguntamos sobre las Islas Malvinas, y responde que están en disputa, que los isleños las nombran como Falklands, y la verdad es que en la escuela eso no corresponde, son argentinas”, ilustra Schapachnik.

Goldin alerta, a su vez, sobre otra consecuencia: el achatamiento cultural: “Es recursivo y termina convergiendo en que todos hacemos lo mismo. Estamos perdiendo cultura. Yo los uso para editar textos en inglés, porque hablo y escribo, pero no soy nativa. Si tengo que recortar palabras o caracteres puedo utilizarlos. Ahora bien, muchas veces, me quedo con mi opción. Y esa opción, tal vez, no es la más común, no utiliza la palabra más probable, pero hay palabras que son hermosas, si usamos siempre las palabras más probables, nos quedamos con muy poco”.

Las habladurías del mundo

“Estamos en un momento histórico en el que esto es más importante que nunca porque frecuentemente afloran ciertas ideas tóxicas”, afirman Schapachnik y Goldin en el trabajo. Se refieren al lugar creciente que vienen teniendo las fake news, las pseudociencias y ciertas visiones anticientíficas –como las antivacunas o el terraplanismo– en el debate público. “Sostener el rol de la escuela como lugar de ejercicio del pensamiento puede ser nuestra principal esperanza como sociedad”, completan.

“Estos modelos no implican razonamiento ni mucho menos ´superinteligencia´, son sólo una forma avanzada de la estadística”.

Lo cierto es que ante la invasión de este tipo de discursos fantasiosos, que relativizan verdades consolidadas, la escuela tiene mucho por hacer. ¿No podrían ser, acaso, los modelos de lenguaje unos grandes aliados para obtener buena información y derribar mitos nocivos? La respuesta tampoco es homogénea para ambos autores. Schapachnik contrapone: “Quien postule que esos usos existen, que presente el artículo científico revisado por pares que lo respalda”.

“Más allá de personas bien intencionadas, el contexto es que hay una acción deliberada de las más grandes empresas tecnológicas para vender productos para la educación. En nuestro país, la inversión educativa es un bien escaso, entonces la pregunta es doble: no sólo si esto funciona, sino también si no se podría poner dinero en algo más tradicional, como la capacitación docente. Se produce, entonces, una situación extraña en donde se invierte la carga de la prueba. Se nos dice que mostremos que es seguro que no funciona, cuando en verdad es al revés: si se propone una tecnología nueva para usar en educación, se deberían mostrar las pruebas de que funciona y que es mejor que otros métodos”, completa el investigador.

“Fuimos entendiendo que hace falta tener suficiente nivel de experiencia y de conocimientos previos para que te sirvan acotadamente, y entender esa acotación –comenta Goldin–. Eso no es lo que sucede en la inmensa mayoría de las aulas, todavía falta mucha información”. En ese sentido, remarcan la cotidianeidad de los estudiantes, la presión por el tiempo, las pocas ganas, la percepción de distancia entre el nivel de sus propias producciones y la elaboración maquínica. “Hay una serie de elementos muy fuertes que, para alguien cuyas capacidades de autorregulación están aún en formación, es muy difícil resistirse. También lo es para los adultos”, refuerza Schapachnik.

Según Goldin, en términos adaptativos y de economía de recursos, siempre que podamos, las personas tomamos los trayectos cognitivos que menos esfuerzo demanden. En ese sentido, contar con un chat que lo resuelve todo, es demasiado tentador. “El problema no sólo es que no lo resuelve bien, sino que vas perdiendo el ejercicio de ese pensamiento. Entonces, teóricamente, un LLM podría servir para ejercitar el pensamiento crítico y permitir que te animes a preguntar o a decir algo que frente a otros no te animarías, pero, en la práctica, ni los sistemas están preparados para eso ni las personas demandan generalmente eso”, concluye la investigadora.

El escrito recupera diferentes trabajos científicos que dan cuenta de cómo estos modelos de lenguaje dificultan la tarea educativa y el aprendizaje. Experimentos en donde se comparan grupos de trabajo que utilizan esta tecnología para resolver una tarea frente a grupos que no lo hacen. Los diferentes resultados refuerzan la idea de que, a fin de cuentas, el aprendizaje se dificulta al utilizarlos. Quienes los usaron para resolver sus tareas, no logran, después, reponer lo que hicieron. Eso no ocurre en los casos en que se trabajó sin la asistencia de un chatbot.

“La verdad es que la evidencia que fuimos encontrando es bastante sólida hacia un lado”, sintetiza Goldin. El artículo permite discutir el lugar que hoy debe tener la escuela. Para los autores, se trata del lugar donde no repetimos la sociedad que existe, sino que fomentamos la que deseamos que exista.