Fortalezas y debilidades de ChatGPT en el aula

Los chatbots tienen un alcance limitado y unos resultados singulares, pero son noticia y fascinan a la gente, lo cual es bueno. En los tres últimos meses, millones de usuarios han puesto a prueba el potencial y los límites de ChatGPT, un bot desarrollado por la empresa OpenAI para escribir correos electrónicos, código de programación, poemas e incluso actividades académicas. Este chatbot ha aprobado recientemente un examen de posgrado (MBA) en una universidad norteamericana, lo que ha provocado más admiración y alarma si cabe. En respuesta, algunos docentes están modificando exámenes y tareas para adaptarse a esta herramienta.

Aunque muchos usuarios están asombrados por lo impresionante y natural que puede llegar a ser el resultado, eso no significa que sea útil para todo. De hecho, los humanos deberían preocuparse menos de que ChatGPT les deje sin trabajo y más de que les deje sin trabajo alguien que sepa utilizar eficazmente esta tecnología. Por ello, se describen a continuación algunas debilidades y fortalezas de los modelos de lenguaje, así como ejemplos prácticos de su posible uso en el aula.

Debilidades de los modelos de lenguaje

ChatGPT parece tener tres objetivos: ser útil, ser veraz y no ser ofensivo. Sin embargo, en su intento de ser útil (y no ofensivo), de vez en cuando tiene alucinaciones digitales y se inventa cosas. Además, al usar ChatGPT se puede descubrir que solo es capaz de responder satisfactoriamente a preguntas de definición y uso de conceptos, pero que no tiene habilidades en la resolución de problemas. Por otro lado, cuando las preguntas son difíciles y requieren una comprensión más profunda, ChatGPT ofrece respuestas escritas con elegancia, pero que pasan por alto la situación planteada y, por tanto, que llegan a una conclusión equivocada. También comete errores de cálculo, lo cual puede sorprender por tratarse de un modelo informático.

Fortalezas de los modelos de lenguaje

Como asistente virtual

ChatGPT resulta útil explicando conceptos y poniendo ejemplos. Sin embargo, no es de fiar como motor de búsqueda o fuente de información. Por tanto, las respuestas que produce y que no se puedan verificar fácilmente deberían ser puestas en cuarentena.

También puede ayudar a generar perspectivas diferentes para entender cómo perciben las cosas diversos sectores de la sociedad. Esto puede tener implicaciones en nuestro sistema educativo. En lugar de responder a preguntas, podría pedirse a los estudiantes que escriban preguntas para el bot y evalúen sus respuestas en función de las distintas perspectivas planteadas.

Generando ideas innovadoras (brainstorming)

La supercreatividad es un concepto emergente en Inteligencia Artificial (IA). En palabras de Sebastian Thrun, fundador de Google X: "Ni siquiera hemos empezado a comprender lo creativa que llegará a ser la IA. Si coges todo el conocimiento y la creatividad del mundo y lo metes en una botella, te sorprenderá lo que saldrá de ella". Esta capacidad de colaborar con la IA para crear mejores resultados e ideas innovadoras será cada vez más importante en el futuro. Sin embargo, necesitamos desarrollar procesos para que los humanos supervisen la IA y garanticen que lo que genera sea confiable.

Adaptando conceptos a múltiples situaciones (transferencia)

Una competencia importante, tanto en la educación como en el mercado laboral, es la capacidad de transferir lo aprendido a la práctica. La transferencia requiere una comprensión profunda de un concepto. Al principio, cuando las personas aprenden un nuevo concepto en un contexto determinado, a menudo no lo reconocen cuando lo vuelven a encontrar en otro contexto diferente. Esto es así porque tendemos a centrarnos en los aspectos concretos de cualquier problema o situación, y también porque la aplicación de los conocimientos a un nuevo contexto requiere una comprensión más profunda. Para utilizar lo aprendido previamente, las personas tienen que reconocer que el problema es el mismo pero en un nuevo contexto.

Es difícil demostrar que se produce la transferencia, y más difícil enseñar a la gente a transferir conocimientos. Pero la IA puede ayudar porque es buena inventando situaciones. Es una forma barata de ofrecer a las personas muchos ejemplos, algunos de los cuales podrían ser inexactos, necesitar más explicaciones o simplemente no ser muy realistas.

Una posible aplicación en el aula podría ser que los estudiantes pidan a la IA que cree escenarios que apliquen un concepto que hayan aprendido en clase: crea un guion de Harry Potter que explique la inflación en la economía de un país; muestra un guion de dos escenas donde unos alienígenas lideren una empresa innovadora en la Tierra; o escribe una canción que utilice la derivada y el análisis marginal, por ejemplo. Y, a continuación, pedir a los alumnos que critiquen y profundicen en estos modelos, y que sugieran posibles mejoras.

De esta forma, la capacidad de generar infinitos ejemplos convincentes (pero ligeramente erróneos) de la aplicación de un concepto permite abordar la transferencia de una forma novedosa.

Rompiendo la ilusión de profundidad explicativa

Creemos que entendemos el mundo mucho mejor de lo que lo hacemos, lo que nos hace estar menos dispuestos a aprender. Es lo que se denomina ilusión de profundidad explicativa, un sesgo cognitivo que se produce cuando una persona sobrestima su comprensión de un concepto o fenómeno. Este sesgo suele caracterizarse por la capacidad de una persona para ofrecer una explicación detallada y aparentemente bien informada de un tema, a pesar de su grado real de comprensión, más bien limitado. Por ejemplo, la mayoría de nosotros no podemos explicar cómo puede volar un avión, cómo funciona un motor o incluso cómo se fabrica un lápiz, pero nos hacemos la ilusión de que tenemos un conocimiento profundo del tema. Los estudiantes también pueden caer fácilmente en esta ilusión, suponiendo que entienden cómo funciona algo cuando, en realidad, solo tienen un conocimiento superficial del tema.

Romper la ilusión requiere enfrentarse a la propia ignorancia, lo que puede ser una experiencia molesta y humillante, y difícil de llevar a cabo para los docentes. Así que dejar que la IA lo haga por ti puede ser una buena alternativa.

Una posible aplicación en el aula podría ser que los estudiantes piden a la IA que les explique paso a paso un concepto concreto, algo que a la IA se le da muy bien. A continuación, los estudiantes deben mejorar este resultado añadiendo información y cuestionando algunos aspectos: ¿qué falta?; ¿qué falla?

Se pretende con esta actividad que los estudiantes añadan, eliminen y combinen aspectos, utilizando su propia investigación, hasta que lleguen a comprender el concepto y se den cuenta de lo complejo que es en realidad, al tiempo que logran cierto dominio sobre él.

El poder de enseñar a alguien

Cuando los estudiantes escuchan la explicación de un concepto, a menudo sienten que lo entienden, pero esa sensación no siempre es acertada. Una forma eficaz de llevar los conceptos de la teoría a la práctica es enseñar a otra persona, evaluar su trabajo y darle consejos de mejorar. Como sabe cualquier docente, el acto de enseñar a otra persona y evaluar su trabajo mejora considerablemente nuestro propio conocimiento de un tema.

Actuando como ‘estudiante’, la IA puede proporcionar conversaciones sobre un tema para que los alumnos las critiquen y mejoren. El objetivo de este ejercicio es que la IA elabore un discurso sobre un tema y, a continuación, ‘trabaje con el estudiante’ para que mejore la redacción, añadiendo nueva información, aclarando aspectos, añadiendo ideas y aportando evidencias. De esta forma, aprovechamos la propensión de la IA a simplificar temas complejos y su falta de análisis profundo como excusa para que el estudiante aporte indicios de su comprensión.

En esta actividad, el docente proporciona a los alumnos un tema de redacción para la IA y ellos tendrán que darle sugerencias de mejora. Los alumnos pegarán el ensayo original, sus sugerencias y el resultado final. El proceso les incentivará a pensar de forma crítica sobre el contenido y a articular sus ideas de forma clara y concisa. Puede que tengan que buscar información adicional para rellenar los huecos que puedan faltar en la redacción de la IA o comprobar con otras fuentes los hechos que presenta la IA. Por lo menos, con esta actividad los estudiantes podrán reconocer lo difícil que puede llegar a ser enseñar y evaluar el trabajo de otros.