Primero pensar, después preguntar a la IA

En 2021, 199 personas hicieron una tarea con ayuda de una inteligencia artificial. La tarea era sencilla: decidir si un plato cumplía una dieta. Lo que se medía era otra cosa: si la gente comprobaba lo que la IA le decía. La IA se equivocaba a propósito parte de las veces. Y los participantes aceptaban sus respuestas erróneas casi igual que las correctas. Ni siquiera cuando la IA explicaba por qué. Lo único que funcionó fue obligarles a pensar antes de mirar la respuesta. Y esa condición fue la que peor valoraron.

El estudio es de Zana Buçinca, Maja Malaya y Krzysztof Gajos, de la Universidad de Harvard. Se publicó en 2021 en CSCW, una de las conferencias de referencia sobre cómo las personas usan la tecnología. Su punto de partida incomoda a quienes confiamos en que la IA explique sus respuestas: añadir explicaciones no reduce la aceptación a ciegas. En algunos estudios, la aumenta.

La razón está en cómo pensamos. Tenemos dos modos: uno rápido y automático, que usamos casi todo el tiempo, y otro lento y con esfuerzo, que reservamos para cuando algo nos obliga. La psicología lo llama teoría del doble proceso. Con una IA delante, casi nadie analiza cada respuesta una por una. Nos hacemos una regla general, del tipo «esta herramienta suele acertar», y a partir de ahí aceptamos sin leer. La explicación pasa por delante de los ojos y no llega al modo lento.

Para romper esa regla, los autores tomaron una idea de la medicina de urgencias. Pat Croskerry (2003) describió lo que llamó estrategias de forzamiento cognitivo: pasos que obligan al médico a detenerse antes de cerrar un diagnóstico, para que no se quede con la primera hipótesis que encaja. Trasladado a la IA, una función de forzamiento cognitivo es una condición de la tarea que impide aceptar la respuesta sin haber pensado antes. Buçinca y sus colegas diseñaron tres.

Las tres funciones redujeron la aceptación de respuestas erróneas. Las dos condiciones que solo añadían explicaciones, no. El precio apareció en las encuestas: los diseños que más ayudaron fueron los peor valorados. Y hubo un segundo resultado que nos parece el más importante para la universidad. Hay personas a las que les gusta pensar y personas a las que les cuesta. La psicología mide esa diferencia y la llama necesidad de cognición. Las funciones ayudaron más a las primeras. Quien menos ganas tiene de pensar es quien menos aprovecha la obligación de hacerlo.

Cinco funciones de forzamiento para una asignatura

Nada de esto exige programar nada. Una función de forzamiento es una condición de la tarea, y las condiciones de la tarea las pone el docente. Las cinco que siguen están escritas para una asignatura universitaria donde los estudiantes tienen acceso libre a asistentes como ChatGPT, Claude o Gemini. Cada una se apoya en uno de los tres diseños de Harvard o en el hallazgo de Gajos y Mamykina.

Un aviso sobre la primera función. Decidir antes redujo la aceptación a ciegas en el experimento de Harvard. Pero en el de Gajos y Mamykina no produjo aprendizaje por sí sola: la gente cambiaba su decisión al ver la de la IA y seguía adelante. Por eso la función no termina en el borrador previo. Termina en la comparación escrita entre las dos versiones.

La tercera función es la que más nos convence, y también la más fácil de saltarse. Basta con abrir otro chat sin restricciones. Por eso la combinamos con la primera: si existe un borrador previo, la pista sin respuesta tiene sobre qué trabajar y el docente tiene con qué comparar. Las funciones de forzamiento no impiden el atajo. Lo hacen más caro que el camino recto. En la mayoría de los estudiantes, con eso basta.

El precio que hay que asumir

Los participantes de Harvard puntuaron peor lo que más les ayudó. Con estudiantes ocurrirá lo mismo, y las encuestas de satisfacción de final de semestre lo recogerán. Nuestra posición es aceptar ese coste y explicarlo el primer día de clase: el asistente estará disponible, pero con condiciones, y las condiciones existen porque la respuesta servida enseña poco. Decirlo con el estudio en la mano cambia la conversación.

El segundo coste es más serio. Si las funciones ayudan más a quien ya disfruta pensando, aplicarlas sin más puede ampliar la distancia entre estudiantes. La salida que vemos es que cada función lleve un apoyo. La predicción previa se hace con una plantilla de tres preguntas. La ventana de espera trae una tarea concreta para esos veinte minutos. La justificación viene con un ejemplo resuelto. Forzar a pensar sin decir cómo empezar castiga a quien menos recursos tiene.

Fernando Santamaría · @IAforTeachers