Todas las actividades Aprendizaje profesional
Los educadores se convierten en un diminuto modelo de lenguaje con papelitos y un vaso, y descubren de primera mano por qué un texto fluido de IA puede estar equivocado con total seguridad.
Los chatbots de IA generativa no buscan datos como lo hace un buscador o una base de datos. Generan texto prediciendo una y otra vez el siguiente fragmento de texto más probable, a partir de patrones aprendidos de enormes cantidades de datos de entrenamiento. En esta sesión sin pantallas, los equipos “entrenan” a mano un modelo de lenguaje de diez oraciones, generan oraciones nuevas sacando papelitos de un vaso y luego le hacen a su modelo una pregunta sobre un dato. Las respuestas fluidas, verosímiles y equivocadas que salen son la explicación más memorable de las alucinaciones que la mayoría de los educadores recibirá jamás, y una que pueden usar con sus estudiantes al día siguiente.
Enganche
Diga despacio: “Había una…” y deje que el grupo la termine (“vez”). Luego: “Arroz con…” (“leche”). Luego: “La capital de Francia es…” (“París”). Pregunte: “¿Buscaron alguna de esas respuestas o las predijeron?” Dígales: “Hoy se van a convertir en un modelo de lenguaje. Uno muy pequeño. Al final podrán explicarle a cualquiera por qué la IA a veces inventa cosas”.
Nota para el facilitadorLa tercera oración es intencional. Predecir y saber un dato pueden sentirse idénticos desde dentro. Esa es toda la sesión en un solo momento.
Explorar
Los equipos leen la Hoja A, la “biblioteca de entrenamiento” de diez oraciones. En la Hoja B cuentan, para cada palabra de la lista, qué palabra vino justo después cada vez que apareció (ignoren las mayúsculas; cuenten cada punto como la palabra FIN). Luego escriben un papelito por cada marca de conteo; por ejemplo, a la palabra “el” le sigue “maestro” cuatro veces, así que escriben cuatro papelitos de “maestro” y los archivan bajo “el”. Agrupen los papelitos según la palabra inicial en montoncitos o sobres.
Nota para el facilitadorEsto es el “entrenamiento”: convertir un texto en estadísticas sobre qué suele seguir a qué. Los equipos que preguntan “¿y el significado?” están haciendo exactamente la pregunta correcta. El modelo nunca capta el significado, solo patrones.
Practicar
Los equipos sacan la Tarjeta 1 de la Hoja C. Empiecen con “El”. Pongan en el vaso todos los papelitos que siguen a “el”, agítenlo, saquen uno y escríbanlo. Ahora vacíen el vaso y metan los papelitos que siguen a esa palabra. Sigan hasta sacar FIN. Generen al menos cuatro oraciones. Lean en voz alta la mejor (y la peor) y publíquenlas en el rotafolio “Nuestro modelo dijo…”. Esperen joyas como “El director abrió el premio en mayo”.
Nota para el facilitadorSeñale que el sorteo es aleatorio pero ponderado: “maestro” sale más a menudo después de “el” porque apareció más veces en el entrenamiento. Por eso la misma instrucción (prompt) puede dar respuestas distintas en distintos intentos.
Aplicar
Los equipos sacan las Tarjetas 4–6, las preguntas sobre datos. Para “¿Quién ganó el concurso de ortografía en junio?”, generan una respuesta empezando con “El” y sacando papelitos hasta FIN, y solo vuelven a empezar si la oración no menciona el concurso de ortografía. Anoten las respuestas. La mayoría de los equipos obtiene algo fluido y específico, como “El maestro ganó el concurso de ortografía en junio”, que no aparece en ninguna parte del texto de entrenamiento. Pregunte: “¿Su modelo está mintiendo?”
Nota para el facilitadorAsiente la idea clave: el modelo no miente ni está “confundido”. No tiene ningún mecanismo para comprobar la verdad. Produjo una continuación que suena probable, que es exactamente para lo que fue construido. Eso es una alucinación.
Modelar
Repase en voz alta las Tarjetas 7–9. Los modelos reales (1) trabajan con tokens, a menudo fragmentos de palabras, no palabras completas; (2) consideran un tramo largo del contexto anterior, no solo la palabra previa; (3) aprenden miles de millones de pesos numéricos en una red neuronal en lugar de guardar montones literales de conteos; y (4) se ajustan además con retroalimentación humana para que sean útiles y sigan instrucciones. Algunas herramientas también buscan en la web o en un documento e incorporan lo que encuentran a la instrucción, lo que ayuda pero no garantiza la exactitud. Luego pregunte: “¿Qué sigue igual?” (El resultado se genera prediciendo texto probable a partir de patrones aprendidos. La fluidez no es evidencia de verdad).
Nota para el facilitadorResista la tentación de decir “no es más que un autocompletado”. Es mucho más capaz que eso, y quienes después vean una respuesta sólida se sentirán engañados. Diga en cambio: “Es predicción a una escala enorme, y por eso es a la vez impresionante y poco confiable de maneras específicas”.
Crear
Cada participante saca la Tarjeta 10 y escribe una explicación de un minuto sobre las alucinaciones para su propio público: estudiantes de segundo grado, estudiantes del último año de preparatoria, un padre de familia o un senado académico. Debe incluir (1) la predicción a partir de patrones, (2) por qué eso puede producir afirmaciones falsas y (3) algo que hacer al respecto (verificar en una fuente confiable). Las parejas se leen mutuamente su explicación en voz alta y dan un comentario de “claro” y uno de “¿exacto?”.
Nota para el facilitadorEsté atento a explicaciones que caigan en “busca la información” o “piensa”. Reoriéntelas con amabilidad hacia “predice palabras probables”.
Reflexionar
Cierre con: “Sabiendo cómo funciona esto, ¿en qué parte de su materia sería más probable que la respuesta de un chatbot de IA suene correcta y esté equivocada?” Anote las respuestas en el rotafolio. Opcional: proyecte el chatbot aprobado por su distrito y hágale la pregunta local o poco conocida que preparó. Compare su fluidez con la del modelo de papel.
Nota para el facilitadorRespuestas típicas: historia local, acontecimientos recientes, citas concretas y números de página, estadísticas muy especializadas, nombres de personas de pueblos pequeños. Son zonas con pocos datos, donde la invención verosímil es más probable.
Toda la sesión es sin pantallas por diseño. Los vasos, los papelitos y la hoja de conteo hacen física la maquinaria invisible: los participantes literalmente sostienen las probabilidades en sus manos. Omita la comparación opcional con el chatbot o sustitúyala por la Tarjeta 11, una respuesta de chatbot simulada e impresa, para comentar el mismo patrón.
Para una sesión virtual, comparta la Hoja A en un documento compartido, pida a los equipos que hagan el conteo en una tabla compartida y use cualquier herramienta de selección aleatoria cargada con las palabras de los papelitos (ingresadas tantas veces como se contaron) en lugar del vaso. El facilitador puede cerrar proyectando un chatbot aprobado por el distrito y haciendo la misma instrucción tres veces para mostrar la variación que produce el muestreo. Los participantes no necesitan cuentas.
¿Necesita una pantalla? Esta actividad funciona mejor sin pantallas. Sacar papelitos ponderados de un vaso hace tangibles la predicción y el azar como ninguna demostración en pantalla, y mantiene la atención en el concepto y no en un producto concreto. La comparación opcional con un chatbot en vivo solo aporta una cosa: ver que un sistema real muestra el mismo patrón de fluidez sin verificación.
Lo que debería poder ver o recopilar si funcionó.
Los educadores construyen a mano una tabla de frecuencias de la siguiente palabra y observan cómo "alucina", un modelo listo para el aula de cómo la IA generativa predice a partir de patrones.
Realice la Diminuta biblioteca de entrenamiento con sus estudiantes esta semana (las Tarjetas 1–6 están listas para el aula) y luego pida a cada estudiante que escriba una explicación de dos oraciones sobre las alucinaciones como boleto de salida. Lleve cinco boletos a su PLC (comunidad de aprendizaje profesional) y clasifíquenlos: ¿lenguaje de predicción o lenguaje de búsqueda?
