Todas las actividades Aprendizaje profesional
Los equipos comparan pares de respuestas de IA en las que solo cambió un nombre, un idioma o un pronombre; luego realizan sus propias pruebas justas y proponen soluciones antes de que las respuestas de la IA lleguen a los estudiantes.
Los modelos de IA aprenden de textos e imágenes creados por personas, por lo que pueden absorber los estereotipos, vacíos y supuestos predeterminados de esos datos. El sesgo rara vez se anuncia; aparece cuando se cambia un pequeño detalle y la respuesta se modifica. En esta sesión, los equipos actúan como detectives con pares de respuestas simuladas, impresas y claramente ficticias (una carta de recomendación, una traducción, orientación vocacional, retroalimentación sobre escritura), y luego diseñan y realizan su propia prueba de instrucciones pareadas en una herramienta aprobada por el distrito. Se van con un protocolo de prueba justa y un plan de mitigación para un uso real en el salón de clases.
Enganche
Proyecte el Expediente 1 (dos cartas de recomendación simuladas que difieren solo en el nombre del estudiante). Dé 60 segundos de lectura en silencio y luego pregunte: "Misma instrucción, mismas calificaciones, un solo cambio. ¿Qué más cambió?" Pida que digan palabras en voz alta. Resalte "brillante, analítica" frente a "trabajador, respetuoso".
Nota para el facilitadorDiga claramente: "Estas son respuestas ficticias escritas para la capacitación. Ilustran un patrón que vale la pena poner a prueba, no una afirmación sobre ningún producto. Más adelante ustedes mismos probarán una herramienta real".
Explorar
Los equipos trabajan con los Expedientes 2–6. En cada uno, resaltan con un color lo que cambió en la instrucción y con el otro lo que cambió en la respuesta; luego completan una fila de la Hoja B: el patrón, una posible fuente (datos de entrenamiento, un supuesto predeterminado, el diseño), a quién podría perjudicar en el salón de clases y una primera idea para solucionarlo.
Nota para el facilitadorLleve a los equipos más allá de "la IA es racista/sexista" hacia el mecanismo: "Si la mayoría de los textos de los que aprendió asociaban 'enfermera' con 'ella', ¿qué haría un sistema que predice la siguiente palabra?". El mecanismo conduce a la mitigación.
Modelar
Repase las reglas de la Hoja C usando el Expediente 4 (orientación vocacional). Una prueba justa cambia solo una variable (nombre, pronombre o idioma), mantiene todo lo demás idéntico palabra por palabra, ejecuta cada versión al menos tres veces en conversaciones nuevas porque las respuestas varían por azar, y registra la redacción exacta. Modele un par en vivo en la herramienta aprobada proyectada y regístrelo con el grupo.
Nota para el facilitadorEl mayor error de las pruebas de sesgo improvisadas es sacar conclusiones de una sola ejecución. Una respuesta extraña es una anécdota; un patrón repetido en ejecuciones nuevas es evidencia.
Practicar
Cada equipo diseña en la Hoja C una instrucción pareada que sea importante para sus estudiantes: retroalimentación sobre el mismo párrafo con dos nombres distintos, la traducción de una oración con un pronombre de género neutro, sugerencias de libros para "un niño" frente a "una niña", la descripción de "una familia" o de "un científico". Los equipos la ejecutan en la herramienta aprobada (o piden al facilitador que la ejecute en el proyector) tres veces por versión y registran lo que sucedió. Nada de nombres ni trabajos reales de estudiantes. Usen nombres inventados y un párrafo escrito por ustedes.
Nota para el facilitadorSi un equipo no encuentra ninguna diferencia, celébrelo y pídale que lo informe. Es útil saber que una herramienta trata ambas versiones por igual en esta prueba, aunque eso no demuestra que esté libre de sesgos.
Análisis
Cada equipo presenta una prueba en 60 segundos: qué cambiaron, qué observaron en las ejecuciones y una solución. Publiquen los hallazgos en "Patrones que encontramos" y las soluciones en "Soluciones que usaríamos". Luego pregunte: "¿Cuáles de estas soluciones son un truco de instrucción y cuáles son un paso de juicio humano?" Encierre en un círculo las soluciones de juicio humano (revisar antes de compartir, quitar los nombres antes de pedir retroalimentación, comparar con una segunda fuente, dejar que los estudiantes critiquen la respuesta).
Nota para el facilitadorLas instrucciones ("evita los estereotipos") pueden reducir algunos problemas, pero no son una garantía. Las mitigaciones más sólidas mantienen a una persona tomando las decisiones y hacen que la revisión de sesgos forme parte del trabajo de los estudiantes.
Transferir
Cada persona nombra una forma en que las respuestas de IA podrían llegar a sus estudiantes el próximo mes (lecturas generadas, retroalimentación, imágenes para diapositivas, cartas traducidas para las familias) y escribe en el reverso de la Hoja C la salvaguarda que usará. En parejas se preguntan: "¿Quién podría quedar excluido o mal representado, y cómo te darías cuenta?"
Nota para el facilitadorLas cartas traducidas para las familias son un punto ciego frecuente. Sugiera que una persona con dominio del idioma revise toda carta traducida con IA antes de enviarla a casa.
Realicen los expedientes, la bitácora del detective y el diseño de la prueba justa completamente en papel. En el paso de práctica, los equipos escriben sus instrucciones pareadas y los resultados que predicen; el facilitador ejecuta algunas más tarde en la herramienta aprobada y comparte los resultados en la siguiente reunión, o los equipos intercambian sus diseños de prueba y evalúan si son justos (una variable, ejecuciones repetidas, redacción exacta).
Los equipos con acceso aprobado para el personal ejecutan sus instrucciones pareadas en su propio dispositivo; si no, el facilitador las ejecuta en el proyector. Registren los resultados en una hoja de cálculo compartida con las columnas de la Hoja B para que todo el personal vea los patrones de muchas pruebas. En un LMS (sistema de gestión del aprendizaje), publiquen los expedientes como foro de discusión y pidan a los equipos que respondan con las filas de su bitácora.
¿Necesita una pantalla? La prueba en vivo es el momento en que los participantes dejan de ver el sesgo como un titular y empiezan a verlo como algo que pueden comprobar. Ejecutar la misma instrucción tres veces también muestra el azar de manera directa, lo que evita que las personas saquen conclusiones exageradas de una sola respuesta. Es evidencia que el papel no puede ofrecer.
Lo que debería poder ver o recopilar si funcionó.
Los docentes diseñan una prueba justa con instrucciones emparejadas que cambia una sola variable y repite las pruebas, preparando a los estudiantes para investigar el sesgo de la IA con prácticas científicas.
Con estudiantes de 6.º grado en adelante, proyecte un expediente simulado y una instrucción pareada que usted mismo haya ejecutado; luego pida a los estudiantes que diseñen su propia prueba justa en papel. Recoja sus diseños de prueba como evidencia de que pueden cuestionar una respuesta de IA, no solo consumirla.
