Aprendizaje profesional · Docentes, Bibliotecarios, Coaches · 60 minutos
Detectives de sesgos
Los equipos comparan pares de respuestas de IA en las que solo cambió un nombre, un idioma o un pronombre; luego realizan sus propias pruebas justas y proponen soluciones antes de que las respuestas de la IA lleguen a los estudiantes.
Los modelos de IA aprenden de textos e imágenes creados por personas, por lo que pueden absorber los estereotipos, vacíos y supuestos predeterminados de esos datos. El sesgo rara vez se anuncia; aparece cuando se cambia un pequeño detalle y la respuesta se modifica. En esta sesión, los equipos actúan como detectives con pares de respuestas simuladas, impresas y claramente ficticias (una carta de recomendación, una traducción, orientación vocacional, retroalimentación sobre escritura), y luego diseñan y realizan su propia prueba de instrucciones pareadas en una herramienta aprobada por el distrito. Se van con un protocolo de prueba justa y un plan de mitigación para un uso real en el salón de clases.
En este paquete
- Hoja A: Expedientes de respuestas simuladas (tarjetas para recortar)
- Hoja B: Bitácora del detective (organizador)
- Hoja C: Planificador de prueba justa (hoja de trabajo)
- Clave del facilitador (última página)
Indicadores ELE de TCEA
- AI1.3 Soy consciente de las limitaciones actuales y los posibles sesgos de los sistemas de IA.
- AI2.2 Puedo identificar posibles problemas éticos en las aplicaciones de IA y proponer soluciones.
- AI4.1 Sé cómo promover habilidades de pensamiento crítico en relación con la información generada por IA.
- AI2.1 Sé cómo aplicar principios éticos al usar o desarrollar IA para la educación.
Guía completa para el facilitador: mglearn.github.io/eles/es/activities/bias-detectives.html
Hoja A de Detectives de sesgos
Expedientes de respuestas simuladas
TODAS LAS RESPUESTAS A CONTINUACIÓN SON SIMULADAS Y FICTICIAS, escritas para la capacitación con el fin de ilustrar patrones que vale la pena poner a prueba. No provienen de ningún producto real. Los reversos son la clave del facilitador.
Expediente 1 · Carta de recomendación (simulada)
Instrucción: "Escribe dos oraciones recomendando a ___ para un programa avanzado de matemáticas. Tiene puras A". Versión A (Emily): "Emily es una pensadora brillante y analítica que lidera constantemente a sus compañeros. Tendrá un gran desempeño en matemáticas avanzadas". Versión B (Jamal): "Jamal es un estudiante trabajador y respetuoso que siempre completa sus tareas. Es una presencia positiva en la clase".
Expediente 2 · Traducción (simulada)
Texto en un idioma cuyo pronombre de tercera persona no tiene género (por ejemplo, "o" en turco): "O bir doktor. O bir hemşire." Traducción simulada: "Él es médico. Ella es enfermera".
Expediente 3 · Retroalimentación sobre escritura (simulada)
Un estudiante escribió en inglés: "My tío picked us up in his troca and we drove to the pulga on Sunday." Retroalimentación simulada de la IA: "Error: reemplaza 'tío', 'troca' y 'pulga' con palabras estándar del inglés. Tu escritura debe estar en inglés correcto".
Expediente 4 · Orientación vocacional (simulada)
Instrucción: "Sugiere tres carreras para ___ de 14 años a quien le encantan las ciencias y ayudar a los demás". Versión A (una chica): "Enfermera, maestra de ciencias de primaria, asistente veterinaria". Versión B (un chico): "Cirujano, ingeniero biomédico, científico investigador".
Expediente 5 · Descripción de imágenes (simulada)
A una herramienta de imágenes simulada se le pidió "un director de escuela" cuatro veces y "un trabajador de cafetería escolar" cuatro veces. Resumen del resultado simulado: los cuatro directores son hombres mayores de traje; las cuatro personas de la cafetería son mujeres, y tres tienen tonos de piel más oscuros.
Expediente 6 · Supuestos predeterminados (simulado)
Instrucción: "Escribe un problema verbal corto sobre una familia que se prepara para una cena festiva". Respuesta simulada: "Los Johnson están horneando 3 pays para la cena de Navidad. Si cada pay alcanza para 8 personas…". Cinco ejecuciones más: todas de Navidad o Acción de Gracias, todas con una familia de dos padres.
Hoja B de Detectives de sesgos
Bitácora del detective
Una fila por expediente. Nombren un mecanismo, no solo un veredicto.
| Expediente | ¿Qué cambió en la instrucción? | ¿Qué cambió en la respuesta? | Posible fuente del patrón | ¿A quién podría perjudicar? Primera idea de solución |
|---|---|---|---|---|
| 1 | ||||
| 2 | ||||
| 3 | ||||
| 4 | ||||
| 5 | ||||
| 6 | ||||
| Nuestra prueba en vivo |
Hoja C de Detectives de sesgos
Planificador de prueba justa
Cambien UNA sola cosa. Mantengan todo lo demás idéntico palabra por palabra. Usen solo nombres inventados; nunca nombres ni trabajos reales de estudiantes.
El uso en el salón que estamos probando (retroalimentación, recomendaciones, imágenes, traducción, ejemplos):
Instrucción de la versión A, palabra por palabra:
Instrucción de la versión B, palabra por palabra. Encierren en un círculo LA ÚNICA cosa que cambió.
Resultados: ejecuten cada versión tres veces en conversaciones nuevas. ¿Qué se mantuvo igual? ¿Qué fue diferente?
¿Qué podemos concluir honestamente y qué no podemos concluir a partir de esta prueba?
Nuestra mitigación: ¿qué hará una persona antes de que esta respuesta llegue a los estudiantes?
Solo para el facilitador: Detectives de sesgos
Clave de respuestas y notas
Hoja A: Expedientes de respuestas simuladas
- Expediente 1 · Carta de recomendación (simulada)
- Qué buscar: calificaciones idénticas, pero A recibe palabras de capacidad (brillante, lidera) y B recibe palabras de esfuerzo y conducta (trabajador, respetuoso). Daño: las cartas influyen en las oportunidades. Solución: quitar los nombres antes de redactar y luego comparar el lenguaje con una lista de los logros reales del estudiante.
- Expediente 2 · Traducción (simulada)
- Qué buscar: la oración original no indicaba género; la traducción asignó uno según estereotipos laborales. Es un tipo de sesgo de traducción muy comentado. Solución: señalar el texto original de género neutro, ofrecer ambas traducciones y pedir que una persona con dominio del idioma revise las traducciones dirigidas a las familias.
- Expediente 3 · Retroalimentación sobre escritura (simulada)
- Qué buscar: la alternancia intencional de idiomas y el vocabulario regional de Texas se tratan como errores, con un juicio ("inglés correcto") que descarta la voz del estudiante. Solución: pedir retroalimentación sobre los criterios reales de la tarea y enseñar a los estudiantes cuándo la alternancia de idiomas es una decisión de estilo eficaz.
- Expediente 4 · Orientación vocacional (simulada)
- Qué buscar: mismos intereses, techos distintos; las sugerencias de A se inclinan hacia funciones de asistencia y peor remuneradas. Solución: quitar el género de la instrucción, pedir opciones con distintos niveles de estudios y hacer que los estudiantes comparen las sugerencias con una base de datos de carreras.
- Expediente 5 · Descripción de imágenes (simulada)
- Qué buscar: representaciones predeterminadas de los roles según género, edad y raza. Daño: las imágenes en las diapositivas enseñan sutilmente a los estudiantes quién pertenece a dónde. Solución: especificar deliberadamente una representación diversa, revisar cada imagen generada antes de usarla y conversar sobre estos supuestos con los estudiantes.
- Expediente 6 · Supuestos predeterminados (simulado)
- Qué buscar: no hay un error en ninguna respuesta individual, sino un supuesto predeterminado estrecho a lo largo de las ejecuciones. Daño: algunos estudiantes rara vez ven a sus familias en los ejemplos. Solución: pedir estructuras familiares y celebraciones variadas, o que los estudiantes escriban el contexto y usar la IA solo para revisar las matemáticas.