Aprendizaje estudiantil · Grados 6–8, Grados 9–12 · 50 minutos
Sesgo en la máquina
Los estudiantes leen seis respuestas ficticias de IA desde distintas perspectivas, descubren a quién se estereotipa o quién falta, y reescriben las instrucciones para corregirlo.
La IA generativa aprende de enormes cantidades de textos e imágenes hechos por personas, así que puede repetir los patrones de ese material, incluidos los estereotipos y los puntos ciegos. En esta actividad, los equipos leen seis respuestas ficticias e impresas de un chatbot a instrucciones cotidianas. Cada integrante lee con un Lente de perspectiva diferente, de modo que el grupo nota más cosas en conjunto de las que notaría cualquiera por su cuenta. Los equipos nombran la suposición de cada respuesta, identifican quién falta y reescriben la instrucción o la respuesta para que funcione para más personas.
En este paquete
- Hoja A: Respuestas ficticias de IA (lectura)
- Hoja B: Organizador ¿Quién falta? (organizador)
- Hoja C: Lentes de perspectiva y reescritura (hoja de trabajo)
Indicadores ELE de TCEA
- AI1.3 Soy consciente de las limitaciones actuales y los posibles sesgos de los sistemas de IA.
- S3.3 Soy consciente del valor de las diversas perspectivas en el trabajo en grupo.
- AI2.2 Puedo identificar posibles problemas éticos en las aplicaciones de IA y proponer soluciones.
- S3.2 Puedo comunicar mis ideas con claridad a los demás.
- T3.3 Soy consciente de las diferencias culturales y de cómo influyen en el aprendizaje.
Guía completa para el facilitador: mglearn.github.io/eles/es/activities/bias-in-the-machine.html
Hoja A de Sesgo en la máquina
Respuestas ficticias de IA
Estas respuestas se escribieron para esta lección para mostrar patrones que pueden producir las herramientas de IA reales. Lee cada una con tu Lente de perspectiva y resalta lo que notes.
1Respuesta 1. Instrucción: "Escribe una historia de dos oraciones sobre el personal médico y de enfermería de un hospital". Respuesta: "El Dr. Adams entró corriendo a la sala de emergencias, repasando mentalmente todas las posibilidades. Su enfermera, Emily, le entregó el expediente con una sonrisa tranquilizadora y se aseguró de que el paciente estuviera cómodo".
2Respuesta 2. Instrucción: "Describe cómo se ve la persona que dirige una empresa, para una ilustración". Respuesta: "Un hombre seguro de sí mismo, de unos cincuenta años, con un traje azul marino hecho a la medida y el cabello canoso bien peinado, de pie en una oficina de cristal en lo alto de un rascacielos, contemplando la ciudad".
3Respuesta 3. Instrucción: "Sugiere cinco nombres de personajes para una historia que ocurre en un pueblo de Texas en la frontera". Respuesta: "Aquí tienes cinco nombres: Jake Miller, Emma Johnson, Tyler Brooks, Ashley Carter y Cody Davis".
4Respuesta 4. Instrucción: "Describe una cena familiar típica". Respuesta: "Una cena familiar típica incluye a una mamá, un papá y sus dos hijos sentados alrededor de la mesa. Mamá sirve pastel de carne, puré de papas y ejotes mientras papá les pregunta a los niños cómo les fue en la escuela".
5Respuesta 5. Instrucción: "Da consejos de estudio a un estudiante de sexto grado que se está atrasando en matemáticas". Respuesta: "1. Mira las clases gratuitas en video por internet todas las noches. 2. Busca un cuarto tranquilo en tu casa donde puedas concentrarte. 3. Pídeles a tus papás que revisen tu tarea antes de dormir. 4. Usa una app de matemáticas en tu tableta durante el fin de semana".
6Respuesta 6. Instrucción: "Planea una celebración de invierno para nuestra clase". Respuesta: "Decoren el salón con un árbol de Navidad y botas navideñas, pongan villancicos, pidan a los estudiantes que escriban cartas a Santa Claus y terminen con un intercambio de regalos en el que cada estudiante traiga un regalo de $20".
Hoja B de Sesgo en la máquina
Organizador ¿Quién falta?
Completa al menos cuatro filas. Cita las palabras exactas de la respuesta como evidencia.
| Respuesta n.º | Suposición que hizo la IA | Palabras que lo muestran | ¿Quién queda fuera o estereotipado? | Nuestra corrección (mejor instrucción o texto corregido) |
|---|---|---|---|---|
| 1 | ||||
| 2 | ||||
| 3 | ||||
| 4 | ||||
| 5 | ||||
| 6 |
Hoja C de Sesgo en la máquina
Lentes de perspectiva y reescritura
Recorten los cuatro lentes de arriba y denle uno a cada integrante del equipo. Completen en equipo las secciones de abajo.
Lente 1 · Género y roles: ¿Quién recibe qué trabajo, qué acción o qué personalidad? ¿Cambiaría la historia si los intercambiaras?
Lente 2 · Cultura, idioma y nombres: ¿Qué nombres, comidas, celebraciones y tradiciones aparecen? ¿Cuáles no?
Lente 3 · Dinero y acceso: ¿Qué supone la respuesta que las personas tienen, pueden pagar o tienen en casa?
Lente 4 · Familia, edad y capacidades: ¿Qué tipos de familias, edades y cuerpos imagina la respuesta? ¿Quién más existe?
Nuestro equipo notó ___ cosas que solo UN lente detectó. La más importante fue:
La respuesta que elegimos corregir, y nuestra mejor instrucción O nuestra respuesta corregida:
Aun con una mejor instrucción, ¿por qué una persona todavía necesita revisar el resultado?