Aprendizaje profesional · Líderes, Docentes, Profesorado universitario, Coaches · 70 minutos
Tribunal de Casos de Ética de la IA
Los educadores llevan a juicio usos ficticios de la IA en la calificación, la supervisión de exámenes, la detección y el monitoreo, y luego emiten fallos con condiciones que podrían convertirse en políticas reales.
Las escuelas y universidades ya están tomando decisiones importantes con la IA: califican escritos, señalan posibles casos de trampa, monitorean los dispositivos de los estudiantes y predicen quién podría abandonar los estudios. Estos usos pueden ahorrar tiempo y detectar problemas reales, pero también pueden perjudicar a los estudiantes que tienen menos poder para defenderse. En esta sesión de juicio simulado, pequeños tribunales debaten casos ficticios con la ayuda de una tarjeta de principios éticos para el tribunal y luego dictan un fallo: "permitido", "permitido con condiciones" o "no permitido". Las condiciones que redactan se convierten en un borrador de orientaciones prácticas para su propio campus.
En este paquete
- Hoja A: Expedientes de casos (tarjetas para recortar)
- Hoja B: Tarjeta ética del tribunal (organizador)
- Hoja C: Formulario de fallo y remedio (hoja de trabajo)
- Clave del facilitador (última página)
Indicadores ELE de TCEA
- AI2.2 Puedo identificar posibles problemas éticos en las aplicaciones de IA y proponer soluciones.
- AI2.1 Sé cómo aplicar principios éticos al usar o desarrollar IA para la educación.
- AI2.3 Soy consciente de la importancia de la transparencia y la rendición de cuentas en los sistemas de IA.
- AI1.3 Soy consciente de las limitaciones actuales y los posibles sesgos de los sistemas de IA.
Guía completa para el facilitador: mglearn.github.io/eles/es/activities/ai-ethics-case-court.html
Hoja A de Tribunal de Casos de Ética de la IA
Expedientes de casos
Todas las personas, escuelas y productos son ficticios. El reverso es la clave para el facilitador: los problemas que un buen tribunal debería sacar a la luz.
Caso 1 · Calificación de ensayos con ayuda de la IA
En Maple Hollow High, una maestra de inglés con 160 estudiantes usa una herramienta de IA para calificar ensayos con una rúbrica y redactar comentarios. Revisa al azar aproximadamente uno de cada diez. A los estudiantes no se les dice que se usó IA. Las calificaciones pasan directamente al registro de calificaciones.
Caso 2 · Detector de escritura con IA
Cedar Ridge Middle School pasa cada ensayo por un detector de escritura con IA. Luisa, que llegó de Guatemala hace dos años, es señalada con "alta probabilidad de IA". La política asigna un cero automático a menos que ella pueda demostrar que lo escribió. No tiene borradores guardados.
Caso 3 · Supervisión remota de exámenes (educación superior)
Bluebonnet Community College exige un software de supervisión por cámara web para los exámenes en línea. El software señala "comportamientos sospechosos", como apartar la mirada o el ruido de fondo. Un estudiante con un trastorno de tics es señalado en todos los exámenes; el rostro de otra estudiante no se detecta de forma constante con poca luz en un apartamento compartido.
Caso 4 · Monitoreo de dispositivos
Pecan Valley ISD usa un software de IA que analiza las búsquedas y los mensajes de los estudiantes en las cuentas escolares para detectar señales de autolesión o violencia, y alerta al personal del campus las 24 horas, los 7 días de la semana. Señala este mensaje: "Mañana en las pruebas del equipo la voy a matar". Un consejero y un policía visitan la casa del estudiante de noche.
Caso 5 · Predicción de abandono escolar
Riverbend ISD adopta un modelo que predice qué estudiantes de noveno grado están "en riesgo" de no graduarse, a partir de la asistencia, las calificaciones, la disciplina y el código postal. Cada maestro ve una etiqueta roja, amarilla o verde junto al nombre de cada estudiante.
Caso 6 · Cartas del profesorado (educación superior)
Una profesora de Bluebonnet Community College escribe 40 cartas de recomendación al año. Pega los nombres, las calificaciones y las historias personales de sus estudiantes en un chatbot de IA de uso comercial para redactarlas, y luego las edita un poco. Los estudiantes no lo saben.
Caso 7 · Chatbot tutor de IA
Lone Oak Elementary pone a prueba un chatbot ficticio, "BrightPath Tutor", para matemáticas de 4.º grado. Ayuda a los estudiantes que se atoran. El contrato permite al proveedor conservar las conversaciones de los estudiantes para "mejorar el producto". A las familias se les envió un aviso de una sola línea, solo en inglés.
Hoja B de Tribunal de Casos de Ética de la IA
Tarjeta ética del tribunal
Jueces: usen las preguntas para interrogar a ambas partes. Marquen el principio que más pesa en su fallo.
| Principio | Preguntas que hace el tribunal | Lo que escuchamos (notas) |
|---|---|---|
| Beneficio para el aprendizaje | ¿Qué aporta esto al aprendizaje o al bienestar de los estudiantes? ¿Qué evidencia lo demuestra? | |
| Privacidad | ¿Qué datos se recopilan, quién los ve, cuánto tiempo se conservan y podrían usarse para otra cosa? | |
| Equidad | ¿Podría funcionar peor, o causar más daño, para algunos grupos (idioma, discapacidad, raza, ingresos)? | |
| Transparencia | ¿Saben los estudiantes y las familias que interviene la IA y, a grandes rasgos, cómo funciona? | |
| Rendición de cuentas | ¿Quién es responsable cuando se equivoca? ¿Existe una apelación real? | |
| Supervisión humana | ¿Una persona toma la decisión final, con el tiempo y la capacitación para hacerlo bien? | |
| Voz | ¿Se consultó a las personas afectadas (estudiantes, familias, profesorado)? |
Hoja C de Tribunal de Casos de Ética de la IA
Formulario de fallo y remedio
Los jueces completan este formulario en voz alta durante la deliberación. Las condiciones deben ser lo bastante específicas como para que alguien pueda verificar si se cumplieron.
Caso y veredicto (encierren uno en un círculo): PERMITIDO · PERMITIDO CON CONDICIONES · NO PERMITIDO
El principio que más pesó en nuestro fallo y el detalle del caso que inclinó la balanza:
El argumento más sólido de la parte que perdió:
Condiciones (quién hace qué y cuándo). Al menos tres, o expliquen por qué ninguna condición sería suficiente:
Lo que puede hacer el estudiante afectado si cree que la IA se equivocó:
¿Quién podría seguir quedando excluido o salir perjudicado con nuestro fallo?
Solo para el facilitador: Tribunal de Casos de Ética de la IA
Clave de respuestas y notas
Hoja A: Expedientes de casos
- Caso 1 · Calificación de ensayos con ayuda de la IA
- Problemas: transparencia (no se informa a los estudiantes), rendición de cuentas (¿de quién es la calificación?), supervisión humana (90 % sin revisar), equidad (¿califica más bajo los dialectos no estándar o las estructuras poco comunes?), beneficio para el aprendizaje (la retroalimentación más rápida es real). Condiciones sólidas: informar sobre el uso, que la maestra revise cada calificación final, que los comentarios de la IA sean solo borradores.
- Caso 2 · Detector de escritura con IA
- Problemas: se sabe que los detectores de escritura con IA no son confiables, y hay preocupaciones publicadas sobre falsos positivos en escritores cuya lengua materna no es el inglés. La carga de la prueba recae en la estudiante. Fallos sólidos: el resultado del detector por sí solo nunca provoca una sanción; la evidencia proviene del proceso (borradores, conversación, escritura en clase).
- Caso 3 · Supervisión remota de exámenes (educación superior)
- Problemas: privacidad (video del hogar), equidad (discapacidad, iluminación, y preocupaciones sobre el tono de piel y las cámaras planteadas por estudiantes y defensores), adaptaciones, acceso (no todos tienen igual acceso a un espacio tranquilo y privado). Condiciones: una persona revisa las alertas antes de tomar cualquier medida, una vía para solicitar adaptaciones, opciones de evaluación alternativas.
- Caso 4 · Monitoreo de dispositivos
- Problemas: la seguridad de los estudiantes es un objetivo genuino y serio; también están en juego la privacidad, los falsos positivos, quién recibe las alertas, el proceso de escalamiento y el efecto inhibidor sobre la expresión de los estudiantes. Condiciones: un filtro humano capacitado antes de cualquier escalamiento, un alcance claro comunicado a las familias, límites para la conservación de datos, revisión de los patrones de falsas alarmas.
- Caso 5 · Predicción de abandono escolar
- Problemas: usar el código postal puede incorporar desigualdades; las etiquetas pueden moldear las expectativas de los maestros; ¿pueden los estudiantes o las familias ver o impugnar la etiqueta? Beneficio: apoyo más temprano. Condiciones: eliminar las variables sustitutas, mostrar las etiquetas solo al personal de apoyo, usar la predicción para ofrecer ayuda y nunca para limitar oportunidades; revisar la precisión por grupo estudiantil.
- Caso 6 · Cartas del profesorado (educación superior)
- Problemas: privacidad (expedientes estudiantiles ingresados en una herramienta sin un acuerdo institucional), transparencia, autenticidad (una carta refleja el juicio personal de quien la escribe), sesgo en las palabras de elogio generadas. Condiciones: usar solo herramientas aprobadas por la institución, no incluir datos identificables, informar sobre el uso, que la profesora escriba ella misma los juicios de fondo.
- Caso 7 · Chatbot tutor de IA
- Problemas: uso de los datos por parte del proveedor, edad de los usuarios, aviso significativo a las familias (acceso lingüístico), si el tutor da respuestas en lugar de pistas, evidencia de aprendizaje. Condiciones: límites contractuales sobre el uso y la eliminación de datos, aviso en los idiomas de las familias, que un maestro supervise, medir el aprendizaje y no los minutos de uso.