Aprendizaje profesional · Líderes, Bibliotecarios, Coaches, Docentes · 60 minutos
La lista de verificación de la caja de cristal
Los equipos analizan a fondo la vistosa ficha técnica de un proveedor ficticio de IA, clasifican las preguntas que realmente importan y crean una lista de verificación de transparencia y rendición de cuentas que pueden usar con herramientas reales.
Las herramientas de IA llegan a las escuelas con un marketing lleno de seguridad: "segura", "imparcial", "basada en la investigación", "personalizada". La transparencia significa poder ver qué hay detrás de esas palabras: qué hace la herramienta, qué datos usa, dónde falla y quién responde cuando se equivoca. En esta sesión, los equipos leen la ficha técnica de un proveedor ficticio, clasifican un banco de preguntas de evaluación y crean una lista de verificación breve que convierte las garantías vagas en preguntas que se pueden responder. Luego ponen a prueba la lista con la documentación publicada de una herramienta que su distrito ya usa o está considerando.
En este paquete
- Hoja A: Ficha técnica simulada de un proveedor: BrightPath Writing Coach (lectura)
- Hoja B: Clasificación de preguntas (clasificación de tarjetas)
- Hoja C: Lista de verificación inicial de la caja de cristal (lista de verificación)
- Clave del facilitador (última página)
Indicadores ELE de TCEA
- AI2.3 Soy consciente de la importancia de la transparencia y la rendición de cuentas en los sistemas de IA.
- AI2.1 Sé cómo aplicar principios éticos al usar o desarrollar IA para la educación.
- AI1.3 Soy consciente de las limitaciones actuales y los posibles sesgos de los sistemas de IA.
Guía completa para el facilitador: mglearn.github.io/eles/es/activities/glass-box-checklist.html
Hoja A de La lista de verificación de la caja de cristal
Ficha técnica simulada de un proveedor: BrightPath Writing Coach
PRODUCTO Y EMPRESA FICTICIOS, redactados para la capacitación. Resalta en un color las afirmaciones verificables y en otro las afirmaciones vagas.
1BrightPath Writing Coach: Cada estudiante, un escritor seguro de sí mismo. BrightPath usa inteligencia artificial avanzada para dar a cada estudiante retroalimentación instantánea y personalizada sobre su escritura, las 24 horas del día. Los docentes ahorran horas cada semana.
2Cómo funciona. Los estudiantes pegan o escriben su texto. Nuestro motor de IA exclusivo lo analiza y devuelve retroalimentación sobre organización, evidencia, gramática y estilo, además de una calificación estimada según la rúbrica. La retroalimentación la genera un modelo de lenguaje grande con licencia de un proveedor de IA externo, personalizado con la experiencia en escritura de BrightPath.
3Basado en la investigación. BrightPath se fundamenta en la ciencia de la enseñanza de la escritura y está comprobado que acelera el progreso de los estudiantes.
4Seguro y justo. BrightPath está libre de sesgos y es apropiado para todos los estudiantes, incluidos los estudiantes de inglés y los estudiantes con discapacidades. Nuestra IA nunca comete errores que un docente no detectaría.
5Sus datos. La escritura de los estudiantes se almacena de forma segura en la nube. Podemos usar escritos de estudiantes sin datos de identificación para mejorar nuestros servicios y podemos compartir datos con socios de confianza. Las cuentas se pueden eliminar comunicándose con soporte técnico.
6Control del docente. Los docentes pueden ver toda la retroalimentación de los estudiantes en el panel. Las calificaciones estimadas se pueden sincronizar automáticamente con su libro de calificaciones.
7Edades. Diseñado para los grados 3–12. La configuración toma menos de 5 minutos; los estudiantes inician sesión con su cuenta escolar.
Hoja B de La lista de verificación de la caja de cristal
Clasificación de preguntas
Recorta las tiras. Clasifica cada pregunta en la categoría donde mejor encaje y luego marca con una estrella tus cinco preguntas innegociables.
Cómo funciona y sus límites
Datos y privacidad
Rendición de cuentas y reclamos
Evidencia de aprendizaje
Hoja B de La lista de verificación de la caja de cristal
Clasificación de preguntas: tarjetas para clasificar
Recorta las tiras. Coloca cada una en el tapete de clasificación y prepárate para explicar por qué.
Página 1 de 2
¿Qué tipo de IA produce el resultado, y el proveedor indica qué partes son generadas y cuáles se basan en reglas?
¿Qué limitaciones conocidas o casos de falla publica el proveedor?
¿Se ha probado qué tan bien funciona la herramienta para estudiantes de inglés, estudiantes con discapacidades y diferentes dialectos?
¿La herramienta les indica a los estudiantes cuándo el contenido fue generado por IA?
¿Se usan los trabajos de los estudiantes para entrenar o mejorar modelos de IA, y el distrito puede excluirse?
¿Quiénes son los "socios de confianza" y qué reciben?
¿Cuánto tiempo se conservan los datos de los estudiantes y se eliminan automáticamente cuando termina el contrato?
¿La herramienta cumple los requisitos del acuerdo de privacidad de datos del distrito para los registros estudiantiles?
¿Quién es responsable cuando la retroalimentación o la calificación estimada está equivocada: el docente, el distrito o el proveedor?
¿Puede un docente revisar y corregir cada calificación antes de que llegue al libro de calificaciones?
¿Cómo puede un estudiante o una familia cuestionar o apelar una decisión influida por la IA?
¿Cómo notifica el proveedor a las escuelas sobre cambios en el modelo de IA o en las prácticas de datos?
Hoja B de La lista de verificación de la caja de cristal
Clasificación de preguntas: tarjetas para clasificar
Recorta las tiras. Coloca cada una en el tapete de clasificación y prepárate para explicar por qué.
Página 2 de 2
¿Qué evidencia independiente muestra que la escritura de los estudiantes mejora, y no solo que usaron la herramienta?
¿Qué evidencia recogerán nuestros propios docentes para decidir si la herramienta está ayudando?
Hoja C de La lista de verificación de la caja de cristal
Lista de verificación inicial de la caja de cristal
Tacha, agrega y reescribe elementos para que cada uno se pueda responder a partir de la documentación o de una respuesta del proveedor. Anota dónde encontraste cada respuesta.
| Sí | En parte | No / No se encontró | |
|---|---|---|---|
| El proveedor indica con claridad lo que la IA hace y lo que no hace. | |||
| El proveedor publica sus limitaciones conocidas y casos de falla. | |||
| Se ha verificado el desempeño en distintos grupos de estudiantes (idioma, discapacidad, dialecto) y se han compartido los resultados. | |||
| Los estudiantes pueden saber cuándo el contenido fue generado por IA. | |||
| Los datos de los estudiantes no se usan para entrenar modelos de IA, o el distrito puede excluirse. | |||
| Se nombran todos los terceros que reciben datos de los estudiantes. | |||
| Se indican los plazos de conservación y eliminación de los datos. | |||
| La herramienta está cubierta por un acuerdo de privacidad de datos del distrito. | |||
| Un docente revisa y puede corregir los resultados de la IA antes de que afecten las calificaciones o la ubicación de los estudiantes. | |||
| Se indica quién es responsable de los errores, y los estudiantes o las familias tienen una forma de cuestionar los resultados. | |||
| El proveedor notifica a las escuelas sobre cambios en el modelo o en las prácticas de datos. | |||
| Hay evidencia, más allá de los datos de uso, de que la herramienta mejora el aprendizaje, y tenemos un plan para recoger nuestra propia evidencia. |
Notas
Solo para el facilitador: La lista de verificación de la caja de cristal
Clave de respuestas y notas
Hoja B: Clasificación de preguntas
| Elemento | Categoría | Por qué |
|---|---|---|
| ¿Qué tipo de IA produce el resultado, y el proveedor indica qué partes son generadas y cuáles se basan en reglas? | Cómo funciona y sus límites | Saber que es un modelo de lenguaje grande te indica que debes esperar retroalimentación fluida pero a veces equivocada. |
| ¿Qué limitaciones conocidas o casos de falla publica el proveedor? | Cómo funciona y sus límites | Un proveedor que nombra sus límites es más confiable que uno que afirma no tener ninguno. |
| ¿Se ha probado qué tan bien funciona la herramienta para estudiantes de inglés, estudiantes con discapacidades y diferentes dialectos? | Cómo funciona y sus límites | "Libre de sesgos" no es una afirmación comprobable; los resultados por grupo de estudiantes sí lo son. |
| ¿La herramienta les indica a los estudiantes cuándo el contenido fue generado por IA? | Cómo funciona y sus límites | Los usuarios no pueden aplicar su criterio a un resultado de IA si no saben que es de IA. |
| ¿Se usan los trabajos de los estudiantes para entrenar o mejorar modelos de IA, y el distrito puede excluirse? | Datos y privacidad | "Mejorar nuestros servicios" puede incluir el entrenamiento de modelos. |
| ¿Quiénes son los "socios de confianza" y qué reciben? | Datos y privacidad | Compartir datos con terceros sin nombrarlos es una falta de transparencia. |
| ¿Cuánto tiempo se conservan los datos de los estudiantes y se eliminan automáticamente cuando termina el contrato? | Datos y privacidad | "Comunicarse con soporte técnico" no es una política de conservación de datos. |
| ¿La herramienta cumple los requisitos del acuerdo de privacidad de datos del distrito para los registros estudiantiles? | Datos y privacidad | Los acuerdos del distrito establecen reglas exigibles que los términos para consumidores no incluyen. |
| ¿Quién es responsable cuando la retroalimentación o la calificación estimada está equivocada: el docente, el distrito o el proveedor? | Rendición de cuentas y reclamos | La responsabilidad debe definirse antes de que algo salga mal. |
| ¿Puede un docente revisar y corregir cada calificación antes de que llegue al libro de calificaciones? | Rendición de cuentas y reclamos | La sincronización automática elimina el momento de decisión humana. |
| ¿Cómo puede un estudiante o una familia cuestionar o apelar una decisión influida por la IA? | Rendición de cuentas y reclamos | Las vías de reclamo son lo que hace que la transparencia tenga sentido para la persona afectada. |
| ¿Cómo notifica el proveedor a las escuelas sobre cambios en el modelo de IA o en las prácticas de datos? | Rendición de cuentas y reclamos | Los modelos se actualizan; una herramienta aprobada el año pasado puede comportarse de otra manera ahora. |
| ¿Qué evidencia independiente muestra que la escritura de los estudiantes mejora, y no solo que usaron la herramienta? | Evidencia de aprendizaje | Los minutos de uso no son evidencia de aprendizaje. |
| ¿Qué evidencia recogerán nuestros propios docentes para decidir si la herramienta está ayudando? | Evidencia de aprendizaje | La evidencia local importa más que las afirmaciones publicitarias. |