Enganche
¿Caja de cristal o caja negra?
Muestre un frasco de vidrio transparente y una caja opaca (o dos imágenes). Pregunte: "Si una herramienta de IA hiciera una recomendación sobre un estudiante, ¿cuál de estas dos querrían que fuera?" Luego: "La mayoría de las herramientas de IA son, al menos en parte, cajas negras; ni siquiera sus creadores pueden explicar del todo cada resultado. La transparencia no significa ver cada engranaje. Significa saber lo suficiente para decidir si confiar en ella y saber quién responde cuando se equivoca".
Nota para el facilitadorEste es un punto técnico honesto: los modelos grandes no pueden dar una razón completa, paso a paso, de cada resultado. Aun así, los proveedores pueden ser transparentes sobre el propósito, los datos, las pruebas, los límites y la rendición de cuentas.