Aprendizaje estudiantil · Grados 9–12 · 75 minutos
Autopsia de un algoritmo
Los estudiantes diseccionan las funciones de diseño de una app social ficticia, rastrean cómo cada una moldea la atención y las creencias, y rediseñan el feed pensando en las personas en lugar de en la interacción.
Los sistemas de recomendación son una forma de IA que la mayoría de los estudiantes usa todos los días sin haberla elegido. Predicen qué mantendrá a una persona mirando y ordenan el contenido en consecuencia, y la app que los rodea está diseñada con funciones como la reproducción automática, las rachas y el desplazamiento infinito, que mantienen a las personas en la app por más tiempo. En esta autopsia, los equipos examinan las funciones de una app ficticia llamada Loop, clasifican cada una según para qué está optimizada y discuten en un seminario socrático si un feed puede moldear lo que la gente cree. Terminan diseñando un feed más saludable con reglas específicas, ventajas y desventajas, y una forma de medir si funciona.
En este paquete
- Hoja A: Autopsia de las funciones de Loop (clasificación de tarjetas)
- Hoja B: El memorándum de Loop (texto para el seminario) (lectura)
- Hoja C: Especificación de diseño de un feed más saludable (hoja de trabajo)
- Clave del facilitador (última página)
Indicadores ELE de TCEA
- AI1.1 Sé cómo funcionan los sistemas de IA y cuáles son sus capacidades en contextos educativos.
- S5.2 Puedo usar la creatividad y la lógica para encontrar soluciones innovadoras.
- S5.1 Sé cómo abordar problemas complejos de manera sistemática.
- AI1.3 Soy consciente de las limitaciones actuales y los posibles sesgos de los sistemas de IA.
- S2.2 Puedo identificar fuentes de información confiables en internet.
Guía completa para el facilitador: mglearn.github.io/eles/es/activities/algorithm-autopsy.html
Hoja A de Autopsia de un algoritmo
Autopsia de las funciones de Loop
Loop es una app de videos ficticia. Para cada función, decide qué hace principalmente y di en voz alta para qué está optimizada y quién se beneficia.
Te mantiene en la app
Moldea lo que ves y crees
Te da control
Hoja A de Autopsia de un algoritmo
Autopsia de las funciones de Loop: tarjetas para clasificar
Recorta las tiras. Coloca cada una en el tapete de clasificación y prepárate para explicar por qué.
Página 1 de 2
1. Desplazamiento infinito: el feed nunca se acaba; la página no tiene final.
2. Reproducción automática: el siguiente video empieza solo después de tres segundos.
3. Clasificación "Para ti": el feed principal se ordena según el tiempo de visualización previsto, no según a quién sigues ni cuándo se publicó.
4. Rachas: un contador muestra cuántos días seguidos has publicado o le has escrito a un amigo.
5. Temas en tendencia: una barra lateral muestra los temas que están recibiendo más reacciones en este momento.
6. Botón "No me interesa": si lo tocas, el feed muestra menos de ese tipo de contenido.
7. Notificaciones push: "¡3 amigos publicaron mientras no estabas!"
8. Vista solo de cuentas que sigues: una opción para ver solo las cuentas que sigues, en orden cronológico.
9. Impulso por interacción: las publicaciones con muchos comentarios y veces compartidas se muestran a más personas, sin importar si las reacciones son positivas o de enojo.
10. Conteo de me gusta: cada publicación muestra su número de me gusta.
11. Límite de tiempo diario: los usuarios pueden poner un recordatorio después de un número de minutos que elijan.
12. Panel "¿Por qué estoy viendo esto?": explica que una publicación apareció porque viste videos parecidos.
Hoja A de Autopsia de un algoritmo
Autopsia de las funciones de Loop: tarjetas para clasificar
Recorta las tiras. Coloca cada una en el tapete de clasificación y prepárate para explicar por qué.
Página 2 de 2
13. Sugerencias de cuentas parecidas: después de seguir una cuenta, Loop te sugiere cinco más como esa.
14. Recompensas variables: los nuevos me gusta y comentarios te llegan en ráfagas cuando abres la app, no a medida que llegan.
Hoja B de Autopsia de un algoritmo
El memorándum de Loop (texto para el seminario)
Este memorándum es ficticio. Anótalo: subraya las afirmaciones, encierra en un círculo las palabras que suenan neutrales pero no lo son y escribe en el margen una pregunta para el seminario.
1MEMORÁNDUM INTERNO DE LOOP · Equipo de producto · Asunto: Actualización del feed del 3.er trimestre
2Equipo, excelentes noticias. Nuestro nuevo modelo de clasificación, que predice cuánto tiempo verá cada usuario cada video, ha aumentado el tiempo diario promedio en Loop. Es evidente que los usuarios están encontrando más de lo que les encanta.
3El modelo aprende de cada señal: tiempo de visualización, repeticiones, pausas, comentarios, veces compartido y qué tan rápido alguien pasa de largo. Descubrimos que los videos que generan reacciones emocionales fuertes, ya sea emoción, sorpresa o enojo, mantienen a la gente mirando por más tiempo, así que el modelo, de forma natural, muestra más de ellos.
4Algunos miembros del equipo expresaron su preocupación de que los usuarios que ven un video de tipo conspirativo ahora están viendo muchos más. Queremos ser claros: Loop no elige lo que la gente cree. Simplemente mostramos a la gente lo que quiere. Si alguien lo ve, es porque lo quiere.
5También probamos la vista "Solo cuentas que sigues" como opción predeterminada. El tiempo en la app bajó, así que la mantuvimos como una opción, disponible a tres menús de profundidad.
6El próximo trimestre agregaremos rachas a los mensajes directos y moveremos el recordatorio del límite de tiempo diario a los 90 minutos en lugar de a los 30, ya que los usuarios nos dijeron que era molesto.
7Nuestra misión sigue siendo la misma: conectar a las personas con el contenido que les importa.
Hoja C de Autopsia de un algoritmo
Especificación de diseño de un feed más saludable
Diseña un feed para personas reales. Sé lo bastante específico como para que un ingeniero pueda construirlo.
¿Para quién es este feed y para qué está optimizado en lugar de la pura interacción? (por ejemplo: aprender algo nuevo, conectar con amigos, noticias exactas)
Tres reglas de clasificación: cómo decide el feed qué va primero.
Dos controles para el usuario, y si cada uno está activado o desactivado de forma predeterminada (y por qué):
Una función de Loop que eliminaríamos, y la evidencia de la autopsia o del seminario que nos convenció:
La desventaja: ¿qué perderían la empresa o los usuarios con nuestro diseño?
Cómo mediríamos si funciona (algo que realmente se pueda contar o preguntar a los usuarios):
Bosqueja la pantalla del feed y muestra dónde están los controles:
Solo para el facilitador: Autopsia de un algoritmo
Clave de respuestas y notas
Hoja A: Autopsia de las funciones de Loop
| Elemento | Categoría | Por qué |
|---|---|---|
| 1. Desplazamiento infinito: el feed nunca se acaba; la página no tiene final. | Te mantiene en la app | Elimina los puntos naturales para detenerse, así que salir requiere una decisión deliberada. |
| 2. Reproducción automática: el siguiente video empieza solo después de tres segundos. | Te mantiene en la app | Hace que seguir sea la opción predeterminada; además decide qué ves después sin que tú lo elijas. |
| 3. Clasificación "Para ti": el feed principal se ordena según el tiempo de visualización previsto, no según a quién sigues ni cuándo se publicó. | Moldea lo que ves y crees | El sistema, y no tú, decide qué aparece, optimizado para retener tu atención. |
| 4. Rachas: un contador muestra cuántos días seguidos has publicado o le has escrito a un amigo. | Te mantiene en la app | Convierte el uso diario en una obligación y hace que faltar un día se sienta como una pérdida. |
| 5. Temas en tendencia: una barra lateral muestra los temas que están recibiendo más reacciones en este momento. | Moldea lo que ves y crees | Señala qué es importante según la cantidad de reacciones, lo que puede premiar la indignación o la sorpresa. |
| 6. Botón "No me interesa": si lo tocas, el feed muestra menos de ese tipo de contenido. | Te da control | Permite a los usuarios contradecir las predicciones del sistema, aunque tienen que saber que existe. |
| 7. Notificaciones push: "¡3 amigos publicaron mientras no estabas!" | Te mantiene en la app | Te hace volver en los momentos que la app elige. |
| 8. Vista solo de cuentas que sigues: una opción para ver solo las cuentas que sigues, en orden cronológico. | Te da control | Reemplaza la clasificación por predicción con tus propias decisiones; a menudo no es la opción predeterminada. |
| 9. Impulso por interacción: las publicaciones con muchos comentarios y veces compartidas se muestran a más personas, sin importar si las reacciones son positivas o de enojo. | Moldea lo que ves y crees | Las reacciones, incluido el enojo, se vuelven una señal de valor, así que el contenido provocador llega más lejos. |
| 10. Conteo de me gusta: cada publicación muestra su número de me gusta. | Moldea lo que ves y crees | La popularidad se puede confundir con exactitud o calidad. |
| 11. Límite de tiempo diario: los usuarios pueden poner un recordatorio después de un número de minutos que elijan. | Te da control | Ayuda al equilibrio, pero solo si los usuarios lo activan y no lo ignoran. |
| 12. Panel "¿Por qué estoy viendo esto?": explica que una publicación apareció porque viste videos parecidos. | Te da control | Agrega transparencia para que los usuarios puedan entender, y cuestionar, la predicción. |
| 13. Sugerencias de cuentas parecidas: después de seguir una cuenta, Loop te sugiere cinco más como esa. | Moldea lo que ves y crees | Con el tiempo, puede estrechar tu feed hacia un solo punto de vista. |
| 14. Recompensas variables: los nuevos me gusta y comentarios te llegan en ráfagas cuando abres la app, no a medida que llegan. | Te mantiene en la app | Las recompensas impredecibles animan a revisar una y otra vez. |