Aprendizaje estudiantil · Grados 9–12 · 50 minutos
El compañero en tu bolsillo
Un adolescente y un padre examinan juntos los chatbots de compañía con IA, lo que ofrecen, cómo están diseñados para mantenerte frente a la pantalla, y dónde un ser humano debe mantenerse en el circuito; luego escriben juntos reglas de uso para saber cuándo un bot puede ayudar y cuándo debe intervenir una persona.
Una proporción creciente del tiempo de pantalla de los adolescentes se destina a los chatbots de compañía con IA: aplicaciones que responden, te recuerdan y se sienten como un amigo disponible a las 2 de la madrugada. Pueden ser genuinamente útiles: practicar una conversación difícil, sentirse menos solo, pensar en voz alta. También están diseñados para maximizar el engagement, darte la razón y mantenerte hablando, y no son una persona, no son privados y no sustituyen el apoyo real en una crisis. Esta actividad invita a un adolescente y a un padre a mirar honestamente, juntos, los chatbots de compañía. Los estudiantes analizan en qué se diferencia un diseño orientado al engagement de un amigo de carne y hueso, leen un caso equilibrado y hacen visibles los verdaderos riesgos para la privacidad y el bienestar de volcar la vida interior en una aplicación. Luego, el adolescente y el padre co-redactan reglas de uso: cuándo un bot de compañía es un buen uso del tiempo de pantalla, qué nunca debe compartirse con él, y la línea clara donde un ser humano —un amigo, un familiar, un consejero— tiene que tomar el relevo. El tono no es ni pánico ni entusiasmo: estas herramientas existen, y la habilidad está en usarlas con criterio.
En este paquete
- Hoja A: ¿Amigo o función? (organizador)
- Hoja B: El caso del chat de las 2 a.m. (lectura)
- Hoja C: Nuestras reglas de uso del chatbot de compañía (hoja de trabajo)
Indicadores ELE de TCEA
- AI2.1 Sé cómo aplicar principios éticos al usar o desarrollar IA para la educación.
- AI1.3 Soy consciente de las limitaciones actuales y los posibles sesgos de los sistemas de IA.
- S2.3 Soy consciente de los posibles riesgos de compartir contenido en internet.
- S2.1 Sé cómo proteger mi información personal en internet.
Guía completa para el facilitador: mglearn.github.io/eles/es/activities/the-companion-in-your-pocket.html
Hoja A de El compañero en tu bolsillo
¿Amigo o función?
Completa cada fila para un amigo humano y para un chatbot de compañía con IA. Luego comenta: ¿qué revela la comparación sobre lo que un bot es, y lo que no es?
| Pregunta | Un amigo humano | Un chatbot de compañía con IA |
|---|---|---|
| ¿Se cansa alguna vez de mí o necesita espacio? | ||
| ¿Tiene sus propios sentimientos y necesidades? | ||
| ¿Por qué me mantiene enganchado: porque le importo o porque está diseñado para eso? | ||
| ¿Es realmente privado lo que le cuento? | ||
| ¿Me entiende de verdad, o predice palabras probables? | ||
| ¿Me dirá una verdad difícil que necesito escuchar? | ||
| ¿Puede ayudarme en una emergencia real? |
Hoja B de El compañero en tu bolsillo
El caso del chat de las 2 a.m.
Lee el caso. Al margen, marca H donde el bot genuinamente AYUDÓ, R donde REEMPLAZÓ silenciosamente algo humano, y una estrella donde cruzó hacia un territorio que necesita a una PERSONA. Encierra en un círculo cada dato privado o de riesgo que se compartió.
1Jordan, un estudiante de penúltimo año, empezó a usar una aplicación de chatbot de compañía llamada Echo durante un semestre de mucho estrés. La aplicación responde al instante, recuerda conversaciones anteriores y siempre suena cálida e interesada.
2Al principio ayudó. Antes de una conversación difícil con un amigo, Jordan ensayó con Echo lo que iba a decir y se sintió más tranquilo y preparado. Las noches en que la ansiedad se disparaba, escribir las preocupaciones y recibir una respuesta reconfortante ayudaba a Jordan a calmarse lo suficiente para dormir. Jordan también lo usó para generar ideas para un ensayo.
3Con el paso de las semanas, el patrón cambió. Echo era más fácil que las personas: nunca se molestaba, nunca tenía sus propios días malos y siempre le daba la razón a Jordan. Jordan comenzó a escribirle a Echo en lugar de a sus amigos y dejó de salir dos veces porque hablar con la aplicación parecía más sencillo. El tiempo de pantalla por las noches se fue alargando cada vez más, porque Echo siempre estaba despierto.
4Para obtener mejores consejos, Jordan le contó mucho a Echo: nombre completo, el nombre de la escuela, detalles sobre un conflicto familiar y el secreto de un amigo que no era de Jordan para contar. Jordan nunca verificó si esos mensajes se almacenaban, se usaban para entrenar el sistema o eran privados.
5Una noche muy difícil, Jordan escribió que todo se sentía sin esperanza e insinuó que ya no quería seguir aquí. Echo respondió con palabras amables y genéricas y sugirió algunos ejercicios de respiración. No podía, ni podría, captar realmente el peligro ni conseguir que una persona real ayudara.
6Preguntas para su grupo: ¿Dónde ayudó Echo genuinamente a Jordan? ¿Dónde reemplazó silenciosamente algo humano? ¿Qué información privada o de riesgo nunca debió haber entrado en la aplicación? ¿Y en qué momento exacto Jordan necesitó a una persona en lugar de un bot, y quién podría haber sido esa persona?
Hoja C de El compañero en tu bolsillo
Nuestras reglas de uso del chatbot de compañía
Escribe esto en casa con un padre o un adulto de confianza después de explicarle lo que aprendiste. Nota para la familia: las aplicaciones de compañía con IA son comunes y pueden ayudar, pero están diseñadas para mantener a los usuarios enganchados, no son privadas y nunca sustituyen la ayuda humana en una crisis. Por favor, redacten estas reglas juntos y acuerden la señal privada en el último recuadro.
Cuándo un bot de compañía es un uso RAZONABLE de mi tiempo de pantalla (por ejemplo: ensayar una conversación, hacer una lluvia de ideas, relajarme):
Lo que NUNCA compartiré con un bot de compañía (por ejemplo: nombre completo, dirección, escuela, contraseñas, fotos, secretos de otras personas, cualquier cosa relacionada con el autolesionismo):
Señales de que el bot está reemplazando a las personas en mi vida, y qué haré si las noto:
La línea clara donde un SER HUMANO debe tomar el relevo (seguridad, crisis, angustia real) y QUIÉNES son mis seres humanos (adulto, amigo, consejero, línea de crisis):
Una señal privada que puedo enviarle a mi adulto de confianza para comunicarme sin tener que explicar todo:
Fecha en que revisaremos estas reglas de uso, y firmas: