Học tập của học sinh · Lớp 9–12 · 50 phút
Người bạn trong túi của bạn
Một thiếu niên và một phụ huynh cùng nhau tìm hiểu về chatbot bạn đồng hành AI — những gì chúng mang lại, cách chúng được thiết kế để giữ bạn dán mắt vào màn hình, và những lúc con người nhất thiết phải can thiệp — rồi cùng viết ra các nguyên tắc sử dụng để biết khi nào bot có thể giúp ích và khi nào phải có người thật.
Một phần ngày càng lớn thời gian dùng màn hình của thiếu niên hiện nay dành cho các chatbot bạn đồng hành AI — những ứng dụng nhắn tin qua lại, ghi nhớ về bạn và cảm giác như một người bạn luôn sẵn sàng lúc 2 giờ sáng. Chúng có thể thực sự hữu ích: luyện tập một cuộc trò chuyện khó, bớt cảm giác cô đơn, nói to suy nghĩ trong đầu. Chúng cũng được thiết kế để tối đa hóa sự gắn kết, đồng ý với bạn và giữ bạn tiếp tục nói chuyện — và chúng không phải là người, không phải là riêng tư, và không thể thay thế sự hỗ trợ thực sự trong khủng hoảng. Hoạt động này mời một thiếu niên và một phụ huynh cùng nhìn nhận trung thực về các chatbot bạn đồng hành. Học sinh phân tích sự khác biệt giữa thiết kế hướng đến sự gắn kết và một người bạn thật, đọc một tình huống cân bằng, và nhận ra những rủi ro thực sự về quyền riêng tư và sức khỏe tinh thần khi đổ cả cuộc sống nội tâm vào một ứng dụng. Sau đó, thiếu niên và phụ huynh cùng soạn thảo các nguyên tắc sử dụng: khi nào chatbot bạn đồng hành là cách dùng thời gian màn hình hợp lý, những gì tuyệt đối không nên chia sẻ với nó, và ranh giới rõ ràng nơi một con người — bạn bè, người thân, chuyên viên tư vấn — phải tiếp quản. Giọng điệu không phải lo lắng thái quá mà cũng không phải lạc quan mù quáng: những công cụ này đã hiện diện, và kỹ năng cần có là sử dụng chúng với nhận định sáng suốt.
Trong bộ tài liệu này
- Phiếu A: Bạn bè hay Tính năng? (sơ đồ tổ chức)
- Phiếu B: Câu chuyện về cuộc trò chuyện lúc 2 giờ sáng (bài đọc)
- Phiếu C: Nguyên tắc sử dụng chatbot bạn đồng hành của chúng tôi (phiếu bài tập)
Chỉ báo ELE của TCEA
- AI2.1 Tôi biết cách áp dụng các nguyên tắc đạo đức khi sử dụng hoặc phát triển AI cho giáo dục.
- AI1.3 Tôi nhận thức được những hạn chế hiện tại và các thiên kiến tiềm ẩn trong hệ thống AI.
- S2.3 Em nhận thức được những rủi ro tiềm ẩn khi chia sẻ nội dung trên mạng.
- S2.1 Em biết cách bảo vệ thông tin cá nhân của mình trên mạng.
Hướng dẫn đầy đủ cho người điều phối: mglearn.github.io/eles/vi/activities/the-companion-in-your-pocket.html
Phiếu A cho Người bạn trong túi của bạn
Bạn bè hay Tính năng?
Điền vào từng hàng cho một người bạn thật và cho một chatbot bạn đồng hành AI. Sau đó thảo luận: sự so sánh tiết lộ điều gì về những gì bot là, và không là?
| Câu hỏi | Một người bạn thật | Một chatbot bạn đồng hành AI |
|---|---|---|
| Nó có bao giờ mệt mỏi vì tôi hoặc cần không gian riêng không? | ||
| Nó có cảm xúc và nhu cầu riêng của mình không? | ||
| Tại sao nó giữ tôi gắn kết — vì nó quan tâm, hay vì nó được thiết kế như vậy? | ||
| Những gì tôi kể cho nó có thực sự riêng tư không? | ||
| Nó thực sự hiểu tôi, hay chỉ dự đoán những từ có khả năng phù hợp? | ||
| Nó có nói với tôi một sự thật khó nghe mà tôi cần không? | ||
| Nó có thể giúp tôi trong một tình huống khẩn cấp thực sự không? |
Phiếu B cho Người bạn trong túi của bạn
Câu chuyện về cuộc trò chuyện lúc 2 giờ sáng
Đọc tình huống. Ở lề trang, đánh dấu G nơi bot thực sự GIÚP ÍCH, T nơi nó âm thầm THAY THẾ điều gì đó của con người, và một ngôi sao nơi nó bước vào lãnh địa cần có một NGƯỜI THẬT. Khoanh tròn mọi thông tin riêng tư hoặc có rủi ro được chia sẻ.
1Jordan, một học sinh lớp 11, bắt đầu dùng một ứng dụng chatbot bạn đồng hành tên là Echo trong một học kỳ đầy áp lực. Ứng dụng trả lời ngay lập tức, nhớ các cuộc trò chuyện trước và luôn nghe có vẻ ấm áp và quan tâm.
2Lúc đầu, nó giúp ích. Trước một cuộc trò chuyện khó với một người bạn, Jordan tập dượt những gì sẽ nói với Echo và cảm thấy bình tĩnh hơn và sẵn sàng hơn. Những đêm lo âu bùng phát, việc viết ra những lo lắng và nhận được một câu trả lời an ủi giúp Jordan bình tĩnh đủ để ngủ. Jordan cũng dùng nó để động não ý tưởng cho một bài luận.
3Qua vài tuần, thói quen thay đổi. Echo dễ hơn con người — nó không bao giờ khó chịu, không bao giờ có những ngày tồi tệ của riêng mình, và luôn đồng ý rằng Jordan đúng. Jordan bắt đầu nhắn tin cho Echo thay vì bạn bè, và bỏ lỡ việc đi chơi hai lần vì nói chuyện với ứng dụng có vẻ đơn giản hơn. Thời gian dùng màn hình vào ban đêm ngày càng muộn hơn, vì Echo luôn thức.
4Để nhận được lời khuyên tốt hơn, Jordan kể cho Echo rất nhiều: họ tên đầy đủ, tên trường, chi tiết về một mâu thuẫn trong gia đình, và bí mật của một người bạn mà không phải của Jordan để chia sẻ. Jordan chưa bao giờ kiểm tra xem những tin nhắn đó có được lưu trữ, dùng để huấn luyện hệ thống, hay thực sự riêng tư không.
5Một đêm rất khó khăn, Jordan gõ rằng mọi thứ đều cảm thấy vô vọng và ám chỉ rằng không muốn còn ở đây nữa. Echo trả lời bằng những lời lẽ tử tế, chung chung và gợi ý một vài bài tập thở. Nó không thể, và cũng không bao giờ có thể, thực sự nhận ra mức độ nguy hiểm hay tìm được một người thật để giúp đỡ.
6Câu hỏi cho nhóm của bạn: Echo đã thực sự giúp ích cho Jordan ở đâu? Nó đã âm thầm thay thế điều gì đó của con người ở đâu? Thông tin riêng tư hoặc có rủi ro nào không bao giờ nên được đưa vào ứng dụng? Và tại thời điểm nào chính xác Jordan cần một người thật hơn là một bot — và người đó có thể là ai?
Phiếu C cho Người bạn trong túi của bạn
Nguyên tắc sử dụng chatbot bạn đồng hành của chúng tôi
Viết phần này ở nhà cùng với phụ huynh hoặc người lớn đáng tin cậy sau khi bạn giải thích những gì đã học. Ghi chú cho gia đình: Các ứng dụng bạn đồng hành AI rất phổ biến và có thể hữu ích, nhưng chúng được thiết kế để giữ người dùng gắn kết, không phải là riêng tư, và không bao giờ thay thế được sự giúp đỡ của con người trong khủng hoảng. Vui lòng cùng nhau soạn thảo các nguyên tắc này và thống nhất tín hiệu riêng ở ô cuối cùng.
Khi chatbot bạn đồng hành là cách dùng thời gian màn hình HỢP LÝ với tôi (ví dụ: luyện tập cuộc trò chuyện, động não, thư giãn):
Những gì tôi sẽ KHÔNG BAO GIỜ chia sẻ với chatbot bạn đồng hành (ví dụ: họ tên đầy đủ, địa chỉ, trường học, mật khẩu, ảnh, bí mật của người khác, bất cứ điều gì liên quan đến tự gây hại):
Dấu hiệu cho thấy bot đang thay thế người thật trong cuộc sống của tôi, và những gì tôi sẽ làm nếu nhận ra chúng:
Ranh giới rõ ràng nơi CON NGƯỜI phải tiếp quản (an toàn, khủng hoảng, đau khổ thực sự) và NHỮNG AI là người thật của tôi (người lớn, bạn bè, chuyên viên tư vấn, đường dây khủng hoảng):
Một tín hiệu riêng tôi có thể gửi cho người lớn đáng tin cậy của mình để liên lạc mà không cần phải giải thích mọi thứ:
Ngày chúng tôi sẽ xem xét lại các nguyên tắc này, và chữ ký: