Học tập của học sinh · Lớp 9–12 · 75 phút
Giải phẫu Thuật toán
Học sinh mổ xẻ các tính năng thiết kế của một ứng dụng mạng xã hội hư cấu, lần theo cách mỗi tính năng định hình sự chú ý và niềm tin, rồi thiết kế lại bảng tin để phục vụ con người thay vì lượt tương tác.
Hệ thống đề xuất là một dạng AI mà hầu hết học sinh dùng hằng ngày dù không hề chủ động chọn. Chúng dự đoán điều gì sẽ giữ một người tiếp tục xem và xếp hạng nội dung theo đó, còn ứng dụng bao quanh chúng được thiết kế với những tính năng như tự động phát, chuỗi ngày liên tiếp và cuộn vô tận để giữ người dùng ở lại lâu hơn. Trong buổi giải phẫu này, các nhóm xem xét các tính năng của một ứng dụng hư cấu tên là Loop, phân loại từng tính năng theo mục tiêu mà nó được tối ưu hóa, và thảo luận theo phương pháp Socrates xem một bảng tin có thể định hình niềm tin của con người hay không. Cuối cùng, các bạn thiết kế một bảng tin lành mạnh hơn với các quy tắc cụ thể, những đánh đổi và một cách để đo xem nó có hiệu quả không.
Trong bộ tài liệu này
- Phiếu A: Giải phẫu Tính năng Loop (phân loại thẻ)
- Phiếu B: Bản ghi nhớ của Loop (Văn bản thảo luận) (bài đọc)
- Phiếu C: Bản đặc tả thiết kế Bảng tin Lành mạnh hơn (phiếu bài tập)
- Đáp án cho người điều phối (trang cuối)
Chỉ báo ELE của TCEA
- AI1.1 Tôi biết các hệ thống AI hoạt động như thế nào và khả năng của chúng trong bối cảnh giáo dục.
- S5.2 Em có thể vận dụng sự sáng tạo và tư duy logic để tìm ra các giải pháp đổi mới.
- S5.1 Em biết cách tiếp cận các vấn đề phức tạp một cách có hệ thống.
- AI1.3 Tôi nhận thức được những hạn chế hiện tại và các thiên kiến tiềm ẩn trong hệ thống AI.
- S2.2 Em có thể nhận biết các nguồn thông tin đáng tin cậy trên internet.
Hướng dẫn đầy đủ cho người điều phối: mglearn.github.io/eles/vi/activities/algorithm-autopsy.html
Phiếu A cho Giải phẫu Thuật toán
Giải phẫu Tính năng Loop
Loop là một ứng dụng video hư cấu. Với mỗi tính năng, hãy quyết định chủ yếu nó làm gì, và nói to nó được tối ưu hóa cho điều gì và ai được lợi.
Giữ bạn ở lại ứng dụng
Định hình những gì bạn thấy và tin
Trao cho bạn quyền kiểm soát
Phiếu A cho Giải phẫu Thuật toán
Giải phẫu Tính năng Loop: thẻ cần phân loại
Cắt rời các dải giấy. Xếp từng dải vào đúng ô trên tấm phân loại và sẵn sàng giải thích lý do.
Tờ 1/2
1. Cuộn vô tận: bảng tin không bao giờ kết thúc; trang không có điểm cuối.
2. Tự động phát: video tiếp theo tự động bắt đầu sau ba giây.
3. Xếp hạng "Dành cho bạn": bảng tin chính được xếp hạng theo thời gian xem dự đoán, không theo người bạn theo dõi hay thời điểm đăng.
4. Chuỗi ngày liên tiếp: một bộ đếm cho thấy bạn đã đăng bài hoặc nhắn tin cho bạn bè bao nhiêu ngày liền.
5. Chủ đề thịnh hành: một thanh bên liệt kê các chủ đề đang nhận được nhiều phản ứng nhất lúc này.
6. Nút "Không quan tâm": chạm vào đó và bảng tin sẽ ít hiển thị loại nội dung ấy hơn.
7. Thông báo đẩy: "3 người bạn vừa đăng bài khi bạn vắng mặt!"
8. Chế độ chỉ xem người đang theo dõi: một cài đặt để chỉ xem các tài khoản bạn theo dõi, theo thứ tự thời gian.
9. Tăng hiển thị theo tương tác: bài đăng có nhiều bình luận và lượt chia sẻ sẽ được hiển thị cho nhiều người hơn, bất kể phản ứng là tích cực hay giận dữ.
10. Số lượt thích: mỗi bài đăng đều hiển thị số lượt thích.
11. Giới hạn thời gian mỗi ngày: người dùng có thể đặt lời nhắc sau một số phút tự chọn.
12. Bảng "Vì sao tôi thấy nội dung này?": giải thích rằng một bài đăng xuất hiện vì bạn đã xem các video tương tự.
Phiếu A cho Giải phẫu Thuật toán
Giải phẫu Tính năng Loop: thẻ cần phân loại
Cắt rời các dải giấy. Xếp từng dải vào đúng ô trên tấm phân loại và sẵn sàng giải thích lý do.
Tờ 2/2
13. Gợi ý tài khoản tương tự: sau khi bạn theo dõi một tài khoản, Loop gợi ý thêm năm tài khoản giống vậy.
14. Phần thưởng thất thường: lượt thích và bình luận mới được dồn lại hiển thị một lượt khi bạn mở ứng dụng, chứ không hiện ngay khi có.
Phiếu B cho Giải phẫu Thuật toán
Bản ghi nhớ của Loop (Văn bản thảo luận)
Bản ghi nhớ này là hư cấu. Hãy chú thích: gạch chân các khẳng định, khoanh tròn những từ nghe có vẻ trung lập nhưng thật ra không phải, và viết một câu hỏi bên lề để dùng trong buổi thảo luận.
1BẢN GHI NHỚ NỘI BỘ LOOP · Nhóm Sản phẩm · Chủ đề: Cập nhật Bảng tin Quý 3
2Cả nhóm, tin tuyệt vời đây. Mô hình xếp hạng mới của chúng ta, vốn dự đoán mỗi người dùng sẽ xem mỗi video trong bao lâu, đã làm tăng thời gian trung bình mỗi ngày trên Loop. Rõ ràng người dùng đang tìm thấy nhiều hơn những thứ họ yêu thích.
3Mô hình học từ mọi tín hiệu: thời gian xem, số lần xem lại, những lần dừng, bình luận, lượt chia sẻ, và tốc độ một người lướt qua. Chúng tôi nhận thấy các video tạo ra phản ứng cảm xúc mạnh, dù là phấn khích, bất ngờ hay giận dữ, giữ chân người xem lâu nhất, nên mô hình tự nhiên hiển thị chúng nhiều hơn.
4Một số thành viên lo ngại rằng người dùng xem một video mang màu sắc thuyết âm mưu giờ đang thấy nhiều video như vậy hơn hẳn. Chúng tôi muốn nói rõ: Loop không chọn điều mọi người tin. Chúng ta chỉ đơn giản cho mọi người xem điều họ muốn. Nếu ai đó xem nó, hẳn là họ muốn nó.
5Chúng tôi cũng đã thử nghiệm để chế độ "Chỉ xem người đang theo dõi" làm mặc định. Thời gian dùng ứng dụng giảm xuống, nên chúng tôi giữ nó ở dạng cài đặt tùy chọn, nằm sâu bên trong ba lớp menu.
6Quý tới, chúng ta sẽ thêm chuỗi ngày liên tiếp vào tin nhắn trực tiếp và dời lời nhắc giới hạn thời gian mỗi ngày sang sau 90 phút thay vì 30 phút, vì người dùng cho biết nó gây phiền.
7Sứ mệnh của chúng ta vẫn như cũ: kết nối mọi người với nội dung quan trọng đối với họ.
Phiếu C cho Giải phẫu Thuật toán
Bản đặc tả thiết kế Bảng tin Lành mạnh hơn
Hãy thiết kế một bảng tin cho con người thật. Viết đủ cụ thể để một kỹ sư có thể xây dựng nó.
Bảng tin này dành cho ai, và nó được tối ưu hóa cho điều gì thay vì chỉ thuần lượt tương tác? (ví dụ: học được điều mới, kết nối với bạn bè, tin tức chính xác)
Ba quy tắc xếp hạng: cách bảng tin quyết định thứ gì xuất hiện trước.
Hai tùy chọn kiểm soát cho người dùng, và mỗi tùy chọn mặc định bật hay tắt (và vì sao):
Một tính năng của Loop mà nhóm sẽ bỏ đi, và bằng chứng từ phần giải phẫu hoặc buổi thảo luận đã thuyết phục nhóm:
Sự đánh đổi: công ty hoặc người dùng sẽ mất đi điều gì với thiết kế của nhóm?
Cách nhóm đo xem nó có hiệu quả không (điều bạn thật sự có thể đếm được hoặc hỏi người dùng):
Phác thảo màn hình bảng tin, chỉ rõ vị trí các tùy chọn kiểm soát:
Chỉ dành cho người điều phối, Giải phẫu Thuật toán
Đáp án và ghi chú
Phiếu A: Giải phẫu Tính năng Loop
| Mục | Xếp loại | Lý do |
|---|---|---|
| 1. Cuộn vô tận: bảng tin không bao giờ kết thúc; trang không có điểm cuối. | Giữ bạn ở lại ứng dụng | Xóa bỏ những điểm dừng tự nhiên, nên muốn rời đi bạn phải chủ động quyết định. |
| 2. Tự động phát: video tiếp theo tự động bắt đầu sau ba giây. | Giữ bạn ở lại ứng dụng | Biến việc xem tiếp thành mặc định; đồng thời quyết định bạn xem gì tiếp theo mà không cần bạn chọn. |
| 3. Xếp hạng "Dành cho bạn": bảng tin chính được xếp hạng theo thời gian xem dự đoán, không theo người bạn theo dõi hay thời điểm đăng. | Định hình những gì bạn thấy và tin | Hệ thống, chứ không phải bạn, quyết định thứ gì xuất hiện, được tối ưu hóa để giữ sự chú ý của bạn. |
| 4. Chuỗi ngày liên tiếp: một bộ đếm cho thấy bạn đã đăng bài hoặc nhắn tin cho bạn bè bao nhiêu ngày liền. | Giữ bạn ở lại ứng dụng | Biến việc dùng hằng ngày thành nghĩa vụ và khiến việc bỏ lỡ một ngày giống như một mất mát. |
| 5. Chủ đề thịnh hành: một thanh bên liệt kê các chủ đề đang nhận được nhiều phản ứng nhất lúc này. | Định hình những gì bạn thấy và tin | Báo hiệu điều gì là quan trọng dựa trên số lượng phản ứng, điều có thể khuyến khích sự phẫn nộ hoặc gây sốc. |
| 6. Nút "Không quan tâm": chạm vào đó và bảng tin sẽ ít hiển thị loại nội dung ấy hơn. | Trao cho bạn quyền kiểm soát | Cho phép người dùng phản bác các dự đoán của hệ thống, dù người dùng phải biết là có nút này. |
| 7. Thông báo đẩy: "3 người bạn vừa đăng bài khi bạn vắng mặt!" | Giữ bạn ở lại ứng dụng | Kéo bạn quay lại vào những thời điểm do ứng dụng chọn. |
| 8. Chế độ chỉ xem người đang theo dõi: một cài đặt để chỉ xem các tài khoản bạn theo dõi, theo thứ tự thời gian. | Trao cho bạn quyền kiểm soát | Thay việc xếp hạng theo dự đoán bằng lựa chọn của chính bạn; thường không phải là mặc định. |
| 9. Tăng hiển thị theo tương tác: bài đăng có nhiều bình luận và lượt chia sẻ sẽ được hiển thị cho nhiều người hơn, bất kể phản ứng là tích cực hay giận dữ. | Định hình những gì bạn thấy và tin | Phản ứng, kể cả sự giận dữ, trở thành tín hiệu của giá trị, nên nội dung khiêu khích lan xa hơn. |
| 10. Số lượt thích: mỗi bài đăng đều hiển thị số lượt thích. | Định hình những gì bạn thấy và tin | Sự phổ biến có thể bị nhầm với độ chính xác hoặc chất lượng. |
| 11. Giới hạn thời gian mỗi ngày: người dùng có thể đặt lời nhắc sau một số phút tự chọn. | Trao cho bạn quyền kiểm soát | Hỗ trợ sự cân bằng, nhưng chỉ khi người dùng bật nó lên và không bỏ qua lời nhắc. |
| 12. Bảng "Vì sao tôi thấy nội dung này?": giải thích rằng một bài đăng xuất hiện vì bạn đã xem các video tương tự. | Trao cho bạn quyền kiểm soát | Tăng tính minh bạch để người dùng có thể hiểu, và chất vấn, dự đoán. |
| 13. Gợi ý tài khoản tương tự: sau khi bạn theo dõi một tài khoản, Loop gợi ý thêm năm tài khoản giống vậy. | Định hình những gì bạn thấy và tin | Theo thời gian, có thể thu hẹp bảng tin của bạn về một quan điểm duy nhất. |
| 14. Phần thưởng thất thường: lượt thích và bình luận mới được dồn lại hiển thị một lượt khi bạn mở ứng dụng, chứ không hiện ngay khi có. | Giữ bạn ở lại ứng dụng | Phần thưởng khó đoán khuyến khích bạn kiểm tra hết lần này đến lần khác. |