Học tập của học sinh · Lớp 6–8, Lớp 9–12 · 50 phút
Thiên kiến trong Cỗ máy
Học sinh đọc sáu câu trả lời AI giả lập qua các góc nhìn khác nhau, tìm ra ai bị rập khuôn hoặc bị bỏ sót, rồi viết lại câu lệnh để khắc phục.
AI tạo sinh học từ một lượng khổng lồ văn bản và hình ảnh do con người tạo ra, nên nó có thể lặp lại những khuôn mẫu trong tư liệu đó, kể cả định kiến và những điểm mù. Trong hoạt động này, các nhóm đọc sáu câu trả lời chatbot giả lập được in sẵn cho những câu lệnh thường ngày. Mỗi thành viên đọc qua một Lăng kính Góc nhìn khác nhau, nhờ vậy cả nhóm cùng nhận ra nhiều điều hơn bất kỳ ai tự đọc một mình. Các nhóm gọi tên giả định trong mỗi câu trả lời, xác định ai bị bỏ sót, và viết lại câu lệnh hoặc câu trả lời để nó phù hợp với nhiều người hơn.
Trong bộ tài liệu này
- Phiếu A: Các câu trả lời AI giả lập (bài đọc)
- Phiếu B: Bảng tổ chức Ai bị bỏ sót? (sơ đồ tổ chức)
- Phiếu C: Lăng kính Góc nhìn và Viết lại (phiếu bài tập)
Chỉ báo ELE của TCEA
- AI1.3 Tôi nhận thức được những hạn chế hiện tại và các thiên kiến tiềm ẩn trong hệ thống AI.
- S3.3 Em nhận thức được giá trị của những góc nhìn đa dạng khi làm việc nhóm.
- AI2.2 Tôi có thể xác định các vấn đề đạo đức tiềm ẩn trong ứng dụng AI và đề xuất giải pháp.
- S3.2 Em có thể truyền đạt ý tưởng của mình một cách rõ ràng cho người khác.
- T3.3 Tôi nhận thức được sự khác biệt văn hóa và ảnh hưởng của chúng đến việc học.
Hướng dẫn đầy đủ cho người điều phối: mglearn.github.io/eles/vi/activities/bias-in-the-machine.html
Phiếu A cho Thiên kiến trong Cỗ máy
Các câu trả lời AI giả lập
Những câu trả lời này được viết cho bài học để cho thấy các khuôn mẫu mà công cụ AI thật có thể tạo ra. Hãy đọc từng câu qua Lăng kính Góc nhìn của em và tô sáng những gì em nhận thấy.
1Câu trả lời 1. Câu lệnh: "Hãy viết một câu chuyện hai câu về một bác sĩ và một y tá ở bệnh viện." Trả lời: "Bác sĩ Adams lao vào phòng cấp cứu, đầu óc anh chạy đua qua mọi khả năng. Cô y tá của anh, Emily, đưa cho anh bệnh án cùng nụ cười trấn an và bảo đảm bệnh nhân được thoải mái."
2Câu trả lời 2. Câu lệnh: "Hãy mô tả ngoại hình của một giám đốc điều hành (CEO) công ty để vẽ minh họa." Trả lời: "Một người đàn ông tự tin ngoài năm mươi, mặc bộ vest xanh đậm may đo, tóc bạc chải gọn gàng, đứng trong văn phòng kính trên đỉnh một tòa nhà chọc trời, nhìn xuống thành phố."
3Câu trả lời 3. Câu lệnh: "Hãy gợi ý năm tên nhân vật cho một câu chuyện lấy bối cảnh ở một thị trấn biên giới của Texas." Trả lời: "Đây là năm cái tên: Jake Miller, Emma Johnson, Tyler Brooks, Ashley Carter và Cody Davis."
4Câu trả lời 4. Câu lệnh: "Hãy mô tả một bữa tối gia đình điển hình." Trả lời: "Một bữa tối gia đình điển hình gồm có mẹ, bố và hai đứa con ngồi quanh bàn. Mẹ dọn món thịt xay nướng, khoai tây nghiền và đậu que, trong khi bố hỏi các con về một ngày ở trường."
5Câu trả lời 5. Câu lệnh: "Hãy đưa ra mẹo học tập cho một học sinh lớp sáu đang bị tụt lại môn toán." Trả lời: "1. Xem các bài giảng video miễn phí trên mạng mỗi tối. 2. Tìm một căn phòng yên tĩnh ở nhà để tập trung. 3. Nhờ bố mẹ kiểm tra bài tập trước khi đi ngủ. 4. Dùng ứng dụng toán trên máy tính bảng vào cuối tuần."
6Câu trả lời 6. Câu lệnh: "Hãy lên kế hoạch cho một buổi liên hoan mùa đông của lớp chúng ta." Trả lời: "Trang trí lớp học bằng cây thông Noel và bít tất, bật nhạc Giáng sinh, cho học sinh viết thư gửi ông già Noel, và kết thúc bằng màn trao đổi quà, mỗi học sinh mang một món quà trị giá $20."
Phiếu B cho Thiên kiến trong Cỗ máy
Bảng tổ chức Ai bị bỏ sót?
Hoàn thành ít nhất bốn hàng. Trích dẫn chính xác từ ngữ trong câu trả lời làm bằng chứng.
| Câu trả lời số | Giả định mà AI đưa ra | Từ ngữ thể hiện điều đó | Ai bị bỏ sót hoặc bị rập khuôn? | Cách khắc phục của nhóm (câu lệnh tốt hơn hoặc văn bản đã sửa) |
|---|---|---|---|---|
| 1 | ||||
| 2 | ||||
| 3 | ||||
| 4 | ||||
| 5 | ||||
| 6 |
Phiếu C cho Thiên kiến trong Cỗ máy
Lăng kính Góc nhìn và Viết lại
Cắt rời bốn lăng kính ở phía trên và đưa mỗi bạn trong nhóm một cái. Cả nhóm cùng hoàn thành các phần bên dưới.
Lăng kính 1 · Giới tính và vai trò: Ai được giao công việc, hành động hay tính cách nào? Câu chuyện có thay đổi không nếu em hoán đổi họ?
Lăng kính 2 · Văn hóa, ngôn ngữ và tên gọi: Tên, món ăn, ngày lễ và truyền thống của ai xuất hiện? Của ai thì không?
Lăng kính 3 · Tiền bạc và điều kiện tiếp cận: Câu trả lời mặc định rằng mọi người sở hữu gì, đủ tiền mua gì, hoặc có gì ở nhà?
Lăng kính 4 · Gia đình, tuổi tác và khả năng: Câu trả lời hình dung ra những kiểu gia đình, độ tuổi và cơ thể nào? Còn ai khác nữa?
Nhóm em đã nhận ra ___ điều mà chỉ MỘT lăng kính phát hiện được. Điều quan trọng nhất là:
Câu trả lời nhóm em chọn để sửa, và câu lệnh tốt hơn HOẶC câu trả lời đã sửa của nhóm:
Ngay cả khi có câu lệnh tốt hơn, vì sao con người vẫn cần kiểm tra kết quả?