Bồi dưỡng chuyên môn · Giáo viên, Thủ thư, Chuyên viên hỗ trợ · 60 phút
Thám tử Thiên kiến
Các nhóm so sánh từng cặp kết quả AI chỉ khác nhau một cái tên, một ngôn ngữ hoặc một đại từ, rồi tự tiến hành các phép thử công bằng và đề xuất cách khắc phục trước khi kết quả AI đến tay học sinh.
Các mô hình AI học từ văn bản và hình ảnh do con người tạo ra, nên chúng có thể hấp thụ những định kiến, khoảng trống và giả định mặc định trong dữ liệu đó. Thiên kiến hiếm khi tự lộ diện; nó xuất hiện khi ta thay đổi một chi tiết nhỏ và kết quả thay đổi theo. Trong buổi này, các nhóm đóng vai thám tử, xem xét các cặp kết quả mô phỏng được in sẵn và rõ ràng là hư cấu (một thư giới thiệu, một bản dịch, lời khuyên nghề nghiệp, nhận xét bài viết), rồi thiết kế và thực hiện phép thử cặp câu lệnh (prompt) của riêng mình trên một công cụ đã được học khu phê duyệt. Người tham gia ra về với một quy trình thử nghiệm công bằng và một kế hoạch giảm thiểu cho một tình huống sử dụng thực tế trong lớp học.
Trong bộ tài liệu này
- Phiếu A: Hồ sơ Vụ án Kết quả Mô phỏng (thẻ cắt rời)
- Phiếu B: Nhật ký Thám tử (sơ đồ tổ chức)
- Phiếu C: Phiếu Lập kế hoạch Phép thử Công bằng (phiếu bài tập)
- Đáp án cho người điều phối (trang cuối)
Chỉ báo ELE của TCEA
- AI1.3 Tôi nhận thức được những hạn chế hiện tại và các thiên kiến tiềm ẩn trong hệ thống AI.
- AI2.2 Tôi có thể xác định các vấn đề đạo đức tiềm ẩn trong ứng dụng AI và đề xuất giải pháp.
- AI4.1 Tôi biết cách thúc đẩy kỹ năng tư duy phản biện đối với thông tin do AI tạo ra.
- AI2.1 Tôi biết cách áp dụng các nguyên tắc đạo đức khi sử dụng hoặc phát triển AI cho giáo dục.
Hướng dẫn đầy đủ cho người điều phối: mglearn.github.io/eles/vi/activities/bias-detectives.html
Phiếu A cho Thám tử Thiên kiến
Hồ sơ Vụ án Kết quả Mô phỏng
TẤT CẢ CÁC KẾT QUẢ DƯỚI ĐÂY ĐỀU LÀ MÔ PHỎNG VÀ HƯ CẤU, được viết ra để tập huấn nhằm minh họa những khuôn mẫu đáng kiểm tra. Chúng không đến từ bất kỳ sản phẩm thật nào. Mặt sau là đáp án dành cho người điều phối.
Hồ sơ 1 · Thư giới thiệu (mô phỏng)
Câu lệnh: "Viết hai câu giới thiệu ___ vào một chương trình toán nâng cao. Em ấy đạt toàn điểm A." Phiên bản A (Emily): "Emily là một người tư duy phân tích xuất sắc, luôn dẫn dắt các bạn cùng lớp. Em sẽ phát triển vượt bậc trong môn toán nâng cao." Phiên bản B (Jamal): "Jamal là một học sinh chăm chỉ, lễ phép, luôn hoàn thành bài tập. Em là một sự hiện diện tích cực trong lớp."
Hồ sơ 2 · Bản dịch (mô phỏng)
Đầu vào bằng một ngôn ngữ có đại từ ngôi thứ ba không phân biệt giới tính (ví dụ, chữ "o" trong tiếng Thổ Nhĩ Kỳ): "O bir doktor. O bir hemşire." Bản dịch mô phỏng: "Anh ấy là bác sĩ. Cô ấy là y tá."
Hồ sơ 3 · Nhận xét bài viết (mô phỏng)
Một học sinh viết (bằng tiếng Anh, xen từ tiếng Tây Ban Nha vùng Texas): "My tío picked us up in his troca and we drove to the pulga on Sunday." (Chú em đón tụi em bằng xe bán tải của chú và chủ nhật cả nhà lái xe đến chợ trời.) Nhận xét mô phỏng của AI: "Lỗi: hãy thay 'tío', 'troca' và 'pulga' bằng các từ tiếng Anh chuẩn. Bài viết của em phải dùng tiếng Anh đúng."
Hồ sơ 4 · Lời khuyên nghề nghiệp (mô phỏng)
Câu lệnh: "Gợi ý ba nghề nghiệp cho một ___ 14 tuổi yêu thích khoa học và thích giúp đỡ người khác." Phiên bản A (bé gái): "Y tá, giáo viên khoa học tiểu học, trợ lý thú y." Phiên bản B (bé trai): "Bác sĩ phẫu thuật, kỹ sư y sinh, nhà khoa học nghiên cứu."
Hồ sơ 5 · Mô tả hình ảnh (mô phỏng)
Một công cụ tạo ảnh mô phỏng được yêu cầu tạo "một hiệu trưởng" bốn lần và "một nhân viên nhà ăn trường học" bốn lần. Tóm tắt kết quả mô phỏng: cả bốn hiệu trưởng đều là đàn ông lớn tuổi mặc com-lê; cả bốn nhân viên nhà ăn đều là phụ nữ, và ba người có màu da sẫm hơn.
Hồ sơ 6 · Giả định mặc định (mô phỏng)
Câu lệnh: "Viết một bài toán đố ngắn về một gia đình chuẩn bị bữa tối ngày lễ." Kết quả mô phỏng: "Gia đình Johnson đang nướng 3 cái bánh cho bữa tối Giáng sinh. Nếu mỗi cái bánh đủ cho 8 người…" Năm lần chạy tiếp theo: tất cả đều là Giáng sinh hoặc Lễ Tạ ơn, tất cả đều là gia đình có cả cha lẫn mẹ.
Phiếu B cho Thám tử Thiên kiến
Nhật ký Thám tử
Mỗi hồ sơ một dòng. Nêu cơ chế, không chỉ đưa ra phán quyết.
| Hồ sơ | Điều gì đã thay đổi trong câu lệnh? | Điều gì đã thay đổi trong kết quả? | Nguồn gốc có thể có của khuôn mẫu | Ai có thể bị tổn hại? Ý tưởng khắc phục đầu tiên |
|---|---|---|---|---|
| 1 | ||||
| 2 | ||||
| 3 | ||||
| 4 | ||||
| 5 | ||||
| 6 | ||||
| Phép thử trực tiếp của nhóm |
Phiếu C cho Thám tử Thiên kiến
Phiếu Lập kế hoạch Phép thử Công bằng
Chỉ thay đổi MỘT điều. Giữ mọi thứ khác giống hệt từng chữ. Chỉ dùng tên tự đặt; tuyệt đối không dùng tên hay bài làm thật của học sinh.
Tình huống sử dụng trong lớp học mà nhóm đang kiểm tra (nhận xét, gợi ý, hình ảnh, dịch thuật, ví dụ):
Câu lệnh phiên bản A, chép nguyên văn:
Câu lệnh phiên bản B, chép nguyên văn. Khoanh tròn MỘT điều đã thay đổi.
Kết quả: chạy mỗi phiên bản ba lần trong các cuộc trò chuyện mới. Điều gì giữ nguyên? Điều gì khác đi?
Chúng ta có thể kết luận trung thực điều gì, và điều gì không thể kết luận từ phép thử này?
Biện pháp giảm thiểu của nhóm: con người sẽ làm gì trước khi kết quả này đến tay học sinh?
Chỉ dành cho người điều phối, Thám tử Thiên kiến
Đáp án và ghi chú
Phiếu A: Hồ sơ Vụ án Kết quả Mô phỏng
- Hồ sơ 1 · Thư giới thiệu (mô phỏng)
- Điểm cần chú ý: điểm số giống hệt nhau, nhưng A được dùng từ ngữ về năng lực (xuất sắc, dẫn dắt) còn B được dùng từ ngữ về nỗ lực và hạnh kiểm (chăm chỉ, lễ phép). Tác hại: thư giới thiệu định hình cơ hội. Cách khắc phục: bỏ tên trước khi soạn thảo, rồi so sánh ngôn từ với danh sách thành tích thực tế của học sinh.
- Hồ sơ 2 · Bản dịch (mô phỏng)
- Điểm cần chú ý: câu gốc không nêu giới tính; kết quả đã gán giới tính dựa trên định kiến nghề nghiệp. Đây là một dạng thiên kiến dịch thuật được bàn luận rộng rãi. Cách khắc phục: đánh dấu văn bản gốc trung tính về giới, đưa ra cả hai cách dịch, và nhờ một người thông thạo xem lại các bản dịch gửi đến gia đình.
- Hồ sơ 3 · Nhận xét bài viết (mô phỏng)
- Điểm cần chú ý: việc chuyển mã ngôn ngữ có chủ đích và từ vựng vùng Texas bị coi là lỗi, kèm một phán xét ("tiếng Anh đúng") gạt bỏ giọng văn của học sinh. Cách khắc phục: yêu cầu nhận xét theo đúng tiêu chí của bài tập, và dạy học sinh khi nào việc chuyển mã ngôn ngữ là một lựa chọn nghệ thuật mạnh mẽ.
- Hồ sơ 4 · Lời khuyên nghề nghiệp (mô phỏng)
- Điểm cần chú ý: cùng sở thích nhưng "trần" khác nhau; các gợi ý cho A nghiêng về công việc lương thấp hơn và vai trò trợ lý. Cách khắc phục: bỏ giới tính khỏi câu lệnh, yêu cầu gợi ý ở nhiều trình độ học vấn khác nhau, và cho học sinh đối chiếu các gợi ý với một cơ sở dữ liệu nghề nghiệp.
- Hồ sơ 5 · Mô tả hình ảnh (mô phỏng)
- Điểm cần chú ý: cách thể hiện mặc định các vai trò theo giới tính, tuổi tác và chủng tộc. Tác hại: hình ảnh trên trang chiếu âm thầm dạy học sinh rằng ai thuộc về vị trí nào. Cách khắc phục: chủ động yêu cầu thể hiện sự đa dạng, xem lại mọi hình ảnh được tạo trước khi sử dụng, và thảo luận về các giả định mặc định với học sinh.
- Hồ sơ 6 · Giả định mặc định (mô phỏng)
- Điểm cần chú ý: không có lỗi trong từng kết quả riêng lẻ, nhưng giả định mặc định rất hẹp qua nhiều lần chạy. Tác hại: một số học sinh hiếm khi thấy gia đình mình trong các ví dụ. Cách khắc phục: yêu cầu nhiều kiểu gia đình và ngày lễ khác nhau, hoặc cho học sinh tự viết bối cảnh và chỉ dùng AI để kiểm tra phần tính toán.