Bồi dưỡng chuyên môn · Lãnh đạo, Giáo viên, Giảng viên, Chuyên viên hỗ trợ · 70 phút
Phiên tòa xét xử đạo đức AI
Nhà giáo đưa các trường hợp hư cấu về việc dùng AI trong chấm điểm, giám sát thi, phát hiện gian lận và theo dõi học sinh ra "xét xử", rồi đưa ra phán quyết kèm điều kiện có thể trở thành chính sách thực tế.
Các trường phổ thông và đại học đã và đang đưa ra những quyết định hệ trọng với sự hỗ trợ của AI: chấm bài viết, đánh dấu nghi vấn gian lận, theo dõi thiết bị của học sinh, dự đoán ai có nguy cơ bỏ học. Những ứng dụng này có thể tiết kiệm thời gian và phát hiện vấn đề thật, nhưng cũng có thể gây hại cho chính những học sinh ít có tiếng nói nhất để phản kháng. Trong buổi tòa án giả định này, các nhóm "tòa" nhỏ tranh luận về những vụ việc hư cấu dựa trên thẻ nguyên tắc đạo đức dành cho thẩm phán, rồi phán quyết "được phép", "được phép có điều kiện" hoặc "không được phép". Các điều kiện họ viết ra sẽ trở thành bản nháp hướng dẫn thực tế cho chính trường mình.
Trong bộ tài liệu này
- Phiếu A: Hồ sơ vụ việc (thẻ cắt rời)
- Phiếu B: Thẻ nguyên tắc đạo đức cho thẩm phán (sơ đồ tổ chức)
- Phiếu C: Mẫu phán quyết và biện pháp khắc phục (phiếu bài tập)
- Đáp án cho người điều phối (trang cuối)
Chỉ báo ELE của TCEA
- AI2.2 Tôi có thể xác định các vấn đề đạo đức tiềm ẩn trong ứng dụng AI và đề xuất giải pháp.
- AI2.1 Tôi biết cách áp dụng các nguyên tắc đạo đức khi sử dụng hoặc phát triển AI cho giáo dục.
- AI2.3 Tôi nhận thức được tầm quan trọng của tính minh bạch và trách nhiệm giải trình trong hệ thống AI.
- AI1.3 Tôi nhận thức được những hạn chế hiện tại và các thiên kiến tiềm ẩn trong hệ thống AI.
Hướng dẫn đầy đủ cho người điều phối: mglearn.github.io/eles/vi/activities/ai-ethics-case-court.html
Phiếu A cho Phiên tòa xét xử đạo đức AI
Hồ sơ vụ việc
Mọi nhân vật, trường học và sản phẩm đều là hư cấu. Mặt sau là đáp án cho người điều phối: những vấn đề mà một tòa làm tốt cần nêu ra.
Vụ 1 · Chấm bài luận với sự hỗ trợ của AI
Tại trường Maple Hollow High, một giáo viên Ngữ văn Anh có 160 học sinh dùng công cụ AI để chấm bài luận theo thang đánh giá và soạn nhận xét. Cô kiểm tra ngẫu nhiên khoảng một trên mười bài. Học sinh không được cho biết có AI tham gia. Điểm được nhập thẳng vào sổ điểm.
Vụ 2 · Công cụ phát hiện văn bản do AI viết
Trường Cedar Ridge Middle School đưa mọi bài luận qua một công cụ phát hiện văn bản do AI viết. Luisa, em chuyển từ Guatemala đến hai năm trước, bị đánh dấu "khả năng cao do AI viết". Chính sách cho điểm 0 tự động trừ khi em chứng minh được mình tự viết. Em không lưu bản nháp nào.
Vụ 3 · Giám sát thi từ xa (giáo dục đại học)
Trường Bluebonnet Community College bắt buộc dùng phần mềm giám sát thi qua webcam cho các bài thi trực tuyến. Phần mềm đánh dấu "hành vi đáng ngờ" như nhìn đi chỗ khác hoặc có tiếng ồn xung quanh. Một sinh viên mắc chứng rối loạn tic bị đánh dấu ở mọi bài thi; khuôn mặt của một sinh viên khác không được nhận diện ổn định do ánh sáng yếu trong căn hộ ở chung.
Vụ 4 · Theo dõi thiết bị
Học khu Pecan Valley ISD dùng phần mềm AI quét các tìm kiếm và tin nhắn của học sinh trên tài khoản trường để tìm dấu hiệu tự gây hại hoặc bạo lực, và gửi cảnh báo cho nhân viên nhà trường 24/7. Phần mềm đánh dấu một tin nhắn (bằng tiếng Anh): "I'm going to shoot my shot at tryouts." (nghĩa lóng là "Mình sẽ liều thử một phen ở buổi tuyển chọn", nhưng chữ "shoot" nghĩa đen là "bắn"). Một chuyên viên tư vấn và một cảnh sát đến nhà học sinh vào ban đêm.
Vụ 5 · Dự đoán bỏ học
Học khu Riverbend ISD áp dụng một mô hình dự đoán học sinh lớp 9 nào "có nguy cơ" không tốt nghiệp, dựa trên chuyên cần, điểm số, kỷ luật và mã bưu chính (zip code). Mọi giáo viên đều thấy nhãn đỏ, vàng hoặc xanh cạnh tên từng học sinh.
Vụ 6 · Thư của giảng viên (giáo dục đại học)
Một giáo sư tại Bluebonnet Community College viết 40 thư giới thiệu mỗi năm. Bà dán tên, điểm số và câu chuyện cá nhân của sinh viên vào một chatbot AI dành cho người tiêu dùng để soạn nháp, rồi chỉnh sửa sơ qua. Sinh viên không hề biết.
Vụ 7 · Chatbot gia sư AI
Trường Lone Oak Elementary thí điểm chatbot hư cấu "BrightPath Tutor" cho môn Toán lớp 4. Chatbot giúp những học sinh đang gặp khó. Hợp đồng cho phép nhà cung cấp giữ lại các cuộc trò chuyện của học sinh để "cải thiện sản phẩm". Gia đình chỉ nhận được một thông báo dài một dòng, và chỉ bằng tiếng Anh.
Phiếu B cho Phiên tòa xét xử đạo đức AI
Thẻ nguyên tắc đạo đức cho thẩm phán
Thẩm phán: dùng các câu hỏi để chất vấn cả hai bên. Đánh dấu nguyên tắc có sức nặng nhất trong phán quyết của bạn.
| Nguyên tắc | Câu hỏi của hội đồng xét xử | Điều chúng tôi nghe được (ghi chú) |
|---|---|---|
| Lợi ích học tập | Việc này mang lại gì cho việc học hoặc sức khỏe tinh thần của học sinh? Bằng chứng nào cho thấy điều đó? | |
| Quyền riêng tư | Dữ liệu nào được thu thập, ai được xem, lưu giữ bao lâu, và có thể bị dùng vào việc khác không? | |
| Công bằng | Công cụ có thể hoạt động kém hơn hoặc gây hại nhiều hơn cho một số nhóm (ngôn ngữ, khuyết tật, chủng tộc, thu nhập) không? | |
| Minh bạch | Học sinh và gia đình có biết AI tham gia và đại khái nó hoạt động thế nào không? | |
| Trách nhiệm giải trình | Ai chịu trách nhiệm khi nó sai? Có quy trình khiếu nại thực chất không? | |
| Sự giám sát của con người | Có một người đưa ra quyết định cuối cùng, với đủ thời gian và được đào tạo để làm tốt không? | |
| Tiếng nói | Những người bị ảnh hưởng (học sinh, gia đình, giảng viên) có được tham vấn không? |
Phiếu C cho Phiên tòa xét xử đạo đức AI
Mẫu phán quyết và biện pháp khắc phục
Hội đồng xét xử điền phiếu này thành tiếng trong lúc nghị án. Điều kiện phải đủ cụ thể để người khác có thể kiểm tra xem chúng có được thực hiện hay không.
Vụ việc và phán quyết (khoanh tròn một): ĐƯỢC PHÉP · ĐƯỢC PHÉP CÓ ĐIỀU KIỆN · KHÔNG ĐƯỢC PHÉP
Nguyên tắc có sức nặng nhất trong phán quyết của chúng tôi, và chi tiết trong vụ việc đã quyết định điều đó:
Lập luận mạnh nhất của bên thua:
Điều kiện (ai làm gì, khi nào). Ít nhất ba điều kiện, hoặc giải thích vì sao không điều kiện nào là đủ:
Học sinh bị ảnh hưởng có thể làm gì nếu cho rằng AI đã sai:
Ai vẫn có thể bị bỏ sót hoặc bị tổn hại theo phán quyết của chúng tôi?
Chỉ dành cho người điều phối, Phiên tòa xét xử đạo đức AI
Đáp án và ghi chú
Phiếu A: Hồ sơ vụ việc
- Vụ 1 · Chấm bài luận với sự hỗ trợ của AI
- Vấn đề: minh bạch (học sinh không được thông báo), trách nhiệm giải trình (điểm này là của ai?), sự giám sát của con người (90% không được xem lại), công bằng (công cụ có chấm thấp hơn những bài dùng phương ngữ không chuẩn hoặc cấu trúc khác thường không?), lợi ích học tập (nhận xét nhanh hơn là lợi ích có thật). Điều kiện tốt: công khai việc sử dụng, giáo viên xem lại mọi điểm cuối cùng, nhận xét của AI chỉ là bản nháp.
- Vụ 2 · Công cụ phát hiện văn bản do AI viết
- Vấn đề: các công cụ phát hiện văn bản do AI viết được biết là không đáng tin cậy, và đã có những lo ngại được công bố về việc đánh dấu nhầm bài của người viết không phải bản ngữ tiếng Anh. Trách nhiệm chứng minh bị đẩy sang học sinh. Phán quyết tốt: kết quả của công cụ phát hiện không bao giờ tự nó dẫn đến hình phạt; bằng chứng phải đến từ quá trình làm bài (bản nháp, trao đổi, bài viết tại lớp).
- Vụ 3 · Giám sát thi từ xa (giáo dục đại học)
- Vấn đề: quyền riêng tư (quay video bên trong nhà), công bằng (khuyết tật, ánh sáng, những lo ngại về màu da và camera do sinh viên và các nhóm vận động nêu ra), điều chỉnh hỗ trợ, khả năng tiếp cận (không phải ai cũng có không gian riêng yên tĩnh). Điều kiện: cảnh báo phải được con người xem xét trước khi có bất kỳ hành động nào, có quy trình xin điều chỉnh hỗ trợ, có hình thức đánh giá thay thế.
- Vụ 4 · Theo dõi thiết bị
- Vấn đề: an toàn của học sinh là mục tiêu chính đáng và nghiêm túc; nhưng cũng có quyền riêng tư, cảnh báo nhầm, ai nhận cảnh báo, quy trình leo thang, và tác động khiến học sinh ngại bày tỏ bản thân. Điều kiện: có người được đào tạo sàng lọc trước khi leo thang, phạm vi theo dõi được công khai rõ ràng với gia đình, giới hạn thời gian lưu dữ liệu, xem xét các mẫu cảnh báo nhầm.
- Vụ 5 · Dự đoán bỏ học
- Vấn đề: dùng mã bưu chính có thể mã hóa sự bất bình đẳng; nhãn có thể định hình kỳ vọng của giáo viên; học sinh hoặc gia đình có thể xem hoặc phản đối nhãn không? Lợi ích: hỗ trợ sớm hơn. Điều kiện: loại bỏ các biến thay thế (proxy), chỉ nhân viên hỗ trợ được xem nhãn, dùng dự đoán để đề xuất giúp đỡ, không bao giờ để hạn chế cơ hội; xem xét độ chính xác theo từng nhóm học sinh.
- Vụ 6 · Thư của giảng viên (giáo dục đại học)
- Vấn đề: quyền riêng tư (hồ sơ sinh viên được nhập vào công cụ không có thỏa thuận với nhà trường), minh bạch, tính xác thực (thư giới thiệu mang nhận định cá nhân của người viết), thiên kiến trong từ ngữ khen ngợi do AI tạo ra. Điều kiện: chỉ dùng công cụ được nhà trường phê duyệt, không nhập thông tin nhận dạng, công khai việc sử dụng, giáo sư tự viết những nhận định quan trọng.
- Vụ 7 · Chatbot gia sư AI
- Vấn đề: nhà cung cấp sử dụng dữ liệu, độ tuổi người dùng, thông báo thực chất cho gia đình (tiếp cận ngôn ngữ), gia sư đưa đáp án thay vì gợi ý, bằng chứng học tập. Điều kiện: hợp đồng giới hạn việc sử dụng và yêu cầu xóa dữ liệu, thông báo bằng ngôn ngữ của các gia đình, giáo viên theo dõi, đo lường việc học chứ không đo số phút sử dụng.