Học tập của học sinh · Lớp 9–12, Giáo dục đại học · 65 phút
Kiểm toán Dấu vết Dữ liệu
Các nhóm đọc chính sách quyền riêng tư của một ứng dụng học tập dùng AI như những điều tra viên, vẽ sơ đồ nơi dữ liệu của mình có thể đi đến, và chọn các thiết lập cùng thói quen giúp thu nhỏ dấu vết đó.
Mọi ứng dụng và công cụ AI mà học sinh sử dụng đều thu thập một thứ gì đó: những gì các em gõ, các em đang ở đâu, các em xem trong bao lâu, các em nói chuyện với ai. Chính sách quyền riêng tư giải thích phần lớn điều này, nhưng chúng dài và được viết cho giới luật sư. Trong buổi kiểm toán này, các nhóm giải mã một chính sách quyền riêng tư mô phỏng sát thực tế của một ứng dụng học tập dùng AI hư cấu, lần theo cách một mẩu dữ liệu có thể đi từ ứng dụng đến các đối tác và công ty môi giới dữ liệu, rồi kiểm toán một công cụ mà các em thực sự dùng. Các em ra về với một kế hoạch ngắn gọn, dựa trên bằng chứng: chia sẻ gì, thay đổi thiết lập nào, và thôi không gõ những gì vào chatbot.
Trong bộ tài liệu này
- Phiếu A: Chính sách Quyền riêng tư của StudyNest AI (Trích đoạn) (bài đọc)
- Phiếu B: Thẻ Dấu vết Dữ liệu (thẻ cắt rời)
- Phiếu C: Sơ đồ Kiểm toán Chính sách (sơ đồ tổ chức)
- Đáp án cho người điều phối (trang cuối)
Chỉ báo ELE của TCEA
- S2.1 Em biết cách bảo vệ thông tin cá nhân của mình trên mạng.
- S2.3 Em nhận thức được những rủi ro tiềm ẩn khi chia sẻ nội dung trên mạng.
- AI2.3 Tôi nhận thức được tầm quan trọng của tính minh bạch và trách nhiệm giải trình trong hệ thống AI.
- AI2.2 Tôi có thể xác định các vấn đề đạo đức tiềm ẩn trong ứng dụng AI và đề xuất giải pháp.
Hướng dẫn đầy đủ cho người điều phối: mglearn.github.io/eles/vi/activities/data-trail-audit.html
Phiếu A cho Kiểm toán Dấu vết Dữ liệu
Chính sách Quyền riêng tư của StudyNest AI (Trích đoạn)
StudyNest là một ứng dụng học tập dùng AI hư cấu. Tô xanh lá (ổn), vàng (muốn biết thêm), đỏ (lo lắng). Khoanh tròn những từ mơ hồ.
11. Thông tin bạn cung cấp cho chúng tôi. Khi bạn tạo tài khoản, chúng tôi thu thập tên, địa chỉ email, ngày sinh và tên trường của bạn. Khi bạn sử dụng gia sư AI của StudyNest, chúng tôi thu thập các câu hỏi bạn gõ, các tệp bạn tải lên (như ghi chép, bài luận, hoặc ảnh chụp bài tập về nhà) và câu trả lời của gia sư.
22. Thông tin chúng tôi thu thập tự động. Chúng tôi thu thập loại thiết bị, địa chỉ IP, vị trí gần đúng của bạn, các trang và tính năng bạn sử dụng, thời lượng sử dụng, và những thời điểm bạn hoạt động. Chúng tôi dùng cookie và các công nghệ tương tự để ghi nhớ bạn qua các phiên truy cập và trên các trang web khác có sử dụng đối tác quảng cáo của chúng tôi.
33. Cách chúng tôi sử dụng thông tin của bạn. Chúng tôi sử dụng thông tin của bạn để cung cấp và cá nhân hóa dịch vụ, để cải thiện dịch vụ của chúng tôi, bao gồm phát triển và huấn luyện các mô hình AI, để gửi cho bạn thông tin cập nhật và ưu đãi, và để giữ an toàn cho StudyNest.
44. Các cuộc trò chuyện của bạn. Các cuộc trò chuyện với gia sư AI được lưu trữ chừng nào tài khoản của bạn còn hoạt động. Nhân viên và nhà thầu được ủy quyền có thể xem xét một số cuộc trò chuyện mẫu để cải thiện chất lượng và độ an toàn. Bạn có thể xóa từng cuộc trò chuyện trong phần Cài đặt; các cuộc trò chuyện đã xóa có thể vẫn còn trong bản sao lưu trong một khoảng thời gian.
55. Chia sẻ. Chúng tôi có thể chia sẻ thông tin với các đối tác đáng tin cậy cung cấp dịch vụ thay mặt chúng tôi, như lưu trữ máy chủ và phân tích dữ liệu. Chúng tôi có thể chia sẻ thông tin đã được khử nhận dạng hoặc tổng hợp với các đối tác cho mục đích nghiên cứu, tiếp thị và các mục đích kinh doanh khác. Chúng tôi không bán tên hoặc địa chỉ email của bạn.
66. Lựa chọn của bạn. Bạn có thể từ chối nhận email tiếp thị bất cứ lúc nào. Bạn có thể yêu cầu xóa tài khoản bằng cách liên hệ bộ phận hỗ trợ. Người dùng ở một số nơi có thể có thêm các quyền theo luật địa phương.
77. Chuyển giao doanh nghiệp. Nếu StudyNest tham gia vào một vụ sáp nhập, mua lại, hoặc bán tài sản, thông tin của bạn có thể được chuyển giao như một phần của giao dịch đó.
88. Độ tuổi. StudyNest dành cho người dùng từ 13 tuổi trở lên. Người dùng dưới 18 tuổi nên có sự cho phép của cha mẹ hoặc người giám hộ.
99. Thay đổi. Chúng tôi có thể cập nhật chính sách này theo thời gian. Việc bạn tiếp tục sử dụng StudyNest sau khi có thay đổi đồng nghĩa với việc bạn chấp nhận chính sách đã cập nhật.
Phiếu B cho Kiểm toán Dấu vết Dữ liệu
Thẻ Dấu vết Dữ liệu
Sắp xếp các thẻ để kể lại việc một câu hỏi gõ vào StudyNest có thể dẫn đến một quảng cáo trên một trang web khác như thế nào. Sau đó lật thẻ để kiểm tra. In mặt sau riêng.
Chặng 1
Lúc 11:40 tối, Riley gõ vào StudyNest: "Làm sao để ôn thi SAT khi mình bị lo âu và không ngủ được?"
Chặng 2
StudyNest lưu cuộc trò chuyện cùng với thông tin thiết bị, vị trí gần đúng của Riley và thời gian.
Chặng 3
Hệ thống của StudyNest gắn nhãn sở thích cho tài khoản của Riley: "luyện thi," "giấc ngủ," "căng thẳng."
Chặng 4
Một cookie từ một đối tác quảng cáo của StudyNest ghi lại rằng trình duyệt này đã truy cập một trang ôn luyện thi.
Chặng 5
StudyNest chia sẻ dữ liệu sở thích "đã được khử nhận dạng" với một đối tác tiếp thị. Tên của Riley bị xóa, nhưng mã thiết bị và vị trí gần đúng vẫn còn.
Chặng 6
Một công ty môi giới dữ liệu, một công ty mà Riley chưa bao giờ nghe tên, mua dữ liệu từ nhiều ứng dụng và trang web rồi gộp lại thành một hồ sơ cho thiết bị này: độ tuổi, vị trí, sở thích.
Chặng 7
Một công ty bán thực phẩm chức năng hỗ trợ giấc ngủ mua một nhóm đối tượng từ công ty môi giới: "thanh thiếu niên gần khu vực này quan tâm đến căng thẳng và luyện thi."
Chặng 8
Ngày hôm sau, trên một trang web trò chơi, Riley thấy quảng cáo thực phẩm chức năng hỗ trợ giấc ngủ "dành cho học sinh bị căng thẳng."
Phiếu C cho Kiểm toán Dấu vết Dữ liệu
Sơ đồ Kiểm toán Chính sách
Trích dẫn chính xác câu chữ từ mỗi chính sách. Ghi "không nói rõ" khi chính sách im lặng; điều đó cũng được tính là một phát hiện. Viết kế hoạch dữ liệu của bạn ở mặt sau.
| Công cụ | Họ thu thập gì? (trích dẫn) | Để làm gì, và ai khác nhận được? (trích dẫn) | Tôi có thể kiểm soát điều gì? (trích dẫn hoặc thiết lập) | Mức độ tin cậy + lý do |
|---|---|---|---|---|
| StudyNest AI (Phiếu A) | ||||
| Công cụ thật: | ||||
Chỉ dành cho người điều phối, Kiểm toán Dấu vết Dữ liệu
Đáp án và ghi chú
Phiếu B: Thẻ Dấu vết Dữ liệu
- Chặng 1
- Bản thân câu hỏi chứa những manh mối nhạy cảm: một kỳ thi, một vấn đề sức khỏe, và thói quen thức khuya. Mục 1 nói rằng StudyNest thu thập những gì bạn gõ.
- Chặng 2
- Mục 2 và 4. Dữ liệu thời gian và vị trí được thu thập tự động; Riley chưa bao giờ gõ những thông tin đó.
- Chặng 3
- Các ứng dụng thường gắn nhãn người dùng theo nhóm sở thích để cá nhân hóa nội dung và quảng cáo. Chữ "cá nhân hóa" ở Mục 3 bao gồm việc này.
- Chặng 4
- Mục 2 đề cập đến cookie được dùng "trên các trang web khác có sử dụng đối tác quảng cáo của chúng tôi." Đây là cách hoạt động của bạn ở nơi này bám theo bạn sang nơi khác.
- Chặng 5
- Mục 5. Xóa tên không phải lúc nào cũng làm dữ liệu trở nên ẩn danh. Khi kết hợp với các chi tiết khác, một thiết bị và một vị trí có thể chỉ ngược về đúng một người.
- Chặng 6
- Các công ty môi giới dữ liệu thu thập thông tin về con người từ nhiều nguồn, gộp lại thành hồ sơ, rồi bán hoặc cấp phép sử dụng những hồ sơ đó. Người ta thường không biết có một công ty môi giới đang nắm giữ thông tin về mình.
- Chặng 7
- Hồ sơ được bán dưới dạng nhóm đối tượng cho quảng cáo nhắm mục tiêu. Câu hỏi lúc nửa đêm của Riley đã trở thành một phần của một nhóm tiếp thị.
- Chặng 8
- Dấu vết đã hoàn tất. Riley chưa bao giờ trực tiếp cho phép công ty môi giới hay nhà quảng cáo. Hãy hỏi: Riley có thể đã chặn dấu vết ở chặng nào, và bằng cách nào?