Một hệ thống không giải thích được cách nó ra kết quả thì người dùng chỉ có hai lựa chọn: tin hoàn toàn hoặc bỏ hoàn toàn.
Cả hai đều tệ, và cả hai đều không cho ai cơ hội phát hiện lỗi.
Phải công khai gì
- Nguồn dữ liệu nào được dùng và thu thập thế nào.
- Quy tắc khớp thực thể và ngưỡng quyết định.
- Quy tắc đếm cho mọi con số hiển thị.
- Mức bao phủ theo từng chiều.
- Hạn chế đã biết và lỗi chưa sửa được.
Mức độ chi tiết
- Đủ để người khác hiểu vì sao một bản ghi ra như vậy.
- Đủ để tái lập một con số.
- Không cần lộ chi tiết kỹ thuật gây rủi ro bảo mật.
- "Thuật toán độc quyền" không phải là câu trả lời chấp nhận được cho dữ liệu về con người.
Ở đâu
- Cạnh dữ liệu, không ở trang riêng ít người vào.
- Trong dữ liệu xuất ra.
- Bằng ngôn ngữ người dùng đọc được, không chỉ tài liệu kỹ thuật.
- Giải thích ở nơi không ai tìm thấy thì bằng không giải thích.
Khi có người hỏi
- Trả lời cụ thể, dẫn về nguồn.
- Thừa nhận khi không biết.
- Trả lời cả câu hỏi khó chịu.
- Người hỏi khó là người đang giúp bạn tìm lỗi.
Giới hạn của minh bạch
- Minh bạch không sửa được dữ liệu sai — nó chỉ cho phép phát hiện.
- Công bố hạn chế không miễn trừ trách nhiệm cải thiện.
- Tài liệu dài không thay được đường sửa lỗi hoạt động thật.
Một điều đáng nhớ
Với dữ liệu về con người, "thuật toán độc quyền" không phải là câu trả lời chấp nhận được.
Người bị mô tả sai phải hiểu được vì sao hệ thống nói thế, nếu không họ không có cách nào chứng minh nó sai — và một tuyên bố không bác bỏ được thì không phải là dữ liệu.
Câu hỏi thường gặp
Một hệ dữ liệu phải công khai những gì?
Nguồn dữ liệu và cách thu thập, quy tắc khớp thực thể và ngưỡng quyết định, quy tắc đếm cho mọi con số, mức bao phủ theo từng chiều, và hạn chế đã biết.
Công khai tới mức chi tiết nào?
Đủ để người khác hiểu vì sao một bản ghi ra như vậy và đủ để tái lập một con số, nhưng không cần lộ chi tiết kỹ thuật gây rủi ro bảo mật.
Đặt phần giải thích ở đâu?
Cạnh dữ liệu chứ không ở trang riêng ít người vào, trong dữ liệu xuất ra, và bằng ngôn ngữ người dùng đọc được — giải thích ở nơi không ai tìm thấy thì bằng không.
Minh bạch có giới hạn gì?
Minh bạch không sửa được dữ liệu sai mà chỉ cho phép phát hiện, công bố hạn chế không miễn trừ trách nhiệm cải thiện, và tài liệu dài không thay được đường sửa lỗi thật.
Vì sao thuật toán độc quyền không chấp nhận được?
Vì người bị mô tả sai phải hiểu được vì sao hệ thống nói thế, nếu không họ không có cách chứng minh nó sai — và tuyên bố không bác bỏ được thì không phải dữ liệu.
