Vì sao hệ thống AI lại ra quyết định bất công? Vì chúng học khuôn mẫu từ dữ liệu, mà dữ liệu ghi lại thế giới đúng như nó từng là, kể cả sự phân biệt đối xử, những chỗ thiếu và những lối tắt trong quá khứ. Một mô hình lọc hồ sơ xin việc hay chấm điểm người vay có thể lặp lại các khuôn mẫu đó trên quy mô lớn mà không ai cố ý, nên sự công bằng phải được kiểm thử có chủ đích chứ không thể mặc định là có.
Bài này giải thích các nguồn gốc chính của thiên lệch (bias), những chỗ nó hay xuất hiện, cách một doanh nghiệp nhỏ hay một trường học kiểm tra hệ thống trước khi dựa vào nó, và vì sao chữ “công bằng” hoá ra có nhiều hơn một định nghĩa.
Thiên lệch của AI đến từ đâu?
Mô hình học máy là một cỗ máy tìm khuôn mẫu. Đưa cho nó hàng nghìn quyết định tuyển dụng cũ, nó sẽ học xem đặc điểm nào hay đi kèm chữ “được nhận”. Nếu các trưởng phòng trước đây chuộng ứng viên từ vài trường nhất định, hoặc trừ điểm những khoảng nghỉ trong sự nghiệp mà phần lớn rơi vào phụ nữ đi làm lại sau sinh con, mô hình cũng học luôn điều đó và áp đều tăm tắp lên mọi hồ sơ mới.
Một ví dụ từng được báo chí quốc tế đưa tin rộng rãi: một công ty công nghệ lớn thử nghiệm công cụ tự động lọc CV và phát hiện nó hạ điểm những hồ sơ có nhắc tới hoạt động dành cho nữ, vì công cụ học từ nhiều năm dữ liệu tuyển dụng mà người được nhận phần lớn là nam. Dự án bị dừng. Bài học không nằm ở chuyện một công ty cẩu thả, mà ở chỗ thiên lệch đi vào qua chính những dữ liệu lịch sử hết sức bình thường.
Nhóm vắng mặt, biến đóng thế và ngôn ngữ: những gốc khác của thiên lệch
Thiên lệch còn đến từ những người vắng mặt trong dữ liệu. Nghiên cứu về các hệ thống phân tích khuôn mặt thương mại cho thấy tỷ lệ sai cao hơn rõ rệt ở phụ nữ da sẫm màu so với nam giới da sáng, vì ảnh dùng để huấn luyện bị lệch. Nhận dạng giọng nói cũng có thể gặp chuyện tương tự với giọng vùng miền: hệ thống học chủ yếu từ giọng một số vùng có thể nghe sai nhiều hơn với giọng vùng khác, điều rất đáng lưu tâm với một ngôn ngữ nhiều phương ngữ như tiếng Việt.
Rồi đến các biến đóng thế (proxy). Dù không được cho biết giới tính hay dân tộc, mô hình vẫn có thể suy ra từ địa chỉ, tên gọi, đời điện thoại, giờ mua sắm hay trường học. Xoá một cột nhạy cảm hiếm khi xoá được thiên lệch; nó chỉ làm thiên lệch khó thấy hơn.
Mô hình ngôn ngữ lớn thêm một tầng nữa. Học phần lớn từ văn bản trên internet, mà phần nhiều là tiếng Anh, chúng có thể lặp lại định kiến về nghề nghiệp, vùng miền hay nhóm người, và có thể dùng tiếng Việt kém hơn tiếng Anh. Nhà cung cấp có bộ lọc và tinh chỉnh để bớt những lỗi lộ liễu, nhưng điều đó không bảo đảm kết quả trung lập.
Thiên lệch hay xuất hiện ở đâu? Các mẫu hình theo từng ứng dụng
Mỗi ứng dụng, thiên lệch hiện ra một kiểu. Đây là những mẫu hình được ghi nhận nhiều lần, không phải kết quả chắc chắn xảy ra với mọi hệ thống.
| Lĩnh vực | Thiên lệch có thể hiện ra thế nào | Nên kiểm gì |
|---|---|---|
| Lọc hồ sơ tuyển dụng | Hạ hạng CV giống nhóm người ít được nhận trước đây; trừ điểm khoảng nghỉ việc hoặc một số trường. | So tỷ lệ qua vòng theo giới tính, nhóm tuổi trên bộ hồ sơ thử; tự đọc lại một số hồ sơ bị loại. |
| Chấm điểm tín dụng | Dựa vào biến đóng thế như đời điện thoại, nơi ở, phản ánh thu nhập hay vùng miền hơn là thói quen trả nợ. | Hỏi rõ dùng những biến nào; so tỷ lệ duyệt giữa các vùng với người có lịch sử trả nợ tương tự. |
| Nhận diện khuôn mặt | Sai nhiều hơn với nhóm người ít có trong ảnh huấn luyện, càng tệ khi thiếu sáng. | Thử với chính người dùng của mình, trong ánh sáng thật nơi lắp đặt; luôn giữ một cách xác thực không dùng sinh trắc học. |
| Nhận dạng giọng nói | Nghe sai nhiều hơn với một số giọng vùng miền, giọng người lớn tuổi hoặc nơi ồn. | Chạy thử với nhân viên và khách hàng nhiều vùng trước khi triển khai rộng. |
| Kiểm duyệt nội dung | Hay đánh dấu tiếng lóng, phương ngữ hay ngôn ngữ dân tộc thiểu số là nội dung độc hại. | Xem lại một mẫu bài bị gỡ; có kênh khiếu nại do người xử lý. |
| AI tạo sinh | Ảnh hoặc chữ mang định kiến về nghề nghiệp, giới tính, vùng miền. | Yêu cầu rõ sự đa dạng trong câu lệnh; duyệt lại trước khi đăng. |
Điểm chung: thử trên những người giống người dùng thật của mình, và luôn giữ một đường để con người sửa lại kết quả của máy.
Những câu cần hỏi trước khi tin một hệ thống AI ra quyết định
Nó được huấn luyện bằng dữ liệu gì? Hỏi nhà cung cấp dữ liệu lấy từ đâu, nước nào, giai đoạn nào. Dữ liệu từ thị trường khác chưa chắc hợp với người dùng Việt Nam.
Đã thử trên các nhóm người khác nhau chưa? Đòi tỷ lệ sai tách theo giới tính, tuổi, vùng miền hay ngôn ngữ, đừng chỉ nhận một con số độ chính xác chung. Trung bình cao vẫn có thể che kết quả tệ ở một nhóm nhỏ.
Chính xác thì nó quyết định cái gì? Nó xếp hạng, gợi ý hay chốt luôn? Hệ thống chỉ gợi ý, người thật quyết định, thì ít rủi ro hơn.
Con người có gạt được kết quả không? Phải có cách rõ ràng để nhân viên sửa kết quả, và để người bị ảnh hưởng yêu cầu người thật xem xét lại.
Nó giải thích được kết quả không? Dù chỉ là lời giải thích đơn giản như vài yếu tố chính dẫn tới điểm số cũng giúp bắt lỗi, và ngày càng được cơ quan quản lý lẫn khách hàng chờ đợi.
Biến đầu vào nào có thể là biến đóng thế? Soi những trường như nơi ở, tên, thiết bị, trường học, vì chúng có thể đại diện cho đặc điểm lẽ ra không được ảnh hưởng tới quyết định.
Sau khi chạy thật thì giám sát thế nào? Hiệu quả trôi dần khi tập người dùng thay đổi. Hỏi bao lâu kiểm lại một lần và ai chịu trách nhiệm việc đó.
Dữ liệu của người được đánh giá đi đâu? Công bằng và quyền riêng tư đi liền với nhau. Cần biết dữ liệu ứng viên, khách hàng được giữ bao lâu và ai được xem.
Vì sao “công bằng” lại có nhiều nghĩa?
Bắt tay vào đo mới thấy một điều bất ngờ: công bằng có thể định nghĩa theo nhiều cách đều hợp lý, nhưng không thể thoả mãn tất cả cùng lúc. Tỷ lệ được duyệt bằng nhau giữa các nhóm, tỷ lệ sai bằng nhau, hay điểm rủi ro chính xác như nhau, cách nào cũng bảo vệ được, nhưng khi dữ liệu nền của các nhóm khác nhau thì cải thiện thước đo này thường làm xấu thước đo kia.
Nghĩa là công bằng là một quyết định con người phải đưa ra, không phải cái nút nhà cung cấp bật sẵn. Một trường học dùng AI để phát hiện học sinh có thể cần hỗ trợ có thể chấp nhận báo nhầm nhiều hơn để không bỏ sót em nào; một đơn vị cho vay có thể chọn khác. Chọn thế nào cũng được, miễn là nói rõ, ghi lại và có người xem xét lại.
Biện pháp thực tế quan trọng hơn thước đo hoàn hảo. Giữ con người trong vòng quyết định với những việc ảnh hưởng tới công ăn việc làm, tiền bạc hay học hành của ai đó. Cho người ta biết khi có hệ thống tự động tham gia. Có cách khiếu nại đơn giản. Và kiểm lại mỗi khi dữ liệu hay mô hình thay đổi.
Với tổ chức nhỏ không có chuyên gia dữ liệu, bước hữu ích nhất thường lại rẻ nhất: trước khi dùng một công cụ, cho nó chạy thử trên vài chục hồ sơ cũ mà mình đã biết đáp án đúng, có đủ người thuộc nhiều hoàn cảnh khác nhau, rồi xem nó sai ở đâu. Nhà cung cấp không hỗ trợ được kiểu thử này thì bản thân điều đó cũng đã nói lên nhiều chuyện.
Câu hỏi thường gặp
AI có thể hoàn toàn không thiên lệch không?
Không hệ thống nào trung lập tuyệt đối, vì dữ liệu và cách thiết kế luôn mang một góc nhìn nào đó. Mục tiêu thực tế là đo được thiên lệch, giảm những mẫu hình gây hại và để con người sửa được quyết định.
Bỏ cột giới tính khỏi dữ liệu thì mô hình có công bằng không?
Chưa chắc. Các biến khác như tên, trường học hay khoảng nghỉ trong sự nghiệp có thể đứng thế chỗ cho giới tính. Phải kiểm công bằng bằng cách đo kết quả, không phải bằng cách xoá cột.
Chatbot có thiên lệch khi dùng tiếng Việt không?
Có thể. Mô hình học chủ yếu từ văn bản tiếng Anh dễ lặp lại định kiến và kém hơn khi dùng tiếng Việt, kể cả với cách nói từng vùng. Nên đọc lại kỹ những gì AI viết về con người, vùng miền và nghề nghiệp trước khi dùng.
AI phân biệt đối xử thì ai chịu trách nhiệm?
Nhìn chung, tổ chức dùng hệ thống để ra quyết định vẫn chịu trách nhiệm, không phải thuật toán. Hợp đồng có thể chia bớt trách nhiệm cho nhà cung cấp; câu hỏi pháp lý cụ thể nên hỏi luật sư.
Công ty nhỏ kiểm thiên lệch của công cụ AI bằng cách nào?
Cho công cụ chạy thử trên một nhóm hồ sơ cũ đã biết kết quả đúng, đủ giới tính, độ tuổi, vùng miền, rồi so tỷ lệ sai giữa các nhóm. Với quyết định quan trọng, luôn giữ bước người duyệt lại.
