Thiên lệch của AI (AI bias) là khi đầu ra của mô hình nghiêng một cách có hệ thống về một phía: vẽ kỹ sư nào cũng là đàn ông, chấm một giọng vùng miền là kém chuyên nghiệp, hay trả lời về nước này sơ sài hơn nước khác. Nguồn gốc chủ yếu nằm ở dữ liệu mô hình đã học và ở các lựa chọn của người làm ra, tinh chỉnh nó. Người dùng không xoá được thiên lệch, nhưng nhận ra được, hỏi theo cách giảm được, và giữ nó tránh xa các quyết định về con người thật.
Thiên lệch nghe như chuyện đạo đức xa xôi, cho tới khi nó lọt vào việc của chính mình: bản nháp tin tuyển dụng ngầm ưu tiên người trẻ, ảnh sản phẩm mà khách hàng nào trông cũng một kiểu, bản tóm tắt coi nguồn tiếng Việt kém đáng tin hơn nguồn tiếng Anh. Phần dưới nói nó từ đâu ra, lộ diện thế nào trong công cụ hằng ngày, và vài thói quen thực tế để hạn chế thiệt hại.
Thiên lệch trong AI đến từ đâu?
Nguồn thứ nhất là dữ liệu huấn luyện. Mô hình học từ chữ và ảnh con người đã đăng tải, mà thứ được đăng tải không phải mẫu công bằng của thế giới. Có ngôn ngữ, quốc gia, nhóm người được viết về nhiều hơn hẳn; định kiến cũ lặp đi lặp lại trong sách, quảng cáo, diễn đàn. Khi mô hình học “thứ gì thường đi tiếp”, nó học luôn cả những chỗ lệch ấy.
Nguồn thứ hai là thứ bị lọc bỏ. Người làm mô hình phải loại nội dung kém chất lượng và độc hại khỏi dữ liệu, việc đó cần thiết, nhưng chính bộ lọc cũng đưa ra lựa chọn. Quy tắc chấm “chất lượng” theo kiểu tiếng Anh chuẩn mực chẳng hạn, có thể vứt đi nhiều văn bản đời thường hoặc không phải tiếng Anh hơn, khiến mô hình ít được tiếp xúc với cách nhiều người thực sự nói.
Nguồn thứ ba là khâu tinh chỉnh. Khi con người chấm điểm câu trả lời để dạy mô hình cư xử, các giả định văn hoá của chính họ định hình thế nào là “tốt”. Câu trả lời lịch sự ở nền văn hoá này có thể nghe như né tránh ở nền văn hoá khác. Quy tắc an toàn viết chủ yếu cho bối cảnh một nước có thể không hợp ở nơi khác.
Nguồn thứ tư: cách mình dùng công cụ
Nguồn thứ tư là cách dùng. Một mô hình tương đối trung tính vẫn cho kết quả lệch khi câu hỏi đã nghiêng sẵn, khi chỉ đưa một kiểu ví dụ, hoặc khi đầu ra được dùng để xếp hạng con người mà không ai kiểm xem bức tranh chung ra sao.
Nói vậy không có nghĩa người làm AI không quan tâm. Các hãng lớn bỏ rất nhiều công sức đo và giảm thiên lệch. Nó có nghĩa thiên lệch là đặc tính của cả dây chuyền, từ dữ liệu tới lúc triển khai, và không bao giờ về đúng số không.
Thiên lệch lộ ra thế nào trong công cụ hằng ngày?
Công cụ vẽ ảnh mặc định theo khuôn sẵn. Gõ “một giám đốc” hay “một y tá” mà không tả gì thêm, nhiều công cụ nghiêng về một giới, một độ tuổi, một màu da. Gõ “một gia đình Việt Nam” có khi ra cảnh làng quê kiểu bưu thiếp chứ không phải gia đình trong căn hộ chung cư.
Trợ lý viết mặc định một kiểu người đọc. Lời khuyên về phép tắc kinh doanh, lương thưởng, trường lớp thường ngầm lấy bối cảnh phương Tây, trừ khi mình nói rõ.
Có ngôn ngữ được trả lời nông hơn. Cùng một câu hỏi, hỏi bằng tiếng Việt có thể được trả lời ngắn hoặc chung chung hơn tiếng Anh, nhất là chủ đề chuyên sâu ít tài liệu tiếng Việt trên mạng.
Giọng vùng miền và cách viết bị chấm oan. Văn bản viết theo giọng địa phương, gõ không dấu hay viết tắt kiểu đời thường có thể bị đánh giá là thiếu chuyên nghiệp hoặc bị hiểu sai.
Bản nháp tuyển dụng cài sẵn bộ lọc ngầm. Tin tuyển dụng do AI soạn có thể chèn kiểu “môi trường trẻ trung, năng động” khiến người lớn tuổi ngại nộp đơn, đơn giản vì cách viết đó rất phổ biến trong dữ liệu.
Tóm tắt nghiêng về phía nói to hơn. Khi tóm tắt nhiều ý kiến trái chiều, mô hình có thể cho quan điểm có nhiều chữ hơn nặng ký hơn, chứ không phải quan điểm có bằng chứng tốt hơn.
Tên người đổi giọng câu trả lời. Các nhà nghiên cứu độc lập từng ghi nhận một số mô hình viết khác nhau về một người tuỳ theo cái tên gợi giới tính hay sắc tộc. Mức độ khác nhau giữa các mô hình và đang được khắc phục, nhưng việc nhạy cảm thì nên thử.
Quy tắc an toàn bắn nhầm trong bối cảnh địa phương. Một câu hỏi vô hại về thuốc nam, lễ hội làng hay món ăn vùng miền có thể bị từ chối hoặc rào đón quá mức vì quy tắc được chỉnh ở nơi khác.
Giảm thiên lệch trong kết quả của chính mình thế nào?
Tả cụ thể người và bối cảnh. Thay vì “một chủ doanh nghiệp”, tả đúng người và khung cảnh mình cần: khoảng tuổi, thành phố, loại hình kinh doanh. Yêu cầu càng cụ thể, chỗ cho “mặc định” càng ít.
Chủ động đòi sự đa dạng. Với ảnh và chân dung khách hàng mẫu, xin nhiều độ tuổi, giới tính, xuất thân, rồi chọn cái hợp với người dùng thật của mình.
Làm phép thử hoán đổi. Chỉ đổi tên, giới tính hoặc vùng miền trong câu hỏi rồi so câu trả lời. Khác biệt lẽ ra không nên có sẽ lộ thiên lệch rất nhanh.
Nói rõ đối tượng và quốc gia. Ghi “cho cửa hàng nhỏ ở Việt Nam” hay “cho phụ huynh Việt” để lời khuyên khỏi dựng trên giả định của thị trường khác.
Bảo mô hình tự rà. “Rà tin tuyển dụng này xem có câu chữ nào làm một nhóm ứng viên ngại nộp không” bắt được nhiều lỗi lộ, dù không bắt hết.
Để con người giữ quyết định về con người. Đừng để AI xếp hạng ứng viên, duyệt khoản vay hay đánh giá học sinh mà không có người xem từng trường hợp và cả bức tranh chung.
Đối chiếu với nguồn trong nước. Chuyện pháp luật, văn hoá, thị trường Việt Nam thì kiểm lại bằng nguồn chính thức hoặc chuyên gia trong nước, đừng chỉ dựa vào góc nhìn của một mô hình toàn cầu.
Ghi lại lỗi bắt được. Nhóm dùng AI thường xuyên thì giữ một danh sách ngắn các đầu ra thiên lệch đã gặp. Phát hiện của một người thành bảng kiểm của cả nhóm.
Vì sao thiên lệch nguy hiểm hơn khi AI ra quyết định?
Một câu lệch trong email nháp là chuyện bực mình sửa được. Một khuôn lệch trong hệ thống lọc hồ sơ, chấm điểm khách hàng hay xếp thứ tự khiếu nại thì khác: nó lặp đúng độ lệch đó hàng nghìn lần, lặng lẽ, và người bị ảnh hưởng hiếm khi biết vì sao mình bị loại.
Vì thế nhiều tổ chức kẻ một đường ranh giữa AI giúp người viết và AI quyết định về một con người. Loại thứ nhất dùng thoải mái với mức cẩn thận thông thường. Loại thứ hai cần thử nghiệm trên nhiều nhóm, có người chịu trách nhiệm rõ ràng, và có đường để người bị ảnh hưởng khiếu nại kết quả.
Quy định về quyết định tự động và dữ liệu cá nhân khác nhau giữa các nước và đang thay đổi nhanh, Việt Nam cũng vậy. Doanh nghiệp định dùng AI để đánh giá khách hàng hay nhân viên thì nên nhờ luật sư rà kế hoạch theo văn bản hiện hành trước khi chạy.
Kể cả chưa có sức ép pháp lý, vẫn có lý do kinh doanh. Khách hàng nhận ra khi ảnh của một thương hiệu ai trông cũng giống ai, hay khi chatbot trả lời người này lạnh nhạt hơn người kia. Niềm tin mất kiểu đó rất lâu mới gây dựng lại được.
Câu hỏi thường gặp
AI có bao giờ hoàn toàn không thiên lệch không?
Không. Mô hình nào cũng phản ánh lựa chọn về dữ liệu, bộ lọc và tinh chỉnh, nên luôn còn độ nghiêng nào đó. Mục tiêu thực tế là đo được, giảm ở chỗ gây hại, và giữ trách nhiệm ở con người.
Thiên lệch có phải là AI có chính kiến không?
Không hẳn. Thiên lệch là độ nghiêng thống kê thừa hưởng từ dữ liệu và thiết kế, không phải niềm tin của mô hình. Dù vậy nó vẫn trông như chính kiến khi mô hình luôn ưu ái một cách nhìn.
Có nên tránh hẳn AI trong tuyển dụng không?
Dùng nó để trau chuốt mô tả công việc hay soạn câu hỏi phỏng vấn thì hợp lý nếu có người duyệt. Để nó tự xếp hạng hay loại ứng viên thì rủi ro và có thể dính vấn đề pháp lý, nên hỏi ý kiến chuyên môn trước.
Người dùng Việt có chịu thiên lệch nhiều hơn không?
Dữ liệu tiếng Việt thường ít hơn tiếng Anh, nên câu trả lời về chủ đề Việt Nam có thể mỏng hoặc chung chung hơn. Đưa bối cảnh trong nước và kiểm bằng nguồn trong nước giúp đỡ rất nhiều.
Gặp câu trả lời thiên lệch thì báo ở đâu?
Hầu hết sản phẩm AI có nút phản hồi ở từng câu trả lời; bấm vào và mô tả ngắn vấn đề. Trong công ty thì ghi thêm vào danh sách chung của nhóm để người khác cùng để ý.
Viết yêu cầu chi tiết có thật sự giảm thiên lệch?
Nó thu hẹp chỗ cho các giá trị mặc định, nơi phần lớn định kiến dễ thấy xuất hiện. Nó không vá được vấn đề sâu hơn như kiến thức mỏng về một chủ đề, nên vẫn cần đối chiếu.
