Chatbot AI bịa thông tin vì nó sinh ra chữ khớp với hình dạng của một câu trả lời hay, chứ không phải chữ đã được đối chiếu với thực tế. Khi mô hình không có thông tin đáng tin về một cái tên, con số, câu trích hay điều luật, nó thường lấp chỗ trống bằng thứ nghe hợp lý thay vì nói “không biết”. Hiện tượng này gọi là ảo giác (hallucination), và cách bắt nó là đem chi tiết cụ thể đối chiếu với nguồn mà mình tự mở ra xem được.
Bịa không phải lỗi hiếm mà bản cập nhật sau sẽ xoá sổ. Nó giảm dần khi mô hình tốt lên và khi sản phẩm gắn thêm tìm kiếm, trích nguồn, nhưng vẫn nằm trong cách công nghệ này vận hành. Kỹ năng đáng học là biết loại câu trả lời nào rủi ro cao, dấu hiệu cảnh báo trông ra sao, và kiểm nhanh thế nào để không mất hết thời gian AI vừa tiết kiệm cho mình.
Vì sao chatbot bịa thay vì nhận là không biết?
Mô hình ngôn ngữ được dựng ra để viết tiếp theo cách hợp lý nhất. Mình đặt câu hỏi thì cách viết tiếp hợp lý nhất là một câu trả lời, nên nó đưa ra câu trả lời. Bên trong không có cái đèn nào bật đỏ khi câu trả lời thiếu kiến thức vững chắc chống lưng. Mô hình đôi khi biết nói “không chắc”, trợ lý đời mới nói câu này thường hơn, nhưng đó là hành vi được dạy và chưa hoàn hảo.
Chuyện bịa hay dồn vào chỗ dữ liệu huấn luyện mỏng hoặc mâu thuẫn. Một sự thật nổi tiếng thế giới xuất hiện hàng nghìn lần nên mô hình nhắc lại khá chuẩn. Còn chi tiết về một công ty nhỏ ở Đà Nẵng, một quy chế nội bộ, hay một quy định vừa sửa năm ngoái thì có khi chỉ xuất hiện vài lần hoặc chẳng lần nào. Mô hình vẫn biết loại chi tiết ấy trông ra sao, nên nó viết ra một thứ đúng hình dạng.
Điều gì khiến chatbot dễ bịa hơn?
Việc dài và phức tạp thì rủi ro tăng. Mỗi token được chọn dựa trên phần đã viết, nên một tiền đề bịa ở đầu sẽ được xây tiếp lên. Một con số thống kê giả ở đoạn hai trở thành nền cho một kết luận rất chắc ở đoạn năm.
Chính câu hỏi của mình cũng có thể châm ngòi. Hỏi “Điều mấy của luật quy định chuyện X?” là mình đã ngầm khẳng định có điều luật đó. Mô hình sẽ có xu hướng chiều theo tiền đề ấy. Hỏi “Có quy định nào về X không, bạn chắc tới đâu?” thì nó có chỗ để trả lời là không.
Công cụ tìm kiếm và đọc tài liệu giảm được vấn đề chứ không dập tắt. Mô hình đọc nguồn thật vẫn có thể trích sai, nhập hai nguồn làm một, hoặc dẫn một trang không hề nói điều câu trả lời khẳng định. Trích nguồn là điểm bắt đầu để kiểm, không phải bằng chứng.
Loại câu trả lời nào dễ bị bịa nhất?
Trích dẫn và tài liệu tham khảo. Tên sách, bài báo khoa học, đường link, tên tác giả là kiểu bịa kinh điển. Định dạng hoàn hảo, còn nguồn thì có khi không tồn tại.
Điều luật và số hiệu văn bản. Mô hình biết một trích dẫn pháp lý được viết thế nào và có thể đưa ra cái nghe rất đúng. Luôn mở văn bản chính thức ra xem, việc hệ trọng thì hỏi luật sư.
Con số và thống kê. Quy mô thị trường, tỷ lệ phần trăm, giá cả, ngày tháng rất dễ nói giọng chắc nịch mà mô hình lại khó nhớ chính xác.
Câu nói gán cho người thật. Một câu trích gọn gàng đúng “văn phong” của ai đó có thể là bịa hoặc gán nhầm. Chưa lần ra bản gốc thì đừng đăng.
Chi tiết về tổ chức nhỏ và cá nhân. Địa chỉ, số điện thoại, người sáng lập, giờ mở cửa của cơ sở nhỏ hiếm khi có đủ trong dữ liệu huấn luyện.
Sự kiện gần đây. Mọi thứ sau mốc huấn luyện đều là đoán, trừ khi sản phẩm có tìm trên mạng, mà kể cả có thì bản tóm tắt vẫn có thể sai.
Lệnh kỹ thuật và mã nguồn. Nó có thể gọi một hàm không tồn tại hoặc một mục cài đặt đã đổi tên. Chạy thử mã trong môi trường thử nghiệm an toàn trước.
Tóm tắt tài liệu dài. Khi tóm tắt, nó có thể thêm ý tài liệu không hề có hoặc làm rơi một ngoại lệ quan trọng. Đối chiếu các ý chính với trang gốc.
Kiểm nhanh một câu trả lời của AI thế nào?
Một quy trình ngắn bắt được phần lớn lỗi mà không phải làm lại từ đầu.
- Đánh dấu mọi thông tin kiểm được. Lướt câu trả lời, tô đậm tên riêng, con số, ngày tháng, câu trích, điều luật, đường link. Đó là thứ cần kiểm; phần giải thích chung thì đọc với mức cẩn thận bình thường.
- Tự mở nguồn ra xem. Câu trả lời có trích nguồn thì bấm vào, tìm đúng câu được dẫn. Link chết hoặc trang nói chuyện khác thì coi thông tin đó là chưa kiểm chứng.
- Hỏi căn cứ, rồi tự kiểm độc lập. Hỏi mô hình mỗi ý chính lấy từ đâu. Sau đó tự tìm ở nguồn chính thức hoặc nguồn gốc, đừng tin câu trả lời lần hai của chính nó.
- Hỏi lại theo cách khác. Đổi cách hỏi, hoặc hỏi một trợ lý khác. Trả lời ổn định chưa phải bằng chứng, nhưng mỗi lần một kiểu là cảnh báo mạnh.
- Tính lại các con số. Đưa phép tính vào bảng tính. Xem phần trăm cộng có khớp không, đơn vị có thống nhất không.
- Ghi lại mình đã kiểm gì. Với tài liệu công việc, ghi chú thông tin nào đã kiểm và kiểm ở đâu. Sau này đồng nghiệp hay khách hỏi lại thì mình có cái để trả lời.
Với chuyện hệ trọng như sức khoẻ, pháp lý, thuế, tiền bạc, quy trình kết thúc ở một người có chuyên môn và chịu trách nhiệm, chứ không phải ở một chatbot khác.
Dấu hiệu cảnh báo và thói quen nên tập
Rất cụ thể mà lại rất trơn tru. Con số chính xác hay mã hiệu đưa ra không chút ngập ngừng, nhất là ở chủ đề ngách, đáng để nghi hơn là để yên tâm.
Mình gợi gì nó cũng gật. Nó chấp nhận tiền đề của mình ngay tắp lự thì thử đưa tiền đề ngược lại. Nó cũng gật nốt thì nó đang chạy theo mình, không theo sự thật.
Nguồn mơ hồ hoặc không mở được. “Theo các nghiên cứu” hay một đường link dẫn vào khoảng không nghĩa là mình chưa có nguồn nào.
Dặn nó nói rõ khi không chắc. Thêm câu “Nếu không chắc thì nói rõ và chỉ mình nên kiểm gì” vào yêu cầu sẽ đổi hẳn giọng của nhiều câu trả lời.
Đưa tài liệu gốc cho nó. Dán điều khoản hợp đồng hoặc tải lên văn bản quy chế rồi hỏi về chính văn bản đó. Câu trả lời bám vào tài liệu mình đưa thì dễ kiểm hơn nhiều.
AI lo khung, người lo dữ kiện. Để nó dựng dàn ý và câu chữ; còn tên, số liệu, trích dẫn thì tự điền từ nguồn tin cậy.
Đừng đưa thứ chưa kiểm vào văn bản chính thức. Báo cáo, hợp đồng, trả lời khách, bài đăng công khai đều mang tên mình. Một con số bịa có thể làm mất uy tín nhiều hơn thời gian AI tiết kiệm được.
Dạy cả nhóm cùng một quy trình. Ở doanh nghiệp nhỏ, một bảng kiểm dùng chung giúp mỗi người khỏi phải học bài học này bằng chính cú vấp của mình.
Câu hỏi thường gặp
AI đời sau có hết bịa hẳn không?
Chuyện bịa đang giảm dần khi mô hình và sản phẩm tốt lên, nhưng không ai hứa được nó về số không, vì cơ chế lõi là đoán chứ không phải kiểm chứng. Cứ tính công việc theo hướng thông tin quan trọng luôn cần kiểm.
AI có ghi nguồn thì tin được chưa?
Có nguồn thì kiểm dễ hơn, nhưng mô hình vẫn có thể đọc nhầm hoặc trích sai. Mở link, tìm đúng câu được dẫn rồi mới dựa vào thông tin đó.
Bịa có giống AI nói dối không?
Không hẳn. Nói dối là có chủ ý, còn mô hình không có mục đích lừa ai; nó chỉ viết ra chữ nghe hợp lý mà không kiểm. Hậu quả với mình thì có thể y hệt, nên mới cần kiểm chứng.
Việc nào vẫn an toàn dù AI có thể bịa?
Những việc mình đưa dữ kiện còn AI chỉ nắn lại: viết lại, rút gọn, đổi giọng, nghĩ tiêu đề, lập dàn ý. Rủi ro tăng khi chính AI là nguồn của dữ kiện.
Lỡ đăng thông tin AI bịa thì làm sao?
Đính chính công khai và nhanh, ghi rõ đã sửa gì, báo cho những ai đã dựa vào thông tin đó. Sau đó thêm một bước kiểm vào quy trình để chuyện không lặp lại.
Hỏi bằng tiếng Anh có đỡ bịa hơn không?
Với chủ đề toàn cầu, hỏi tiếng Anh đôi khi được trả lời kỹ hơn vì dữ liệu dồi dào hơn. Còn thông tin địa phương Việt Nam thì đổi ngôn ngữ không vá được lỗ hổng; chỉ nguồn Việt Nam đáng tin mới vá được.
