Có. AI có thể sai theo nhiều cách: bịa thông tin nghe hợp lý (hallucination) như trích dẫn, số liệu, điều luật không tồn tại; tính toán sai; dùng thông tin lỗi thời do giới hạn dữ liệu huấn luyện; hiểu sai yêu cầu hoặc bỏ sót một phần; thiên lệch theo dữ liệu huấn luyện; và đồng ý với giả định sai của người hỏi. Cách giảm rủi ro: cung cấp tài liệu nguồn, yêu cầu trích dẫn, kiểm tra số liệu bằng công cụ tính, đối chiếu thông tin quan trọng với nguồn chính thức, và luôn có người chịu trách nhiệm duyệt kết quả trước khi dùng.
Các kiểu sai thường gặp
Mỗi kiểu sai có cách phòng tránh riêng.
| Kiểu sai | Ví dụ | Cách phòng |
|---|---|---|
| Bịa thông tin | Trích dẫn điều luật không có thật | Yêu cầu nguồn, kiểm tra nguồn |
| Tính toán sai | Cộng sai tổng hóa đơn | Dùng Excel hoặc chế độ chạy mã |
| Lỗi thời | Nói phiên bản phần mềm cũ là mới nhất | Dùng AI có tìm kiếm web, kiểm tra ngày |
| Hiểu sai yêu cầu | Tóm tắt sai trọng tâm | Viết yêu cầu rõ, cho ví dụ |
| Bỏ sót | Dịch thiếu đoạn | So số lượng mục, đoạn |
| Chiều theo người hỏi | Đồng ý với giả định sai | Hỏi trung lập, yêu cầu phản biện |
Dấu hiệu cần nghi ngờ
- Số liệu rất cụ thể nhưng không có nguồn.
- Tên tài liệu, đường link, tác giả bạn không tìm thấy.
- Câu trả lời thay đổi khi hỏi lại cùng câu.
- Nội dung quá hoàn hảo, khớp đúng mong muốn của bạn.
- Thông tin về sự kiện, giá, quy định gần đây.
Kiểm tra theo mức rủi ro
Không phải việc gì cũng cần kiểm tra kỹ như nhau:
- Rủi ro thấp (ý tưởng, nháp nội bộ): đọc lướt.
- Rủi ro trung bình (email khách, bài đăng): đọc kỹ, kiểm tra thông tin chính.
- Rủi ro cao (hợp đồng, số liệu tài chính, pháp lý, y tế): đối chiếu nguồn gốc, người chuyên môn duyệt.
Kỹ thuật giảm sai
- Đưa tài liệu gốc và yêu cầu chỉ trả lời dựa trên tài liệu đó.
- Cho phép AI nói không biết.
- Yêu cầu trích dẫn đoạn nguồn cho từng ý quan trọng.
- Chia việc lớn thành nhiều bước nhỏ.
- Dùng AI thứ hai hoặc lượt thứ hai để rà soát.
Trách nhiệm thuộc về người dùng
Doanh nghiệp không thể đổ lỗi cho AI khi gửi thông tin sai cho khách hàng hay cơ quan nhà nước. Chính sách sử dụng AI nội bộ nên quy định rõ ai duyệt loại nội dung nào trước khi phát hành.
Hãy thêm câu: nếu không chắc chắn, hãy nói rõ và không đoán vào cuối mỗi yêu cầu quan trọng. Câu đơn giản này giảm đáng kể thông tin bịa.
Muốn đưa AI vào công việc của doanh nghiệp? PCTech tư vấn, đánh giá mức sẵn sàng AI và triển khai chatbot, AI agent, tự động hóa cho doanh nghiệp.
10 câu hỏi, 2 phút, nhận mức độ và việc nên làm tiếp theo. Dùng thử ngay
Câu hỏi thường gặp
Vì sao AI bịa thông tin?
Mô hình dự đoán chữ tiếp theo hợp lý nhất, không tra cứu sự thật, nên có thể tạo nội dung nghe đúng nhưng sai.
AI có tìm kiếm web thì hết sai không?
Giảm lỗi thời nhưng vẫn có thể hiểu sai nguồn hoặc dùng nguồn kém tin cậy.
AI nào ít sai nhất?
Mức sai khác nhau theo tác vụ; mô hình suy luận thường tốt hơn với bài toán logic nhưng vẫn cần kiểm tra.
Có cách nào để AI tự kiểm tra không?
Có thể yêu cầu AI rà soát lại câu trả lời, nhưng không thay được kiểm tra của người với nguồn độc lập.
Bài viết liên quan
- AI hallucination là gì? Cách giảm sai sót khi dùng AI
- Knowledge cutoff là gì? Vì sao AI không biết tin mới
- Quản lý rủi ro AI trong doanh nghiệp: danh sách kiểm tra
- RAG là gì? Cho AI đọc tài liệu nội bộ
- Human-in-the-loop là gì? Giữ con người trong quy trình AI
