AI gây sai sót, ai chịu trách nhiệm trong doanh nghiệp

📌 AI gây sai sót, ai chịu trách nhiệm: nguyên tắc chung

Câu hỏi ‘AI gây sai sót thì ai chịu trách nhiệm’ thường được đặt ra sau khi sự cố đã xảy ra, lúc mọi người đổ lỗi qua lại. Doanh nghiệp nên trả lời câu hỏi này trước khi triển khai AI.

Nguyên tắc chung được nhiều khung quản trị AI quốc tế như Nguyên tắc AI của OECD và khung quản lý rủi ro AI của NIST thể hiện: trách nhiệm giải trình thuộc về con người và tổ chức. AI là công cụ; tổ chức chọn công cụ, quyết định dùng vào việc gì, giao cho ai vận hành, và quyết định có dùng kết quả hay không.

Một vụ việc được báo chí quốc tế đưa tin năm 2024 minh họa rõ điều này: một hãng hàng không ở Canada bị cơ quan giải quyết tranh chấp yêu cầu bồi hoàn cho khách hàng sau khi chatbot trên website cung cấp thông tin sai về chính sách giá vé. Lập luận rằng chatbot là ‘thực thể riêng’ chịu trách nhiệm không được chấp nhận. Phán quyết này thuộc hệ thống pháp luật Canada, không áp dụng trực tiếp tại Việt Nam, nhưng phản ánh cách nhìn phổ biến: doanh nghiệp chịu trách nhiệm về thông tin trên kênh của mình.

Bài viết này tập trung vào phân định trách nhiệm trong nội bộ doanh nghiệp. Trách nhiệm pháp lý cụ thể với bên thứ ba phụ thuộc quy định hiện hành và hợp đồng, cần luật sư đánh giá.

❓ Các loại sai sót AI thường gặp trong doanh nghiệp

Hiểu loại sai sót giúp xác định ai ở vị trí tốt nhất để phòng ngừa:

• Bịa thông tin (hallucination): AI tạo ra số liệu, điều khoản, trích dẫn nghe hợp lý nhưng sai. Ví dụ: nhân viên dùng AI soạn báo giá, AI tự thêm điều kiện bảo hành không có trong chính sách.
• Hiểu sai dữ liệu: AI đọc nhầm cột trong bảng Excel, tóm tắt hợp đồng bỏ sót điều khoản phạt.
• Dùng thông tin cũ: AI trả lời về thuế suất, quy định theo dữ liệu đã lỗi thời.
• Hành động tự động sai: workflow AI gửi email cho nhầm người, phân loại nhầm hóa đơn, agent AI thực hiện thao tác ngoài phạm vi.
• Thiên lệch: AI sàng lọc CV loại ứng viên theo tiêu chí không phù hợp.
• Lộ dữ liệu: chatbot trả lời thông tin nội bộ cho khách.

Phần lớn sai sót trên không phải lỗi ‘không thể lường trước’. Chúng là rủi ro đã biết của công nghệ hiện tại, nên việc thiếu bước kiểm tra là thiếu sót trong quy trình, không phải xui rủi.

📌 Phân định trách nhiệm theo vai trò

Trong doanh nghiệp, mỗi vai trò chịu trách nhiệm ở phần mình kiểm soát được:

• Người sử dụng: chịu trách nhiệm về việc kiểm tra đầu ra trước khi dùng, không đưa dữ liệu vượt quy định, dùng đúng công cụ được phép. Một nhân viên gửi báo giá do AI soạn mà không đọc lại chịu trách nhiệm về báo giá đó như thể tự viết.
• Quản lý trực tiếp: chịu trách nhiệm quyết định công việc nào được dùng AI, mức kiểm tra cần thiết, và đảm bảo nhân viên được đào tạo.
• Người triển khai, cấu hình: nội bộ IT hoặc đơn vị gia công xây chatbot, workflow; chịu trách nhiệm về thiết kế, kiểm thử, giới hạn quyền, giám sát vận hành.
• Chủ sở hữu quy trình: trưởng bộ phận có quy trình được tự động hóa; chịu trách nhiệm phê duyệt đưa vào vận hành và chấp nhận rủi ro còn lại.
• Ban lãnh đạo: chịu trách nhiệm cuối cùng về chính sách AI, mức rủi ro chấp nhận được, nguồn lực.
• Nhà cung cấp AI: chịu trách nhiệm theo hợp đồng, thường bị giới hạn đáng kể trong điều khoản dịch vụ.

Nguyên tắc quan trọng: trách nhiệm của người dùng chỉ hợp lý khi họ được trao đủ công cụ, thời gian và đào tạo để kiểm tra. Nếu quản lý yêu cầu xử lý 200 email mỗi ngày bằng AI không cho thời gian đọc lại, sai sót là trách nhiệm của thiết kế quy trình.

📌 Ma trận RACI cho ứng dụng AI

Ma trận RACI giúp ghi rõ ai Thực hiện (R), ai Chịu trách nhiệm cuối (A), ai được Tham vấn (C), ai được Thông báo (I) cho từng hoạt động liên quan AI. Ví dụ cho chatbot chăm sóc khách hàng của một công ty bán lẻ:

🛠️ Thiết kế quy trình để sai sót không lọt ra ngoài

Cách tốt nhất để không phải tranh cãi ai chịu trách nhiệm là giảm khả năng sai sót đến tay khách hàng. Các biện pháp theo mức rủi ro:

1. Phân loại tác vụ: rủi ro thấp (nháp nội bộ), trung bình (văn bản gửi khách thường), cao (số liệu tài chính, cam kết hợp đồng, quyết định về con người).
2. Human-in-the-loop cho rủi ro cao: AI chỉ đề xuất, con người duyệt và ký tên chịu trách nhiệm.
3. Nguồn dữ liệu kiểm soát: chatbot trả lời dựa trên tài liệu chính sách đã duyệt, có ngày cập nhật, không để mô hình tự trả lời từ kiến thức chung.
4. Giới hạn phạm vi: chatbot không được báo giá cuối, không được hứa bồi thường; chuyển cho người khi câu hỏi ngoài phạm vi.
5. Thông báo minh bạch: ghi rõ khách đang trao đổi với trợ lý AI, thông tin chính thức là bảng giá, hợp đồng.
6. Kiểm tra mẫu định kỳ: đọc ngẫu nhiên một tỷ lệ hội thoại, đầu ra của workflow mỗi tuần.
7. Lưu nhật ký: để truy vết khi có tranh chấp.

Câu thông báo ‘AI có thể sai’ không thay thế được các biện pháp trên; nó chỉ là một lớp minh bạch, không phải tấm khiên miễn trách nhiệm.

🛠️ Khi sai sót đã xảy ra: quy trình xử lý

Khi phát hiện AI gây sai sót, đặc biệt với khách hàng hoặc đối tác:

1. Ngăn lan rộng: tạm dừng chatbot, workflow hoặc tính năng gây lỗi; thu hồi email nếu có thể.
2. Xác định phạm vi: bao nhiêu khách, giao dịch, tài liệu bị ảnh hưởng; dựa vào nhật ký.
3. Khắc phục với người bị ảnh hưởng: liên hệ, đính chính, xử lý theo chính sách công ty. Thái độ nhận trách nhiệm thay vì đổ cho ‘hệ thống AI’ giúp giữ uy tín.
4. Đánh giá nghĩa vụ pháp lý: nếu liên quan dữ liệu cá nhân, quyền lợi người tiêu dùng, hợp đồng, tham vấn bộ phận pháp chế hoặc luật sư về nghĩa vụ thông báo, bồi hoàn theo quy định hiện hành.
5. Phân tích nguyên nhân gốc: lỗi dữ liệu nguồn, cấu hình, thiếu bước kiểm tra, hay người dùng bỏ qua quy trình?
6. Cải tiến: sửa quy trình, cập nhật đào tạo, cấu hình lại; ghi lại bài học.

Phân tích nguyên nhân nên theo tinh thần không đổ lỗi cá nhân khi lỗi đến từ hệ thống. Nếu người dùng bị phạt nặng vì sai sót mà quy trình không cho họ cơ hội phát hiện, lần sau sai sót sẽ bị che giấu thay vì được báo cáo.

📌 Hợp đồng với nhà cung cấp và đơn vị triển khai

Trách nhiệm với bên ngoài một phần được xác định qua hợp đồng. Khi làm việc với nhà cung cấp AI hoặc đơn vị triển khai giải pháp AI, cần đọc kỹ:

• Giới hạn trách nhiệm: điều khoản dịch vụ của nhà cung cấp mô hình thường giới hạn trách nhiệm ở mức thấp và nêu rõ đầu ra có thể không chính xác. Đừng kỳ vọng nhà cung cấp bồi hoàn cho sai sót kinh doanh.
• Phạm vi cam kết của đơn vị triển khai: họ chịu trách nhiệm đến đâu về độ chính xác, kiểm thử, bảo trì, cập nhật dữ liệu.
• Tiêu chí nghiệm thu: chatbot trả lời đúng bao nhiêu trong bộ câu hỏi kiểm thử thống nhất trước, cách xử lý câu hỏi ngoài phạm vi.
• Trách nhiệm cập nhật: ai cập nhật dữ liệu khi chính sách công ty thay đổi.
• Bảo hiểm: một số doanh nghiệp xem xét bảo hiểm trách nhiệm nghề nghiệp hoặc an ninh mạng; kiểm tra điều khoản có bao gồm rủi ro liên quan AI không.

Trong hầu hết trường hợp, trách nhiệm với khách hàng vẫn nằm ở doanh nghiệp. Hợp đồng với nhà cung cấp quyết định doanh nghiệp có thể yêu cầu họ chia sẻ thiệt hại đến đâu, không thay đổi việc doanh nghiệp phải xử lý với khách trước.

📌 Đưa trách nhiệm AI vào văn hóa và chính sách

Để trách nhiệm không chỉ nằm trên giấy, cần đưa vào hoạt động hằng ngày:

• Chính sách sử dụng AI ghi rõ: đầu ra AI là bản nháp, người dùng chịu trách nhiệm kiểm tra, các loại tác vụ bắt buộc duyệt.
• Mô tả công việc: bổ sung trách nhiệm liên quan AI cho vị trí phụ trách chatbot, workflow.
• Danh mục ứng dụng AI: mỗi ứng dụng có một chủ sở hữu được nêu tên.
• Đào tạo: giải thích các loại sai sót AI, cách kiểm tra nhanh, khi nào phải hỏi người có chuyên môn.
• Kênh báo cáo: nhân viên báo đầu ra AI sai mà không sợ bị trách.
• Rà soát định kỳ: lãnh đạo xem báo cáo sự cố AI cùng các chỉ số vận hành khác.

Một doanh nghiệp xem AI là ‘đồng nghiệp tập sự’: làm nhanh, chăm chỉ nhưng cần người hướng dẫn và kiểm tra, sẽ tránh được phần lớn tình huống tranh cãi trách nhiệm. Điều này đúng ở mọi quy mô, từ cửa hàng vài người đến công ty vài trăm nhân viên.

❓ Câu hỏi thường gặp

📌 Bài viết liên quan

• AI có trách nhiệm (Responsible AI): nguyên tắc cho doanh nghiệp
• Human-in-the-loop là gì? Giữ con người trong quy trình AI
• AI hallucination là gì? Cách giảm sai sót khi dùng AI
• AI Governance là gì? Quản trị việc dùng AI trong công ty
• Mẫu chính sách sử dụng AI cho doanh nghiệp: bản dùng ngay để chỉnh sửa
• Quy định về AI tại Việt Nam: doanh nghiệp cần theo dõi gì
• Đánh giá nhà cung cấp AI: bảng câu hỏi bảo mật cho doanh nghiệp

📌 Nguồn tham khảo

• OECD AI Principles
• NIST AI Risk Management Framework
• Wikipedia: Responsibility assignment matrix (RACI)