Rủi ro AI trong doanh nghiệp gồm sáu nhóm chính: (1) dữ liệu: lộ thông tin khách hàng, bí mật kinh doanh; (2) độ chính xác: AI bịa thông tin, tính sai, hiểu sai; (3) bảo mật: prompt injection, agent bị lợi dụng, lộ khóa API; (4) pháp lý: vi phạm bảo vệ dữ liệu cá nhân, bản quyền, quảng cáo sai; (5) thương hiệu: nội dung không phù hợp, chatbot trả lời kém; (6) vận hành: phụ thuộc nhà cung cấp, chi phí tăng, dịch vụ gián đoạn. Quản lý rủi ro bằng cách đánh giá trước khi triển khai, áp dụng biện pháp kiểm soát tương ứng mức rủi ro và giám sát sau triển khai.
Sáu nhóm rủi ro và biện pháp
Tổng hợp biện pháp giảm thiểu.
| Nhóm rủi ro | Ví dụ | Biện pháp |
|---|---|---|
| Dữ liệu | Nhân viên dán hợp đồng vào AI miễn phí | Chính sách, gói doanh nghiệp, đào tạo |
| Độ chính xác | Chatbot báo sai chính sách bảo hành | Kho tri thức chuẩn, kiểm tra mẫu |
| Bảo mật | Email độc hại điều khiển agent | Quyền tối thiểu, duyệt hành động |
| Pháp lý | Dùng ảnh AI vi phạm bản quyền | Kiểm tra điều khoản, quy trình duyệt |
| Thương hiệu | Bài đăng AI sai sự thật | Biên tập trước khi đăng |
| Vận hành | Nhà cung cấp đổi giá, ngừng dịch vụ | Phương án dự phòng, tránh khóa chặt |
Danh sách kiểm tra trước khi triển khai
- Ứng dụng xử lý dữ liệu gì, mức nhạy cảm nào?
- Nhà cung cấp cam kết gì về lưu trữ, huấn luyện trên dữ liệu?
- Nếu AI sai, ai bị ảnh hưởng và mức độ thế nào?
- Có bước con người duyệt ở điểm rủi ro không?
- AI có quyền hành động gì (gửi, sửa, xóa, thanh toán)?
- Khách hàng có biết họ tương tác với AI không?
- Có nhật ký để truy vết khi sự cố không?
- Chi phí có giới hạn, cảnh báo không?
- Có phương án khi dịch vụ AI ngừng hoạt động?
- Ai chịu trách nhiệm vận hành và xử lý sự cố?
Phân mức rủi ro
- Thấp: soạn nháp nội bộ, tóm tắt tài liệu công khai. Chính sách chung là đủ.
- Trung bình: chatbot khách hàng, nội dung marketing. Cần kho tri thức chuẩn, kiểm tra mẫu.
- Cao: xử lý tài chính, dữ liệu cá nhân, quyết định về con người, agent có quyền hành động. Cần đánh giá kỹ, duyệt bắt buộc, giám sát chặt.
Giám sát sau triển khai
Theo dõi lỗi, phản hồi khách, chi phí, hành vi bất thường. Có kênh để nhân viên báo cáo sự cố AI. Định kỳ rà soát lại đánh giá rủi ro khi mô hình, nhà cung cấp hoặc phạm vi sử dụng thay đổi.
Khung tham khảo
Khung quản lý rủi ro AI của NIST và danh sách rủi ro hàng đầu cho ứng dụng mô hình ngôn ngữ lớn của OWASP là tài liệu tham khảo hữu ích, có thể đơn giản hóa cho quy mô doanh nghiệp nhỏ.
Hãy chạy danh sách 10 câu hỏi kiểm tra cho mọi ứng dụng AI mới, kể cả ứng dụng nhỏ. Mất 15 phút nhưng tránh được những rủi ro có thể tốn rất nhiều để khắc phục.
Muốn đưa AI vào công việc của doanh nghiệp? PCTech tư vấn, đánh giá mức sẵn sàng AI và triển khai chatbot, AI agent, tự động hóa cho doanh nghiệp.
10 câu hỏi, 2 phút, nhận mức độ và việc nên làm tiếp theo. Dùng thử ngay
Câu hỏi thường gặp
Rủi ro lớn nhất khi dùng AI là gì?
Với đa số doanh nghiệp nhỏ là lộ dữ liệu và thông tin sai gửi đến khách hàng.
Có nên mua bảo hiểm cho rủi ro AI?
Một số sản phẩm bảo hiểm an ninh mạng đã đề cập rủi ro liên quan; tham khảo đơn vị bảo hiểm.
Ai đánh giá rủi ro AI?
Người đầu mối AI phối hợp IT và người phụ trách nghiệp vụ liên quan.
Bao lâu đánh giá lại một lần?
Khi có thay đổi lớn hoặc ít nhất mỗi năm.
Bài viết liên quan
- AI Governance là gì? Quản trị việc dùng AI trong công ty
- Prompt injection là gì? Rủi ro bảo mật khi tích hợp AI
- Bảo mật dữ liệu khi dùng ChatGPT, Claude trong công ty
- Human-in-the-loop là gì? Giữ con người trong quy trình AI
- AI có sai không? Những kiểu sai thường gặp và cách kiểm tra
- Rủi ro khi tự động hóa quá mức và cách phòng tránh
