LLM (Large Language Model, mô hình ngôn ngữ lớn) là mô hình AI được huấn luyện trên lượng văn bản rất lớn, học cách dự đoán phần chữ tiếp theo, từ đó trả lời câu hỏi, tóm tắt, viết, dịch. Nó không tra cứu sự thật mà tạo câu hợp lý, nên có thể sai và cần được kiểm chứng.
Hình dung đơn giản: bộ gõ dự đoán chữ nhưng rất lớn
Khi nhắn tin, điện thoại gợi ý từ tiếp theo dựa trên những gì bạn vừa gõ. LLM hoạt động cùng nguyên lý cơ bản đó nhưng ở quy mô khác hẳn: nó được huấn luyện trên một lượng văn bản khổng lồ để học các quy luật của ngôn ngữ, từ ngữ pháp đến cách người ta lập luận, giải thích, viết thư. Khi bạn đặt câu hỏi, nó tạo câu trả lời từng đoạn một, mỗi lần chọn phần chữ có khả năng phù hợp nhất với ngữ cảnh.
Điều này giải thích vì sao LLM viết trôi chảy, nhưng cũng giải thích vì sao nó đôi khi nói sai một cách tự tin: mục tiêu của nó là tạo ra văn bản hợp lý, không phải kiểm chứng sự thật.
Những khái niệm hay gặp
- Token: đơn vị nhỏ mà mô hình xử lý, có thể là một từ, một phần của từ hoặc ký tự. Độ dài văn bản thường được tính bằng token.
- Tham số: các con số bên trong mô hình được điều chỉnh trong quá trình huấn luyện; số lượng lớn là lý do gọi là mô hình lớn.
- Cửa sổ ngữ cảnh: lượng văn bản tối đa mô hình xem được trong một lần làm việc, gồm cả câu hỏi và câu trả lời. Vượt quá thì phần cũ bị bỏ qua hoặc phải cắt bớt.
- Huấn luyện và suy luận: huấn luyện là giai đoạn học từ dữ liệu; suy luận là lúc mô hình trả lời bạn. Khi bạn dùng, mô hình không tự học thêm từ cuộc trò chuyện, trừ khi nhà cung cấp có cơ chế riêng.
- Transformer: kiến trúc mạng nơ-ron được giới thiệu năm 2017 trong bài báo Attention Is All You Need, là nền của hầu hết LLM hiện nay.
LLM làm tốt và làm chưa tốt việc gì
Bảng sau giúp chọn đúng việc để giao.
| Làm khá tốt | Cần thận trọng |
|---|---|
| Viết nháp, chỉnh văn phong, đổi giọng | Con số, ngày tháng, trích dẫn cụ thể có thể bịa |
| Tóm tắt văn bản bạn cung cấp | Thông tin sau thời điểm huấn luyện nếu không có công cụ tra cứu |
| Phân loại, trích xuất thông tin từ văn bản | Phép tính nhiều bước, dễ sai nếu không dùng công cụ tính |
| Dịch, giải thích khái niệm, gợi ý ý tưởng | Quy định pháp luật, y tế, tài chính cần nguồn chính thức |
| Hỗ trợ viết mã, giải thích lỗi | Mã chạy được không có nghĩa là an toàn hay đúng yêu cầu |
Vì sao LLM trả lời sai
Hiện tượng này thường gọi là ảo giác (hallucination). Nguyên nhân gồm: mô hình tạo câu hợp lý chứ không tra cứu sự thật; dữ liệu huấn luyện có thể thiếu hoặc lỗi thời; câu hỏi mơ hồ khiến mô hình tự điền chỗ trống. Cách giảm rủi ro hiệu quả là đưa cho mô hình tài liệu cần dựa vào, yêu cầu nó nói rõ khi không chắc, và kiểm chứng những phần quan trọng.
Dùng LLM trong công việc một cách an toàn
- Giao việc có người kiểm tra kết quả: soạn nháp, tóm tắt, phân loại.
- Cung cấp tài liệu và yêu cầu trả lời dựa trên đó, thay vì để mô hình dựa vào trí nhớ.
- Không đưa dữ liệu nhạy cảm vào dịch vụ khi chưa rõ chính sách lưu trữ và sử dụng dữ liệu.
- Dùng công cụ chuyên dụng (bảng tính, truy vấn) cho phép tính và tra cứu số liệu.
- Ghi lại cách dùng hiệu quả thành hướng dẫn nội bộ để mọi người cùng áp dụng.
Nếu doanh nghiệp cần đưa LLM vào quy trình thật như trả lời khách hay xử lý chứng từ, bạn có thể tham khảo đơn vị hỗ trợ AI doanh nghiệp để thiết kế phần dữ liệu, phân quyền và kiểm soát chất lượng.
Khi cần kết quả đáng tin, đừng chỉ hỏi mô hình mà hãy đưa nguồn vào câu hỏi và yêu cầu nó trích đúng đoạn nó dựa vào. Việc đối chiếu đoạn trích với tài liệu gốc nhanh hơn nhiều so với kiểm tra cả câu trả lời.
Muốn đưa AI vào công việc của doanh nghiệp? Kỹ thuật viên PCTech hỗ trợ tại TP.HCM.
Câu hỏi thường gặp
LLM có thật sự hiểu nội dung không?
Câu hỏi này còn tranh luận. Về mặt thực hành, LLM nắm được các quy luật ngôn ngữ và khái niệm đủ tốt để làm nhiều việc hữu ích, nhưng nó vẫn có thể sai theo cách mà người hiểu thật hiếm khi mắc.
LLM có cập nhật thông tin mới theo thời gian thực không?
Bản thân mô hình dừng ở thời điểm dữ liệu huấn luyện. Nhiều dịch vụ bổ sung khả năng tìm kiếm hoặc đọc tài liệu bạn cung cấp để có thông tin mới hơn, nhưng đó là công cụ đi kèm chứ không phải mô hình tự cập nhật.
LLM và ChatGPT là một à?
Không hẳn. LLM là loại mô hình AI. Các sản phẩm trò chuyện là ứng dụng được xây dựng trên LLM, kèm giao diện, quy tắc an toàn và đôi khi các công cụ bổ sung.
Dữ liệu tôi nhập có bị dùng để huấn luyện mô hình không?
Tùy nhà cung cấp và loại tài khoản. Có dịch vụ cho phép tắt việc dùng dữ liệu để huấn luyện. Cần đọc điều khoản và cấu hình quyền riêng tư trước khi đưa dữ liệu công việc vào.
Bài viết liên quan
- AI hallucination là gì? Cách giảm sai sót khi dùng AI
- Prompt là gì? Viết prompt hiệu quả cho công việc
- RAG là gì? Cho AI đọc tài liệu nội bộ
- AI Agent là gì? Khác chatbot thế nào
- Bảo mật dữ liệu khi dùng ChatGPT, Claude trong công ty
