Context engineering là việc thiết kế và quản lý toàn bộ thông tin đưa vào cửa sổ ngữ cảnh của mô hình AI ở mỗi lượt xử lý: system prompt, chỉ dẫn, tài liệu truy xuất từ kho tri thức (RAG), lịch sử hội thoại, kết quả công cụ, bộ nhớ dài hạn và ví dụ mẫu. Nếu prompt engineering tập trung vào cách viết yêu cầu, context engineering quan tâm đến việc chọn đúng thông tin, đúng lượng, đúng thời điểm. Với trợ lý doanh nghiệp và AI agent, phần lớn lỗi đến từ ngữ cảnh thiếu, thừa hoặc sai, chứ không chỉ từ câu chữ của prompt.
Ngữ cảnh gồm những gì
Các thành phần thường có trong một lượt xử lý.
| Thành phần | Vai trò | Rủi ro nếu quản lý kém |
|---|---|---|
| System prompt | Vai trò, quy tắc | Mâu thuẫn, quá dài |
| Tài liệu truy xuất (RAG) | Kiến thức của công ty | Lấy sai tài liệu, tài liệu cũ |
| Lịch sử hội thoại | Hiểu mạch trao đổi | Quá dài, làm loãng |
| Kết quả công cụ | Dữ liệu thực tế từ hệ thống | Dữ liệu thô quá nhiều |
| Bộ nhớ dài hạn | Thông tin người dùng, ưu tiên | Lưu thông tin lỗi thời |
| Ví dụ mẫu | Định hướng phong cách | Ví dụ không còn phù hợp |
Vì sao không cứ đưa càng nhiều càng tốt
Cửa sổ ngữ cảnh ngày càng lớn nhưng đưa quá nhiều thông tin làm tăng chi phí, chậm phản hồi và khiến mô hình khó tập trung vào phần quan trọng. Thông tin mâu thuẫn hoặc lỗi thời còn dẫn đến câu trả lời sai. Mục tiêu là đủ và đúng, không phải tối đa.
Nguyên tắc thực hành
- Chỉ đưa tài liệu liên quan đến câu hỏi, có kiểm soát phiên bản.
- Tóm tắt lịch sử dài thay vì giữ nguyên toàn bộ.
- Làm gọn kết quả công cụ trước khi đưa vào mô hình.
- Ghi rõ nguồn và ngày của tài liệu để AI biết độ mới.
- Tách dữ liệu bên ngoài khỏi chỉ dẫn để giảm rủi ro prompt injection.
- Đánh giá bằng bộ câu hỏi thật, theo dõi câu trả lời sai và truy nguyên do ngữ cảnh nào.
Ứng dụng trong doanh nghiệp
- Trợ lý nội bộ: kho tri thức sạch, cập nhật, phân quyền theo người dùng.
- Chatbot bán hàng: đưa đúng thông tin sản phẩm, tồn kho, chính sách hiện hành.
- AI agent: chỉ cung cấp công cụ cần thiết, mô tả công cụ rõ ràng.
- Dự án trong ChatGPT, Claude, Gemini: tải tài liệu tham khảo có chọn lọc thay vì tải tất cả.
Liên hệ với các khái niệm khác
Context engineering bao trùm prompt engineering, RAG, quản lý bộ nhớ và thiết kế công cụ cho agent. Các giao thức như MCP giúp kết nối AI với nguồn dữ liệu và công cụ một cách chuẩn hóa, nhưng vẫn cần thiết kế để chỉ đưa vào thông tin cần thiết.
Khi trợ lý AI trả lời sai, đừng vội sửa prompt. Hãy xem AI đã được cung cấp tài liệu nào ở lượt đó. Rất nhiều lỗi đến từ tài liệu sai hoặc cũ.
Muốn đưa AI vào công việc của doanh nghiệp? PCTech tư vấn, đánh giá mức sẵn sàng AI và triển khai chatbot, AI agent, tự động hóa cho doanh nghiệp.
10 câu hỏi, 2 phút, nhận mức độ và việc nên làm tiếp theo. Dùng thử ngay
Câu hỏi thường gặp
Context engineering khác prompt engineering thế nào?
Prompt engineering tập trung vào câu chữ yêu cầu; context engineering quản lý toàn bộ thông tin mô hình nhận được.
Người dùng thường có cần quan tâm không?
Có ở mức đơn giản: chọn tài liệu phù hợp đưa vào và bắt đầu cuộc trò chuyện mới khi đổi chủ đề.
Cửa sổ ngữ cảnh lớn có giải quyết được không?
Giúp chứa nhiều hơn nhưng không thay được việc chọn lọc thông tin.
RAG có phải context engineering?
RAG là một kỹ thuật quan trọng trong context engineering.
Bài viết liên quan
- Prompt Engineering là gì? Kỹ năng giao việc cho AI
- Context window (cửa sổ ngữ cảnh) là gì? Ảnh hưởng gì khi dùng AI
- RAG là gì? Cho AI đọc tài liệu nội bộ
- MCP là gì? Kết nối AI với dữ liệu doanh nghiệp
- Xây kho tri thức (knowledge base) cho AI trả lời nội bộ
- AI Agent hoạt động thế nào? Vòng lặp suy nghĩ, hành động, kiểm tra
