Temperature (nhiệt độ) là tham số điều chỉnh mức độ ngẫu nhiên khi mô hình ngôn ngữ chọn từ tiếp theo. Temperature thấp (gần 0) cho câu trả lời ổn định, nhất quán, phù hợp trích xuất dữ liệu, phân loại, trả lời chính sách. Temperature cao cho câu trả lời đa dạng, sáng tạo hơn, phù hợp lên ý tưởng, viết quảng cáo, nhưng tăng nguy cơ lan man hoặc sai. Tham số này thường chỉnh được khi dùng API.
Temperature hoạt động như thế nào
Ở mỗi bước, mô hình tính xác suất cho rất nhiều từ có thể xuất hiện tiếp theo. Với temperature thấp, mô hình gần như luôn chọn từ có xác suất cao nhất, nên cùng một câu hỏi sẽ cho câu trả lời gần giống nhau. Với temperature cao, những từ ít phổ biến hơn có cơ hội được chọn, tạo ra cách diễn đạt mới lạ hơn nhưng cũng dễ đi lệch hướng.
Hình dung như hai nhân viên: một người luôn dùng mẫu câu chuẩn, một người thích ứng biến. Mỗi người phù hợp với một loại việc.
Gợi ý mức cài đặt theo loại việc
Mức cụ thể khác nhau giữa các nhà cung cấp và mô hình, bảng dưới chỉ mang tính định hướng.
| Nhiệm vụ | Mức gợi ý | Lý do |
|---|---|---|
| Trích xuất dữ liệu, phân loại, JSON | Thấp | Cần kết quả đúng định dạng, lặp lại ổn định |
| Trả lời câu hỏi theo tài liệu, chính sách | Thấp | Hạn chế diễn giải ngoài tài liệu |
| Soạn email, báo cáo | Trung bình | Tự nhiên nhưng vẫn mạch lạc |
| Lên ý tưởng, viết quảng cáo, đặt tên | Cao hơn | Cần nhiều phương án khác nhau |
Các tham số liên quan
- Top-p: chỉ chọn trong nhóm từ có tổng xác suất đạt ngưỡng nhất định; thường chỉnh một trong hai, temperature hoặc top-p.
- Max tokens: giới hạn độ dài tối đa của câu trả lời, giúp kiểm soát chi phí.
- Stop sequences: chuỗi ký tự khiến mô hình dừng tạo văn bản.
- Seed: một số API cho phép cố định hạt giống ngẫu nhiên để kết quả dễ tái lập hơn.
Lưu ý với mô hình mới
Một số mô hình suy luận hoặc phiên bản mới không cho chỉnh temperature, hoặc nhà cung cấp khuyến nghị giữ mặc định. Luôn đọc tài liệu của mô hình cụ thể. Với giao diện trò chuyện như ChatGPT, Gemini, Claude bản web, người dùng thường không chỉnh trực tiếp tham số này mà điều khiển qua cách viết yêu cầu, ví dụ “đưa ra 10 phương án thật khác nhau”.
Thử nghiệm để chọn mức phù hợp
- Chọn 10 yêu cầu tiêu biểu của nhiệm vụ.
- Chạy mỗi yêu cầu 3 lần ở 2 đến 3 mức temperature.
- So sánh độ chính xác, độ ổn định và chất lượng diễn đạt.
- Chọn mức thấp nhất vẫn cho kết quả đủ tự nhiên với nhiệm vụ đó.
Với chatbot trả lời khách hàng, hãy để temperature thấp và đưa sự thân thiện vào chỉ dẫn giọng văn. Sự nhất quán quan trọng hơn sự bay bổng khi nói về giá và chính sách.
Muốn đưa AI vào công việc của doanh nghiệp? PCTech tư vấn, đánh giá mức sẵn sàng AI và triển khai chatbot, AI agent, tự động hóa cho doanh nghiệp.
10 câu hỏi, 2 phút, nhận mức độ và việc nên làm tiếp theo. Dùng thử ngay
Câu hỏi thường gặp
Temperature bằng 0 có cho kết quả giống hệt nhau mỗi lần không?
Gần như giống nhau nhưng không phải lúc nào cũng tuyệt đối, do đặc điểm tính toán trên máy chủ.
Tăng temperature có làm AI thông minh hơn không?
Không. Nó chỉ làm câu trả lời đa dạng hơn. Năng lực phụ thuộc vào mô hình và cách viết yêu cầu.
Dùng ChatGPT bản web có chỉnh temperature được không?
Thường không có tùy chọn trực tiếp. Có thể chỉnh khi dùng qua API hoặc các công cụ dành cho nhà phát triển.
Temperature cao có làm AI bịa nhiều hơn không?
Thường có xu hướng tăng rủi ro diễn giải lệch, nên với nội dung cần chính xác nên để thấp.
Bài viết liên quan
- API AI là gì? Cách doanh nghiệp gọi mô hình AI qua API và tính phí
- Prompt Engineering là gì? Kỹ năng giao việc cho AI
- Structured output là gì? Yêu cầu AI trả kết quả dạng JSON, bảng
- LLM là gì? Giải thích cho người không chuyên
- Tối ưu prompt: cách thử, đo và cải thiện kết quả
