Cài Open WebUI: giao diện chat AI nội bộ cho cả công ty

📌 Cài Open WebUI để giải quyết vấn đề gì

Open WebUI là giao diện web mã nguồn mở cho mô hình ngôn ngữ, thường đi cùng Ollama. Khi đã cài Open WebUI, nhân viên chỉ cần mở trình duyệt, đăng nhập và chat như dùng các dịch vụ AI quen thuộc, trong khi mô hình và dữ liệu nằm trên máy chủ của công ty.

So với việc mỗi người tự cài Ollama, cách này giải quyết ba vấn đề:

• Tập trung phần cứng: một máy có GPU mạnh phục vụ nhiều người, thay vì nâng cấp từng laptop.
• Quản lý người dùng: có tài khoản, vai trò quản trị viên/người dùng, nhóm và quyền truy cập mô hình.
• Tính năng văn phòng: lưu lịch sử hội thoại, tải tệp PDF/Word để hỏi đáp, tạo kho tài liệu (Knowledge) dùng chung, mẫu prompt cho từng phòng ban.

Ví dụ thực tế

Một công ty phân phối thiết bị 40 người đặt máy chủ trong phòng IT. Phòng kinh doanh dùng mô hình để soạn báo giá mô tả, phòng nhân sự hỏi đáp nội quy từ kho tài liệu, còn kế toán chỉ được cấp mô hình nội bộ và không dùng kết nối API ra ngoài. Tất cả đi qua một địa chỉ web duy nhất trong mạng LAN.

📌 Chuẩn bị trước khi cài Open WebUI

Open WebUI bản thân khá nhẹ; phần nặng là mô hình chạy phía sau. Trước khi cài, chốt các điểm sau:

• Máy chủ: Linux (Ubuntu) hoặc Windows đều được. Với nhiều người dùng, nên dùng máy để bàn hoặc server có GPU 16 GB VRAM trở lên chạy cố định 24/7.
• Ollama đã chạy: cài và thử ít nhất một mô hình, xác nhận gọi được địa chỉ http://localhost:11434.
• Cách cài: Docker (khuyến nghị, dễ cập nhật) hoặc Python 3.11 với pip.
• Địa chỉ cố định: đặt IP tĩnh hoặc giữ chỗ DHCP cho máy chủ để nhân viên luôn truy cập cùng một địa chỉ.
• Ổ lưu dữ liệu: chừa vài chục GB cho lịch sử chat, tài liệu tải lên và chỉ mục tìm kiếm.
• Chính sách sử dụng: viết sẵn 1 trang quy định loại dữ liệu được phép đưa vào AI.

Docker hay Python

Docker cô lập Open WebUI khỏi hệ thống, cập nhật bằng cách kéo bản mới và chạy lại, dữ liệu nằm trong một volume riêng. Cách Python phù hợp khi máy không cài được Docker hoặc bạn chỉ thử nghiệm trên một máy cá nhân.

🛠️ Các bước cài Open WebUI bằng Docker

Cách dưới đây áp dụng khi Ollama chạy trên cùng máy với Docker. Kiểm tra lại lệnh trên tài liệu chính thức vì tham số có thể thay đổi theo phiên bản.

1. Cài Docker Engine (Linux) hoặc Docker Desktop (Windows), xác nhận bằng lệnh docker --version.
2. Chạy lệnh khởi tạo theo mẫu trong tài liệu Open WebUI: docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main.
3. Chờ vài phút cho lần chạy đầu tải image, kiểm tra trạng thái bằng docker ps.
4. Mở trình duyệt vào http://địa-chỉ-máy-chủ:3000.
5. Tạo tài khoản đầu tiên. Tài khoản này là quản trị viên, nên dùng email công ty và mật khẩu mạnh.
6. Vào Admin Panel, mục Settings, Connections, kiểm tra kết nối Ollama trỏ tới http://host.docker.internal:11434 và thấy danh sách mô hình.
7. Chọn một mô hình ở góc trên khung chat, gửi câu hỏi thử.

Cách cài bằng Python

Tạo môi trường ảo Python 3.11, chạy pip install open-webui rồi open-webui serve. Giao diện mặc định mở ở cổng 8080. Cách này cần tự cấu hình chạy nền khi khởi động máy.

📌 Thiết lập tài khoản và phân quyền cho nhân viên

Đây là bước quyết định Open WebUI an toàn hay lộn xộn. Mặc định, người đăng ký mới ở trạng thái chờ duyệt; quản trị viên duyệt trong Admin Panel, mục Users.

1. Giữ cơ chế duyệt đăng ký: chỉ chấp nhận email công ty, từ chối tài khoản lạ.
2. Tạo nhóm theo phòng ban: Kinh doanh, Kế toán, Nhân sự, Kỹ thuật.
3. Gán quyền mô hình: mô hình nhẹ cho mọi người; mô hình lớn hoặc kết nối API trả phí chỉ cấp cho nhóm cần.
4. Giới hạn quyền tạo kho tài liệu: chỉ trưởng phòng hoặc IT được tạo Knowledge dùng chung, tránh tài liệu trùng lặp, lỗi thời.
5. Có ít nhất hai quản trị viên: phòng khi một người nghỉ việc hoặc quên mật khẩu.

Bảng sau gợi ý cách chia quyền cho công ty khoảng 30 người.

📌 Thêm tài liệu nội bộ để AI trả lời theo công ty

Open WebUI có sẵn tính năng RAG: bạn tải tài liệu lên, hệ thống chia nhỏ, tạo chỉ mục và đưa đoạn liên quan vào câu hỏi. Nhờ vậy mô hình trả lời dựa trên quy trình của công ty thay vì kiến thức chung.

Cách tổ chức kho tài liệu

• Mỗi kho một chủ đề rõ: “Nội quy và phúc lợi”, “Chính sách bảo hành”, “Quy trình mua hàng”.
• Chỉ đưa bản chính thức mới nhất, đặt tên tệp kèm ngày hiệu lực.
• Ưu tiên tệp có chữ thật (Word, PDF xuất từ Word); PDF scan cần chuyển chữ trước.
• Tạo mô hình tùy chỉnh (Workspace, Models) gắn sẵn kho tài liệu và lời nhắc hệ thống, ví dụ “Trợ lý nhân sự: chỉ trả lời dựa trên tài liệu, nếu không có thì nói không biết”.

Kiểm tra chất lượng trả lời

Soạn 15–20 câu hỏi nhân viên hay hỏi kèm đáp án đúng, chạy thử và chấm điểm. Nếu câu trả lời sai hoặc thiếu, xem lại cách chia đoạn, mô hình embedding và số đoạn được lấy trong phần cài đặt Documents. Đừng mở cho cả công ty khi bộ câu hỏi thử còn sai nhiều.

📌 Kiểm tra kết quả trước khi mở cho cả công ty

Chạy một tuần thí điểm với 5–10 người từ các phòng khác nhau, theo checklist sau:

1. Truy cập: mọi máy trong LAN mở được địa chỉ Open WebUI, đăng nhập bình thường.
2. Tốc độ: khi 3–5 người cùng hỏi, thời gian bắt đầu trả lời vẫn chấp nhận được. Nếu chậm, xem lại cỡ mô hình và VRAM.
3. Phân quyền: dùng tài khoản nhân viên thử truy cập kho tài liệu của phòng khác, phải bị chặn.
4. Sao lưu: sao lưu volume open-webui hoặc thư mục dữ liệu, rồi thử khôi phục trên máy khác.
5. Khởi động lại: tắt và bật máy chủ, Ollama và Open WebUI phải tự chạy lại.
6. Hướng dẫn sử dụng: một trang ngắn: địa chỉ truy cập, chọn mô hình nào cho việc gì, dữ liệu nào không được đưa vào.

Thu thập phản hồi cuối tuần: câu hỏi nào AI làm tốt, câu nào sai, ai cần thêm quyền. Đây là dữ liệu thực tế để quyết định có nâng cấp phần cứng hay không.

❓ Lỗi thường gặp khi cài Open WebUI

Các lỗi dưới đây chiếm phần lớn sự cố trong giai đoạn đầu:

• Không thấy mô hình nào trong danh sách: Open WebUI trong Docker không gọi được Ollama. Kiểm tra tham số --add-host, địa chỉ kết nối dùng host.docker.internal thay vì localhost, và Ollama có đang chạy.
• Máy khác không truy cập được: tường lửa chặn cổng 3000 hoặc máy chủ đổi IP. Mở cổng cho mạng nội bộ và đặt IP cố định.
• Mất dữ liệu sau khi cập nhật: chạy container mới mà quên gắn volume. Luôn giữ tham số -v open-webui:/app/backend/data.
• Tài liệu tải lên trả lời sai: tệp scan không có chữ, hoặc tài liệu quá nhiều phiên bản mâu thuẫn.
• Quên mật khẩu quản trị: chỉ có một quản trị viên. Luôn tạo tài khoản quản trị dự phòng.

Không mở thẳng ra Internet

Nếu cần dùng từ xa, hãy truy cập qua VPN của công ty. Mở cổng Open WebUI trực tiếp ra Internet khiến trang đăng nhập bị dò mật khẩu và có thể lộ dữ liệu nội bộ.

❓ Câu hỏi thường gặp

📌 Bài viết liên quan

• Open WebUI là gì? Giao diện chat cho mô hình AI tự host
• Cài Ollama trên Windows và chạy mô hình AI đầu tiên
• Tự dựng “ChatGPT nội bộ” chạy trên server công ty
• AnythingLLM vs Open WebUI: công cụ nào để chat tài liệu nội bộ
• Server AI nội bộ cho doanh nghiệp nhỏ: khi nào cần, cấu hình ra sao
• Docker cho ứng dụng AI nội bộ: vì sao nên dùng và triển khai thế nào
• RAG là gì? Cho AI đọc tài liệu nội bộ
• Cách tạo trợ lý AI trả lời câu hỏi nội bộ từ tài liệu công ty

📌 Nguồn tham khảo

• Open WebUI – tài liệu chính thức
• Open WebUI – GitHub chính thức
• Docker – tài liệu chính thức