[
{
 "id": 2004,
 "slug": "cpu-hay-gpu-cho-ai",
 "title": "Chạy AI bằng CPU hay GPU? Khi nào CPU là đủ",
 "meta_desc": "Chạy AI bằng CPU hay GPU? Phân biệt rõ việc nào CPU làm đủ, việc nào bắt buộc cần GPU, kèm bảng so sánh và cách thử nhanh trên máy văn phòng.",
 "excerpt": "Không phải công việc AI nào cũng cần card đồ họa đắt tiền. Bài này giúp bạn biết khi nào CPU là đủ, khi nào GPU tạo khác biệt thật sự và cách tự kiểm chứng trước khi bỏ tiền nâng cấp.",
 "answer": "Chạy AI bằng CPU là đủ khi bạn dùng mô hình nhỏ (khoảng 1B–4B tham số, lượng tử hóa 4-bit), một người dùng, câu trả lời ngắn và chấp nhận tốc độ vài token mỗi giây. GPU trở nên cần thiết khi chạy mô hình từ 7B trở lên cho nhiều người, xử lý tài liệu dài, tạo ảnh, chuyển giọng nói thành văn bản số lượng lớn hoặc huấn luyện, tinh chỉnh mô hình. Lý do là GPU có băng thông bộ nhớ cao và hàng nghìn lõi tính song song, trong khi CPU mạnh ở xử lý tuần tự. Cách chắc chắn nhất là thử mô hình thật trên máy hiện có rồi mới quyết định.",
 "kws": ["chạy AI bằng CPU hay GPU", "chạy AI không cần GPU", "CPU chạy LLM", "GPU cho AI", "khi nào cần card đồ họa cho AI"],
 "sections": [
  {"h2": "Chạy AI bằng CPU hay GPU: khác nhau ở đâu", "html": "<p>CPU là bộ xử lý trung tâm, có ít lõi nhưng mỗi lõi rất mạnh và linh hoạt. GPU là bộ xử lý đồ họa, có hàng nghìn lõi nhỏ chuyên làm phép nhân ma trận song song. Mô hình AI, đặc biệt là mô hình ngôn ngữ lớn (LLM), về bản chất là rất nhiều phép nhân ma trận lặp lại, nên GPU có lợi thế tự nhiên.</p><p>Tuy vậy, khi chạy một mô hình đã huấn luyện sẵn để trả lời câu hỏi (gọi là suy luận), yếu tố giới hạn thường không phải sức tính mà là <strong>băng thông bộ nhớ</strong>. Mỗi token sinh ra, máy phải đọc gần hết trọng số mô hình một lần. VRAM trên card đồ họa có băng thông cao hơn RAM hệ thống nhiều lần, đó là lý do GPU sinh chữ nhanh hơn rõ rệt.</p><h3>Hai giai đoạn cần phân biệt</h3><ul><li><strong>Đọc đầu vào (prompt processing):</strong> nặng về tính toán, GPU nhanh hơn CPU rất nhiều.</li><li><strong>Sinh chữ (generation):</strong> nặng về đọc bộ nhớ, CPU với RAM nhanh vẫn tạm chấp nhận được với mô hình nhỏ.</li></ul><p>Hiểu hai giai đoạn này giúp bạn đoán đúng: dán tài liệu 20 trang vào máy chỉ có CPU sẽ chờ lâu ở bước đọc, dù câu trả lời ngắn.</p>"},
  {"h2": "Những việc AI mà CPU làm tốt", "html": "<p>Nhiều tác vụ AI văn phòng không đòi hỏi GPU. Nếu nhu cầu nằm trong danh sách dưới đây, máy có CPU đời mới và đủ RAM thường đã dùng được:</p><ul><li><strong>Chat với mô hình nhỏ:</strong> các mô hình 1B–4B bản 4-bit chạy được trên CPU phổ thông, phù hợp viết nháp email, tóm tắt đoạn văn ngắn, phân loại tin nhắn.</li><li><strong>Tạo embedding cho tìm kiếm tài liệu:</strong> mô hình embedding nhỏ chạy trên CPU ổn nếu số tài liệu vừa phải và chỉ cần lập chỉ mục một lần.</li><li><strong>Nhận dạng chữ (OCR) cơ bản, phân loại văn bản, trích xuất trường dữ liệu đơn giản.</strong></li><li><strong>Tự động hóa có gọi AI đám mây:</strong> khi mô hình chạy trên máy chủ của nhà cung cấp, máy bạn chỉ cần gửi yêu cầu, CPU nào cũng đủ.</li></ul><p>Ví dụ: một cửa hàng điện thoại muốn AI phân loại tin nhắn khách thành “hỏi giá”, “bảo hành”, “khiếu nại” vào cuối ngày. Khối lượng vài trăm tin, không cần trả lời tức thì, nên một máy tính văn phòng chạy mô hình nhỏ bằng CPU vào buổi tối là hợp lý.</p>"},
  {"h2": "Khi nào bắt buộc phải có GPU", "html": "<p>GPU tạo khác biệt lớn, thậm chí là điều kiện bắt buộc, trong các trường hợp sau:</p><ul><li><strong>Mô hình từ 7B trở lên dùng thường xuyên:</strong> trên CPU, tốc độ sinh chữ thường chỉ vài token mỗi giây, người dùng sẽ thấy chậm khi trả lời dài.</li><li><strong>Nhiều người dùng chung:</strong> phòng 10–20 nhân viên cùng hỏi một máy chủ AI nội bộ, CPU không đáp ứng kịp.</li><li><strong>Tài liệu dài, RAG nhiều đoạn:</strong> bước đọc đầu vào trên CPU chậm, mỗi câu hỏi có thể chờ hàng chục giây.</li><li><strong>Tạo ảnh bằng Stable Diffusion, FLUX:</strong> trên CPU mất rất lâu cho một ảnh, gần như không thực dụng.</li><li><strong>Chuyển giọng nói thành văn bản số lượng lớn:</strong> ghi âm cuộc họp hàng ngày nên dùng GPU.</li><li><strong>Huấn luyện hoặc tinh chỉnh (fine-tune) mô hình:</strong> cần GPU có VRAM lớn.</li></ul><p>Một dấu hiệu đơn giản: nếu người dùng phải chờ quá lâu đến mức quay về dùng công cụ cũ, đó là lúc cần GPU hoặc chuyển sang dịch vụ AI đám mây.</p>"},
  {"h2": "Bảng so sánh CPU và GPU cho từng tác vụ AI", "html": "<p>Bảng dưới đây là định hướng chung, tốc độ thực tế phụ thuộc đời CPU, loại RAM, mô hình và phiên bản phần mềm.</p>", "table": {"caption": "Mức phù hợp của CPU và GPU theo tác vụ AI phổ biến", "head": ["Tác vụ", "Chỉ dùng CPU", "Có GPU rời", "Gợi ý"], "rows": [["Chat mô hình 1B–4B, 1 người", "Dùng được", "Rất nhanh", "Bắt đầu bằng CPU"], ["Chat mô hình 7B–8B, 1 người", "Chậm nhưng chạy được", "Thoải mái", "GPU nếu dùng hằng ngày"], ["Mô hình 14B trở lên", "Rất chậm", "Cần VRAM đủ lớn", "GPU hoặc đám mây"], ["Hỏi đáp tài liệu dài (RAG)", "Chờ lâu ở bước đọc", "Nhanh", "Nên có GPU"], ["Tạo ảnh", "Gần như không thực dụng", "Phù hợp", "Bắt buộc GPU"], ["Chuyển giọng nói thành văn bản", "Được với file ngắn", "Nhanh với khối lượng lớn", "GPU nếu xử lý hằng ngày"], ["Fine-tune mô hình", "Không phù hợp", "Cần VRAM lớn", "GPU hoặc thuê đám mây"]]}},
  {"h2": "Điều kiện để CPU chạy AI ổn định", "html": "<p>Nếu quyết định chạy AI bằng CPU, hãy tối ưu đúng những yếu tố ảnh hưởng tốc độ:</p><ul><li><strong>RAM chạy hai kênh (dual channel):</strong> cắm hai thanh thay vì một thanh, vì băng thông RAM quyết định tốc độ sinh chữ trên CPU.</li><li><strong>RAM thế hệ mới hơn:</strong> DDR5 thường cho băng thông cao hơn DDR4 cùng cấu hình kênh.</li><li><strong>Dung lượng RAM dư:</strong> tổng RAM nên lớn hơn kích thước mô hình cộng phần dành cho hệ điều hành và ứng dụng khác. Mô hình 4B bản 4-bit thường chiếm khoảng 3 GB, nên máy 16 GB là mức tối thiểu dễ chịu.</li><li><strong>CPU hỗ trợ tập lệnh AVX2 hoặc AVX-512:</strong> phần lớn công cụ như llama.cpp tận dụng các tập lệnh này.</li><li><strong>Chọn bản lượng tử hóa 4-bit:</strong> nhỏ hơn, đọc nhanh hơn, chất lượng vẫn chấp nhận được cho tác vụ văn phòng.</li></ul><h3>Số luồng CPU</h3><p>Nhiều luồng hơn chưa chắc nhanh hơn, vì nút thắt nằm ở bộ nhớ. Thường đặt số luồng bằng số nhân thật là hợp lý; hãy thử vài mức để tìm điểm tốt nhất trên máy của bạn.</p>"},
  {"h2": "GPU tích hợp và NPU có thay được GPU rời không", "html": "<p>Nhiều máy văn phòng đời mới có GPU tích hợp (iGPU) hoặc bộ xử lý thần kinh (NPU). Câu hỏi hay gặp là liệu chúng có thay thế được card rời.</p><ul><li><strong>iGPU:</strong> dùng chung RAM hệ thống nên không giải quyết được nút thắt băng thông. Một số công cụ hỗ trợ tăng tốc qua Vulkan hoặc nền tảng của hãng, có thể nhanh hơn CPU thuần ở bước đọc đầu vào, nhưng hiệu quả khác nhau theo phần mềm.</li><li><strong>NPU:</strong> tiết kiệm điện, phù hợp các tính năng AI nhỏ tích hợp trong hệ điều hành như làm mờ phông nền, khử ồn, phụ đề trực tiếp. Việc chạy LLM tùy ý trên NPU đang phụ thuộc nhiều vào hỗ trợ của từng công cụ tại thời điểm viết.</li></ul><p>Kết luận thực tế: iGPU và NPU là điểm cộng, không phải lý do để kỳ vọng chạy mô hình lớn. Nếu nhu cầu chính là LLM 7B trở lên, GPU rời có VRAM đủ lớn vẫn là lựa chọn rõ ràng nhất.</p>"},
  {"h2": "Cách tự kiểm tra: máy hiện tại chạy AI bằng CPU được không", "html": "<p>Trước khi mua thiết bị, hãy thử nghiệm 30 phút trên máy đang có:</p><ol><li>Cài một công cụ chạy mô hình cục bộ như Ollama hoặc LM Studio.</li><li>Tải một mô hình nhỏ bản 4-bit (khoảng 3B–4B) và một mô hình 7B–8B bản 4-bit.</li><li>Chuẩn bị ba câu hỏi đúng công việc thật: tóm tắt một email dài, viết phản hồi khách, trích thông tin từ đoạn hợp đồng.</li><li>Ghi lại thời gian bắt đầu có chữ đầu tiên và tốc độ sinh chữ (công cụ thường hiển thị token/giây).</li><li>Mở Task Manager xem RAM có bị đầy, máy có chuyển sang dùng bộ nhớ ảo không.</li><li>Nhờ người dùng thật đánh giá: tốc độ và chất lượng có chấp nhận được không.</li></ol><p>Nếu mô hình nhỏ đã đủ chất lượng và tốc độ ổn, bạn tiết kiệm được khoản đầu tư GPU. Nếu chỉ mô hình 7B mới đủ chất lượng nhưng quá chậm, đó là bằng chứng rõ ràng để đầu tư card đồ họa.</p>"},
  {"h2": "Lỗi thường gặp khi chọn CPU hay GPU cho AI", "html": "<ul><li><strong>Mua CPU nhiều nhân thật đắt để chạy LLM:</strong> tốc độ sinh chữ ít tăng vì nút thắt là băng thông RAM.</li><li><strong>Mua GPU mạnh nhưng VRAM nhỏ:</strong> mô hình không nạp hết vào VRAM, phần còn lại chạy trên CPU và kéo tốc độ xuống.</li><li><strong>Chỉ cắm một thanh RAM:</strong> mất một nửa băng thông, CPU chạy AI chậm hẳn.</li><li><strong>Đánh giá bằng câu hỏi quá ngắn:</strong> thử “xin chào” thì máy nào cũng nhanh; hãy thử với tài liệu thật.</li><li><strong>Quên tính số người dùng:</strong> một người thấy ổn không có nghĩa mười người dùng chung vẫn ổn.</li><li><strong>Bỏ qua lựa chọn đám mây:</strong> nếu dữ liệu không nhạy cảm và tần suất thấp, dịch vụ AI đám mây có thể hợp lý hơn đầu tư phần cứng.</li></ul><h3>Khi nào không nên đầu tư GPU</h3><p>Khi nhu cầu chỉ là vài câu hỏi mỗi ngày, dữ liệu không nhạy cảm và công ty đã có tài khoản AI đám mây. Lúc này phần cứng đắt tiền dễ bị bỏ không.</p>"}
 ],
 "tip": "Hãy để người dùng thật thử ba câu hỏi công việc trên máy hiện có trước khi mua GPU. Số token/giây trên màn hình chỉ có ý nghĩa khi đi kèm cảm nhận chờ đợi của người dùng.",
 "faq": [
  {"q": "Máy không có card đồ họa rời có chạy được ChatGPT offline không?", "a": "ChatGPT không chạy offline, nhưng bạn có thể chạy các mô hình mã nguồn mở nhỏ bằng CPU qua Ollama hoặc LM Studio. Mô hình 1B–4B bản 4-bit là điểm khởi đầu hợp lý cho máy văn phòng."},
  {"q": "CPU chạy LLM 7B có nhanh không?", "a": "Chạy được nhưng thường chỉ vài token mỗi giây, tùy CPU và RAM. Đủ cho thử nghiệm hoặc câu trả lời ngắn, chưa thoải mái cho dùng cả ngày."},
  {"q": "Nâng RAM có giúp chạy AI bằng CPU nhanh hơn không?", "a": "Thêm dung lượng giúp nạp được mô hình lớn hơn, còn tốc độ phụ thuộc băng thông. Cắm đủ hai thanh để chạy hai kênh thường cải thiện rõ hơn chỉ tăng dung lượng."},
  {"q": "Laptop có NPU có thay được GPU để chạy AI không?", "a": "NPU tốt cho các tính năng AI nhỏ tích hợp trong hệ điều hành. Để chạy LLM tùy ý, hỗ trợ NPU còn phụ thuộc từng công cụ; GPU rời vẫn linh hoạt hơn."},
  {"q": "Tạo ảnh AI bằng CPU được không?", "a": "Về kỹ thuật là được nhưng rất chậm, không thực dụng cho công việc hằng ngày. Tạo ảnh nên dùng GPU hoặc dịch vụ đám mây."},
  {"q": "Doanh nghiệp nhỏ nên đầu tư GPU hay dùng AI đám mây?", "a": "Nếu dữ liệu nhạy cảm và dùng nhiều mỗi ngày, GPU tại chỗ đáng cân nhắc. Nếu dùng ít và dữ liệu thông thường, AI đám mây thường gọn nhẹ hơn."}
 ],
 "sources": [
  {"t": "llama.cpp – GitHub chính thức", "u": "https://github.com/ggml-org/llama.cpp"},
  {"t": "Ollama – trang chính thức", "u": "https://ollama.com"},
  {"t": "Graphics processing unit – Wikipedia", "u": "https://en.wikipedia.org/wiki/Graphics_processing_unit"}
 ],
 "related": ["may-tinh-chay-ai-cuc-bo-chon-cau-hinh", "vram-bao-nhieu-de-chay-llm", "ram-bao-nhieu-cho-ai", "card-do-hoa-cho-ai", "npu-va-ai-pc-la-gi", "chay-llm-tren-may-van-phong-cu", "gpu-cloud-vs-server-tai-cho", "dual-channel-la-gi"]
},
{
 "id": 2005,
 "slug": "ssd-cho-may-tinh-ai",
 "title": "Chọn ổ SSD cho máy tính làm AI: dung lượng và tốc độ",
 "meta_desc": "Chọn ổ SSD cho máy tính AI: tính dung lượng cho mô hình, dữ liệu và bộ nhớ đệm; khi nào cần NVMe nhanh, độ bền TBW và cách chia ổ hợp lý.",
 "excerpt": "Mô hình AI chiếm rất nhiều dung lượng và được nạp lại thường xuyên. Bài này giúp bạn tính dung lượng SSD cần thiết, chọn chuẩn tốc độ phù hợp và tránh những lỗi khiến ổ đầy hoặc chai sớm.",
 "answer": "SSD cho máy tính AI nên là ổ NVMe, dung lượng tối thiểu khoảng 1 TB cho máy cá nhân thử nghiệm và 2 TB trở lên cho máy dùng nhiều mô hình hoặc tạo ảnh. Mỗi mô hình ngôn ngữ 7B bản 4-bit chiếm khoảng 4–5 GB, mô hình 70B có thể vượt 40 GB, chưa kể dữ liệu, môi trường Python và bộ nhớ đệm. Tốc độ SSD chủ yếu ảnh hưởng thời gian nạp mô hình, không ảnh hưởng tốc độ trả lời khi mô hình đã nằm trong VRAM hoặc RAM. Với máy chạy liên tục, hãy chú ý chỉ số độ bền TBW và tách ổ hệ thống với ổ dữ liệu.",
 "kws": ["SSD cho máy tính AI", "ổ cứng cho máy chạy AI", "dung lượng SSD chạy LLM", "NVMe cho AI", "chọn SSD lưu mô hình AI"],
 "sections": [
  {"h2": "SSD cho máy tính AI đóng vai trò gì", "html": "<p>SSD cho máy tính AI là nơi lưu trữ file mô hình, dữ liệu đầu vào, kết quả đầu ra và phần mềm. Khi bạn bấm chạy một mô hình, phần mềm đọc file mô hình từ SSD vào VRAM hoặc RAM. Sau bước này, việc trả lời câu hỏi diễn ra trong bộ nhớ, SSD gần như không tham gia.</p><p>Vì vậy cần hiểu đúng: SSD nhanh giúp <strong>nạp mô hình nhanh hơn</strong> và <strong>chuyển đổi giữa nhiều mô hình mượt hơn</strong>, chứ không làm chatbot sinh chữ nhanh hơn. Ngoại lệ là khi RAM thiếu, hệ điều hành dùng SSD làm bộ nhớ ảo; lúc đó SSD nhanh giảm bớt độ giật nhưng vẫn chậm hơn nhiều so với có đủ RAM.</p><h3>Những thứ chiếm dung lượng trên máy AI</h3><ul><li>File mô hình ngôn ngữ, mô hình tạo ảnh, mô hình giọng nói.</li><li>Môi trường Python, thư viện CUDA, Docker image.</li><li>Dữ liệu tài liệu, chỉ mục vector cho hệ thống hỏi đáp.</li><li>Bộ nhớ đệm tải xuống từ Hugging Face và ảnh, video đầu ra.</li></ul>"},
  {"h2": "Cách tính dung lượng SSD cần thiết", "html": "<p>Cách tính đơn giản là cộng từng nhóm rồi nhân hệ số dự phòng, vì SSD đầy quá 80–90% thường chậm đi và khó quản lý.</p><ol><li><strong>Hệ điều hành và phần mềm:</strong> khoảng 100–150 GB cho Windows, ứng dụng văn phòng, công cụ AI.</li><li><strong>Môi trường phát triển:</strong> Python, CUDA, Docker có thể chiếm 30–100 GB nếu bạn thử nhiều dự án.</li><li><strong>Mô hình:</strong> liệt kê mô hình định dùng. Mô hình 7B–8B bản 4-bit khoảng 4–5 GB; 14B khoảng 8–9 GB; 32B khoảng 18–20 GB; 70B khoảng 40 GB trở lên. Bản 8-bit hoặc 16-bit lớn gấp đôi đến gấp bốn.</li><li><strong>Dữ liệu và chỉ mục:</strong> tùy kho tài liệu công ty.</li><li><strong>Đầu ra:</strong> ảnh, video, bản ghi âm có thể tăng rất nhanh.</li></ol><p>Ví dụ: kỹ thuật viên muốn thử 6 mô hình cỡ 7B–14B, hai mô hình tạo ảnh và một bộ RAG nhỏ. Tổng mô hình đã khoảng 80–120 GB, cộng môi trường và hệ điều hành dễ vượt 400 GB. Ổ 1 TB là vừa, 2 TB thoải mái hơn khi số mô hình tăng dần.</p>"},
  {"h2": "Bảng gợi ý dung lượng SSD theo nhu cầu AI", "html": "<p>Các mức dưới đây là ước lượng cho thời điểm viết; kích thước mô hình có xu hướng thay đổi theo từng thế hệ.</p>", "table": {"caption": "Gợi ý dung lượng và loại SSD cho máy tính làm AI", "head": ["Nhu cầu", "Dung lượng gợi ý", "Loại ổ", "Ghi chú"], "rows": [["Thử nghiệm 2–3 mô hình nhỏ", "512 GB – 1 TB", "NVMe PCIe 3.0 trở lên", "Dọn mô hình không dùng định kỳ"], ["Nhân viên dùng AI cục bộ hằng ngày", "1 TB", "NVMe PCIe 4.0", "Tách thư mục mô hình riêng"], ["Kỹ thuật viên thử nhiều mô hình, tạo ảnh", "2 TB", "NVMe PCIe 4.0, có DRAM cache", "Thêm ổ thứ hai cho dữ liệu"], ["Server AI nội bộ phục vụ nhóm", "2 TB ổ hệ thống + ổ dữ liệu riêng", "NVMe độ bền cao", "Sao lưu sang NAS"], ["Huấn luyện, tinh chỉnh mô hình", "2–4 TB trở lên", "NVMe TBW cao", "Lưu checkpoint ra ổ khác"]]}},
  {"h2": "NVMe hay SATA, PCIe 3.0, 4.0 hay 5.0", "html": "<p>Ổ SATA SSD có tốc độ đọc tối đa khoảng 550 MB/s do giới hạn giao tiếp. Ổ NVMe chạy qua PCIe, đời PCIe 3.0 thường đạt khoảng 3.000 MB/s, PCIe 4.0 khoảng 5.000–7.000 MB/s, PCIe 5.0 cao hơn nữa. Con số thực tế khác nhau theo từng mẫu ổ.</p><p>Với file mô hình 40 GB, chênh lệch thời gian nạp giữa SATA và NVMe là rõ rệt, giữa PCIe 4.0 và 5.0 thì ít cảm nhận hơn vì còn phụ thuộc phần mềm giải nén, CPU và tốc độ chuyển dữ liệu lên GPU.</p><h3>Chọn thế nào cho hợp lý</h3><ul><li><strong>NVMe PCIe 4.0</strong> là điểm cân bằng tốt cho đa số máy AI văn phòng.</li><li><strong>PCIe 5.0</strong> chỉ đáng khi bạn thường xuyên đổi qua lại nhiều mô hình lớn hoặc xử lý tập dữ liệu rất lớn; ổ đời này thường nóng hơn, cần tản nhiệt.</li><li><strong>SATA SSD</strong> vẫn dùng tốt làm ổ phụ lưu dữ liệu, kết quả, bản sao mô hình ít dùng.</li></ul><p>Hãy kiểm tra mainboard hỗ trợ khe M.2 chuẩn nào trước khi mua, tránh mua ổ PCIe 5.0 rồi cắm vào khe PCIe 3.0.</p>"},
  {"h2": "Độ bền TBW và DRAM cache có quan trọng không", "html": "<p>TBW (Terabytes Written) là tổng lượng dữ liệu nhà sản xuất cam kết ổ ghi được trong thời gian bảo hành. Máy AI chỉ chạy suy luận chủ yếu đọc mô hình, nên lượng ghi không lớn. Nhưng các tác vụ sau ghi rất nhiều:</p><ul><li>Tải đi tải lại mô hình, cập nhật phiên bản liên tục.</li><li>Huấn luyện, tinh chỉnh với checkpoint lưu định kỳ.</li><li>Tạo ảnh, video hàng loạt.</li><li>Dùng bộ nhớ ảo khi thiếu RAM.</li></ul><p>Với máy thuộc nhóm này, hãy chọn ổ có TBW cao và theo dõi chỉ số sức khỏe SMART định kỳ bằng công cụ như CrystalDiskInfo.</p><h3>DRAM cache</h3><p>Ổ có DRAM cache giữ tốc độ ổn định hơn khi ghi liên tục và khi ổ gần đầy. Ổ DRAM-less vẫn đủ cho máy chỉ đọc mô hình, nhưng với máy ghi nhiều hoặc server phục vụ nhóm, ổ có DRAM cache là lựa chọn an toàn hơn.</p>"},
  {"h2": "Cách chia ổ và thư mục trên máy AI", "html": "<p>Tổ chức ổ hợp lý giúp dọn dẹp, sao lưu và cài lại máy dễ hơn rất nhiều:</p><ul><li><strong>Ổ 1 (hệ thống):</strong> Windows hoặc Linux, phần mềm, công cụ AI.</li><li><strong>Ổ 2 (mô hình và dữ liệu):</strong> thư mục mô hình, dữ liệu, chỉ mục vector, kết quả.</li></ul><p>Phần lớn công cụ cho phép đổi thư mục lưu mô hình. Ví dụ Ollama dùng biến môi trường <code>OLLAMA_MODELS</code>, các công cụ dùng Hugging Face có thể đặt <code>HF_HOME</code> để chuyển bộ nhớ đệm sang ổ khác.</p><h3>Quy tắc đặt tên đơn giản</h3><ol><li>Tạo thư mục gốc như <code>D:\\AI\\models</code>, <code>D:\\AI\\data</code>, <code>D:\\AI\\outputs</code>.</li><li>Ghi file ghi chú liệt kê mô hình, phiên bản, ngày tải, mục đích.</li><li>Mỗi quý rà soát và xóa mô hình không còn dùng.</li></ol><p>Với máy có một khe M.2, có thể chia phân vùng, nhưng ổ vật lý riêng vẫn tốt hơn vì hỏng một ổ không mất cả hệ thống lẫn dữ liệu.</p>"},
  {"h2": "Lỗi thường gặp khi chọn SSD cho máy AI", "html": "<ul><li><strong>Mua ổ 512 GB vì “AI chạy trên GPU”:</strong> chỉ vài tuần thử nghiệm là đầy, nhất là khi tạo ảnh.</li><li><strong>Để bộ nhớ đệm mặc định trên ổ C:</strong> ổ hệ thống đầy, Windows cập nhật lỗi.</li><li><strong>Dùng HDD để lưu mô hình đang dùng:</strong> nạp mô hình lớn từ ổ cơ chậm hơn rất nhiều.</li><li><strong>Ổ PCIe 5.0 không có tản nhiệt:</strong> ổ nóng, tự giảm tốc khi ghi liên tục.</li><li><strong>Không sao lưu dữ liệu và cấu hình:</strong> mô hình có thể tải lại, nhưng dữ liệu đã xử lý, prompt và cấu hình thì không.</li></ul><h3>Kiểm tra sau khi lắp</h3><p>Mở công cụ quản lý ổ đĩa kiểm tra ổ nhận đúng dung lượng, chạy công cụ đo tốc độ để chắc ổ hoạt động đúng chuẩn PCIe, rồi xem nhiệt độ ổ khi nạp mô hình lớn vài lần liên tiếp.</p>"}
 ],
 "tip": "Ngay từ ngày đầu, hãy chuyển thư mục mô hình sang ổ dữ liệu riêng. Việc này tốn năm phút nhưng giúp bạn cài lại Windows mà không phải tải lại hàng trăm GB mô hình.",
 "faq": [
  {"q": "Máy chạy AI cần SSD bao nhiêu GB là đủ?", "a": "Máy thử nghiệm vài mô hình nhỏ dùng 1 TB là hợp lý. Nếu tạo ảnh hoặc thử nhiều mô hình 14B trở lên, nên dùng 2 TB hoặc thêm ổ thứ hai."},
  {"q": "SSD nhanh có làm ChatGPT chạy local trả lời nhanh hơn không?", "a": "Không đáng kể. SSD nhanh rút ngắn thời gian nạp mô hình; tốc độ trả lời phụ thuộc GPU, VRAM và RAM."},
  {"q": "Có nên mua SSD PCIe 5.0 cho máy AI?", "a": "Chỉ khi bạn thường xuyên đổi nhiều mô hình lớn và mainboard hỗ trợ. Với đa số nhu cầu, PCIe 4.0 là đủ và mát hơn."},
  {"q": "Lưu mô hình AI trên HDD được không?", "a": "Được cho mô hình ít dùng hoặc bản sao lưu. Mô hình dùng hằng ngày nên để trên SSD để nạp nhanh."},
  {"q": "Làm sao đổi nơi lưu mô hình của Ollama sang ổ D?", "a": "Đặt biến môi trường OLLAMA_MODELS trỏ tới thư mục trên ổ D rồi khởi động lại Ollama. Kiểm tra tài liệu chính thức vì cách cấu hình có thể thay đổi theo phiên bản."},
  {"q": "SSD DRAM-less có dùng cho máy AI được không?", "a": "Được với máy chủ yếu đọc mô hình. Máy ghi nhiều như huấn luyện, tạo ảnh hàng loạt nên dùng ổ có DRAM cache."}
 ],
 "sources": [
  {"t": "NVM Express – tổ chức chuẩn NVMe", "u": "https://nvmexpress.org"},
  {"t": "Solid-state drive – Wikipedia", "u": "https://en.wikipedia.org/wiki/Solid-state_drive"},
  {"t": "Ollama – GitHub chính thức", "u": "https://github.com/ollama/ollama"}
 ],
 "related": ["may-tinh-chay-ai-cuc-bo-chon-cau-hinh", "o-cung-nvme-la-gi", "tbw-cua-ssd-la-gi", "ssd-dram-less-la-gi", "ram-bao-nhieu-cho-ai", "quantization-gguf-chon-ban-nao", "sao-luu-du-lieu-ai", "nas-cho-du-lieu-ai"]
},
{
 "id": 2006,
 "slug": "nguon-va-tan-nhiet-cho-may-ai",
 "title": "Nguồn và tản nhiệt cho máy tính chạy GPU AI liên tục",
 "meta_desc": "Nguồn và tản nhiệt cho máy AI chạy GPU liên tục: cách tính công suất PSU, chọn chuẩn nguồn, bố trí luồng gió, giới hạn điện năng và đặt máy trong văn phòng.",
 "excerpt": "Máy chạy AI có thể giữ GPU ở mức tải cao hàng giờ liền, khác hẳn máy chơi game. Bài này hướng dẫn tính công suất nguồn, thiết kế tản nhiệt và vận hành an toàn cho máy AI đặt tại văn phòng.",
 "answer": "Nguồn và tản nhiệt cho máy AI cần thiết kế cho tải cao kéo dài, không chỉ đủ cho lúc khởi động. Cách tính nhanh: cộng công suất GPU, CPU và linh kiện khác, rồi chọn nguồn có công suất định mức cao hơn khoảng 40–60% để nguồn chạy mát, chịu được xung tải ngắn của GPU. Nên chọn nguồn từ chuẩn 80 Plus Gold trở lên, của hãng uy tín, có đầu cấp điện GPU đúng chuẩn. Về tản nhiệt, ưu tiên vỏ máy thông gió tốt, luồng gió trước hút sau thổi, giữ phòng máy dưới khoảng 30°C và cân nhắc giới hạn công suất GPU để máy bền hơn.",
 "kws": ["nguồn và tản nhiệt cho máy AI", "chọn nguồn cho máy chạy GPU AI", "tản nhiệt máy tính chạy AI", "công suất PSU cho AI", "máy AI chạy 24/7"],
 "sections": [
  {"h2": "Vì sao nguồn và tản nhiệt cho máy AI khác máy chơi game", "html": "<p>Nguồn và tản nhiệt cho máy AI là hai thành phần quyết định máy có chạy ổn định nhiều giờ liền hay không. Máy chơi game thường chạy GPU ở mức tải dao động, người chơi nghỉ giữa các ván. Máy AI thì khác: tạo ảnh hàng loạt, chuyển ghi âm thành văn bản, tinh chỉnh mô hình hoặc server phục vụ cả phòng có thể giữ GPU gần mức tối đa trong nhiều giờ.</p><p>Tải kéo dài làm nhiệt tích tụ trong vỏ máy, linh kiện nóng dần, quạt quay nhanh hơn, ồn hơn. Khi nhiệt vượt ngưỡng, GPU tự giảm xung (throttling) và tốc độ xử lý giảm. Nguồn chạy sát công suất lâu ngày cũng nóng hơn và giảm tuổi thọ tụ điện.</p><h3>Những rủi ro khi thiết kế thiếu</h3><ul><li>Máy tự tắt khi GPU tăng tải đột ngột.</li><li>Tốc độ xử lý giảm dần sau 20–30 phút.</li><li>Quạt ồn, ảnh hưởng nhân viên ngồi gần.</li><li>Linh kiện xuống cấp nhanh, lỗi khó tái hiện.</li></ul>"},
  {"h2": "Cách tính công suất nguồn cho máy chạy GPU AI", "html": "<p>Làm theo bốn bước sau để có con số hợp lý:</p><ol><li><strong>Tra công suất GPU:</strong> xem thông số công suất đồ họa tổng (TGP/TBP) trên trang của hãng. Card tầm trung thường khoảng 120–220 W, card cao cấp có thể từ 300 W trở lên.</li><li><strong>Tra công suất CPU:</strong> xem mức công suất tối đa khi tăng tốc, không chỉ TDP cơ bản.</li><li><strong>Cộng phần còn lại:</strong> mainboard, RAM, SSD, quạt thường khoảng 50–100 W.</li><li><strong>Nhân hệ số dự phòng:</strong> nhân tổng với khoảng 1,4–1,6 để nguồn hoạt động ở vùng hiệu suất tốt và có dư cho xung tải ngắn của GPU.</li></ol><p>Ví dụ ước lượng: GPU 220 W, CPU 150 W, phần còn lại 80 W, tổng khoảng 450 W. Nhân 1,5 cho kết quả gần 700 W, chọn nguồn 750 W là hợp lý. Máy dùng hai GPU cần tính lại từ đầu và nên tham khảo khuyến nghị nguồn của hãng card.</p><p>Các công cụ tính công suất trực tuyến của hãng nguồn cũng hữu ích để đối chiếu, nhưng hãy giữ hệ số dư cho tải liên tục.</p>"},
  {"h2": "Bảng tham khảo nguồn theo cấu hình máy AI", "html": "<p>Bảng sau mang tính định hướng; luôn đối chiếu với thông số chính thức của card và CPU bạn chọn.</p>", "table": {"caption": "Công suất nguồn tham khảo theo nhóm cấu hình", "head": ["Cấu hình", "Tổng tải ước tính", "Nguồn gợi ý", "Lưu ý"], "rows": [["CPU tầm trung + GPU tầm trung (khoảng 120–160 W)", "300–350 W", "550–650 W, 80 Plus Bronze/Gold", "Phù hợp máy AI cá nhân"], ["CPU tầm trung + GPU khoảng 200–250 W", "400–500 W", "750 W, 80 Plus Gold", "Kiểm tra số đầu cấp điện PCIe"], ["CPU cao cấp + GPU khoảng 300–450 W", "550–700 W", "850–1000 W, 80 Plus Gold trở lên", "Ưu tiên đầu 12V-2x6 chuẩn"], ["Máy hai GPU cho server nội bộ", "Tùy card, thường trên 800 W", "1200 W trở lên hoặc tham khảo hãng", "Kiểm tra mạch điện ổ cắm"]]}},
  {"h2": "Chọn nguồn đúng chuẩn: hiệu suất, đầu cấp, bảo vệ", "html": "<p>Công suất chỉ là một nửa câu chuyện. Một bộ nguồn tốt cho máy AI cần thêm các tiêu chí:</p><ul><li><strong>Chứng nhận hiệu suất:</strong> 80 Plus Gold trở lên giúp ít tỏa nhiệt và tiết kiệm điện khi chạy nhiều giờ.</li><li><strong>Đầu cấp điện GPU:</strong> card đời mới có thể dùng đầu 12VHPWR hoặc 12V-2x6. Dùng cáp đi kèm nguồn đúng chuẩn, cắm chặt hết cỡ, không bẻ gập sát đầu cắm.</li><li><strong>Chuẩn ATX 3.x:</strong> được thiết kế để chịu xung tải ngắn của GPU hiện đại tốt hơn.</li><li><strong>Mạch bảo vệ:</strong> chống quá áp, quá dòng, ngắn mạch, quá nhiệt.</li><li><strong>Nguồn modular:</strong> ít cáp thừa trong vỏ, luồng gió thông thoáng hơn.</li></ul><h3>Đừng quên điện đầu vào</h3><p>Máy AI công suất cao nên cắm trực tiếp vào ổ điện chắc chắn, không dùng ổ cắm kéo dài kém chất lượng. Với server AI quan trọng, lắp bộ lưu điện UPS có công suất phù hợp để tắt máy an toàn khi mất điện.</p>"},
  {"h2": "Thiết kế tản nhiệt và luồng gió trong vỏ máy", "html": "<p>Nguyên tắc chung là tạo đường đi rõ ràng cho không khí: khí mát vào từ phía trước hoặc phía dưới, khí nóng ra phía sau và phía trên.</p><ol><li><strong>Chọn vỏ có mặt trước dạng lưới:</strong> vỏ kính kín mặt trước làm GPU nóng hơn đáng kể khi tải dài.</li><li><strong>Quạt hút trước:</strong> thường 2–3 quạt, đẩy khí mát qua GPU.</li><li><strong>Quạt thổi sau và trên:</strong> đưa khí nóng ra ngoài.</li><li><strong>Áp suất hơi dương:</strong> lượng gió hút vào nhỉnh hơn thổi ra để hạn chế bụi lọt khe hở.</li><li><strong>Gọn dây cáp:</strong> không để cáp chắn trước quạt GPU.</li></ol><h3>Tản nhiệt CPU</h3><p>Với máy AI, GPU thường là nguồn nhiệt chính. Tản khí loại tốt là đủ cho phần lớn CPU tầm trung; tản nước AIO phù hợp CPU cao cấp hoặc vỏ nhỏ. Máy chạy liên tục nên ưu tiên giải pháp ít điểm hỏng, dễ bảo trì.</p><p>Nếu lắp hai GPU, chừa khoảng trống giữa hai card và chọn card có thiết kế thổi khí ra ngoài, nếu không card trên sẽ hút khí nóng từ card dưới.</p>"},
  {"h2": "Giới hạn công suất GPU để máy mát và bền hơn", "html": "<p>Một kỹ thuật được nhiều người vận hành máy AI áp dụng là giới hạn công suất GPU (power limit) hoặc giảm điện áp (undervolt). Với tác vụ suy luận LLM, nút thắt thường là băng thông bộ nhớ, nên giảm công suất tối đa một mức vừa phải thường làm tốc độ giảm ít, trong khi nhiệt độ và tiếng ồn giảm rõ.</p><ul><li>Trên card NVIDIA, có thể xem và đặt giới hạn công suất bằng công cụ <code>nvidia-smi</code> hoặc phần mềm của hãng card.</li><li>Thử từng mức, ví dụ 90%, 80%, 70% công suất mặc định, đo tốc độ và nhiệt độ ở mỗi mức.</li><li>Chọn mức có tốc độ chấp nhận được và nhiệt độ ổn định.</li></ul><p>Mức tối ưu khác nhau theo từng card và tác vụ; tạo ảnh và huấn luyện thường nhạy với công suất hơn so với chat. Hãy ghi lại cấu hình đã chọn để áp dụng lại sau khi cập nhật driver.</p>"},
  {"h2": "Đặt máy AI ở đâu trong văn phòng", "html": "<p>Vị trí đặt máy ảnh hưởng nhiệt độ không kém linh kiện bên trong:</p><ul><li>Không đặt sát tường, gầm bàn kín hoặc trong tủ không có lỗ thoát khí.</li><li>Cách tường ít nhất 10–15 cm ở mặt hút và mặt thổi.</li><li>Tránh nắng trực tiếp, tránh gần cửa thoát gió nóng của máy lạnh.</li><li>Với server chạy 24/7, nên đặt trong phòng hoặc góc có điều hòa, khóa cửa và ít người qua lại.</li></ul><h3>Theo dõi và bảo trì</h3><ol><li>Cài công cụ theo dõi nhiệt độ GPU, CPU như HWiNFO hoặc <code>nvidia-smi</code>.</li><li>Ghi nhận nhiệt độ khi chạy tải nặng 30 phút trong tuần đầu tiên làm mốc so sánh.</li><li>Vệ sinh bụi lưới lọc mỗi 1–3 tháng tùy môi trường, nhất là văn phòng gần đường lớn ở TP.HCM.</li><li>Kiểm tra keo tản nhiệt và quạt mỗi năm với máy chạy liên tục.</li></ol>"},
  {"h2": "Lỗi thường gặp với nguồn và tản nhiệt máy AI", "html": "<ul><li><strong>Tái sử dụng nguồn cũ của máy văn phòng:</strong> nguồn công suất thấp, không có đầu cấp GPU đủ, dễ tắt máy đột ngột.</li><li><strong>Dùng cáp chuyển đổi kém chất lượng cho GPU:</strong> nguy cơ nóng chảy đầu cắm.</li><li><strong>Chọn vỏ đẹp nhưng bí:</strong> GPU giảm xung sau vài chục phút.</li><li><strong>Chỉ test 5 phút:</strong> nhiều lỗi nhiệt chỉ xuất hiện sau 30–60 phút tải liên tục.</li><li><strong>Nhiều máy công suất cao chung một ổ cắm:</strong> nguy cơ quá tải mạch điện.</li><li><strong>Bỏ qua UPS cho server:</strong> mất điện đột ngột có thể làm hỏng dữ liệu đang ghi.</li></ul><h3>Kiểm tra trước khi bàn giao máy</h3><p>Chạy một tác vụ AI nặng thật như tạo ảnh hàng loạt hoặc chuyển ghi âm dài trong ít nhất một giờ, ghi nhiệt độ, tốc độ, xem nhật ký hệ thống có lỗi nguồn hay tắt đột ngột không.</p>"}
 ],
 "tip": "Khi đặt máy AI chạy liên tục, hãy thử giới hạn công suất GPU khoảng 80% và đo lại tốc độ. Nhiều trường hợp tốc độ gần như không đổi nhưng máy mát và êm hơn hẳn.",
 "faq": [
  {"q": "Máy chạy AI với một card đồ họa tầm trung cần nguồn bao nhiêu W?", "a": "Thường khoảng 650–750 W là thoải mái, tùy công suất card và CPU. Hãy cộng công suất linh kiện rồi nhân hệ số khoảng 1,5."},
  {"q": "Nguồn 80 Plus Bronze có dùng cho máy AI được không?", "a": "Được với máy công suất vừa phải. Máy chạy nhiều giờ mỗi ngày nên dùng Gold trở lên để ít nóng và tiết kiệm điện hơn."},
  {"q": "GPU chạy AI bao nhiêu độ là bình thường?", "a": "Mỗi card có ngưỡng riêng, nhiều card chạy tải nặng ở khoảng 65–80°C. Nếu card thường xuyên giảm xung hoặc vượt ngưỡng của hãng, cần cải thiện tản nhiệt."},
  {"q": "Có cần tản nhiệt nước cho máy AI không?", "a": "Không bắt buộc. Với đa số máy, vỏ thông gió tốt và tản khí chất lượng là đủ và dễ bảo trì hơn."},
  {"q": "Giới hạn công suất GPU có làm hỏng card không?", "a": "Giới hạn công suất trong phạm vi công cụ của hãng cho phép là thao tác an toàn, thường giúp card mát hơn. Hãy thay đổi từng bước và theo dõi độ ổn định."},
  {"q": "Máy AI chạy 24/7 có cần UPS không?", "a": "Nên có. UPS giúp máy không tắt đột ngột khi chập chờn điện và cho thời gian tắt máy an toàn."}
 ],
 "sources": [
  {"t": "NVIDIA System Management Interface (nvidia-smi)", "u": "https://developer.nvidia.com/system-management-interface"},
  {"t": "80 Plus – Wikipedia", "u": "https://en.wikipedia.org/wiki/80_Plus"},
  {"t": "Power supply unit (computer) – Wikipedia", "u": "https://en.wikipedia.org/wiki/Power_supply_unit_(computer)"}
 ],
 "related": ["may-tinh-chay-ai-cuc-bo-chon-cau-hinh", "nguon-may-tinh-psu-la-gi", "tan-nhiet-khi-va-tan-nhiet-nuoc-aio-khac-nhau-the-nao", "ups-cho-server-ai", "gpu-nvidia-rtx-cho-ai", "server-ai-noi-bo-cho-sme", "may-tram-ai-workstation"]
}
]
