SSD cho máy tính AI nên là ổ NVMe, dung lượng tối thiểu khoảng 1 TB cho máy cá nhân thử nghiệm và 2 TB trở lên cho máy dùng nhiều mô hình hoặc tạo ảnh. Mỗi mô hình ngôn ngữ 7B bản 4-bit chiếm khoảng 4–5 GB, mô hình 70B có thể vượt 40 GB, chưa kể dữ liệu, môi trường Python và bộ nhớ đệm. Tốc độ SSD chủ yếu ảnh hưởng thời gian nạp mô hình, không ảnh hưởng tốc độ trả lời khi mô hình đã nằm trong VRAM hoặc RAM. Với máy chạy liên tục, hãy chú ý chỉ số độ bền TBW và tách ổ hệ thống với ổ dữ liệu.
SSD cho máy tính AI đóng vai trò gì
SSD cho máy tính AI là nơi lưu trữ file mô hình, dữ liệu đầu vào, kết quả đầu ra và phần mềm. Khi bạn bấm chạy một mô hình, phần mềm đọc file mô hình từ SSD vào VRAM hoặc RAM. Sau bước này, việc trả lời câu hỏi diễn ra trong bộ nhớ, SSD gần như không tham gia.
Vì vậy cần hiểu đúng: SSD nhanh giúp nạp mô hình nhanh hơn và chuyển đổi giữa nhiều mô hình mượt hơn, chứ không làm chatbot sinh chữ nhanh hơn. Ngoại lệ là khi RAM thiếu, hệ điều hành dùng SSD làm bộ nhớ ảo; lúc đó SSD nhanh giảm bớt độ giật nhưng vẫn chậm hơn nhiều so với có đủ RAM.
Những thứ chiếm dung lượng trên máy AI
- File mô hình ngôn ngữ, mô hình tạo ảnh, mô hình giọng nói.
- Môi trường Python, thư viện CUDA, Docker image.
- Dữ liệu tài liệu, chỉ mục vector cho hệ thống hỏi đáp.
- Bộ nhớ đệm tải xuống từ Hugging Face và ảnh, video đầu ra.
Cách tính dung lượng SSD cần thiết
Cách tính đơn giản là cộng từng nhóm rồi nhân hệ số dự phòng, vì SSD đầy quá 80–90% thường chậm đi và khó quản lý.
- Hệ điều hành và phần mềm: khoảng 100–150 GB cho Windows, ứng dụng văn phòng, công cụ AI.
- Môi trường phát triển: Python, CUDA, Docker có thể chiếm 30–100 GB nếu bạn thử nhiều dự án.
- Mô hình: liệt kê mô hình định dùng. Mô hình 7B–8B bản 4-bit khoảng 4–5 GB; 14B khoảng 8–9 GB; 32B khoảng 18–20 GB; 70B khoảng 40 GB trở lên. Bản 8-bit hoặc 16-bit lớn gấp đôi đến gấp bốn.
- Dữ liệu và chỉ mục: tùy kho tài liệu công ty.
- Đầu ra: ảnh, video, bản ghi âm có thể tăng rất nhanh.
Ví dụ: kỹ thuật viên muốn thử 6 mô hình cỡ 7B–14B, hai mô hình tạo ảnh và một bộ RAG nhỏ. Tổng mô hình đã khoảng 80–120 GB, cộng môi trường và hệ điều hành dễ vượt 400 GB. Ổ 1 TB là vừa, 2 TB thoải mái hơn khi số mô hình tăng dần.
Bảng gợi ý dung lượng SSD theo nhu cầu AI
Các mức dưới đây là ước lượng cho thời điểm viết; kích thước mô hình có xu hướng thay đổi theo từng thế hệ.
| Nhu cầu | Dung lượng gợi ý | Loại ổ | Ghi chú |
|---|---|---|---|
| Thử nghiệm 2–3 mô hình nhỏ | 512 GB – 1 TB | NVMe PCIe 3.0 trở lên | Dọn mô hình không dùng định kỳ |
| Nhân viên dùng AI cục bộ hằng ngày | 1 TB | NVMe PCIe 4.0 | Tách thư mục mô hình riêng |
| Kỹ thuật viên thử nhiều mô hình, tạo ảnh | 2 TB | NVMe PCIe 4.0, có DRAM cache | Thêm ổ thứ hai cho dữ liệu |
| Server AI nội bộ phục vụ nhóm | 2 TB ổ hệ thống + ổ dữ liệu riêng | NVMe độ bền cao | Sao lưu sang NAS |
| Huấn luyện, tinh chỉnh mô hình | 2–4 TB trở lên | NVMe TBW cao | Lưu checkpoint ra ổ khác |
NVMe hay SATA, PCIe 3.0, 4.0 hay 5.0
Ổ SATA SSD có tốc độ đọc tối đa khoảng 550 MB/s do giới hạn giao tiếp. Ổ NVMe chạy qua PCIe, đời PCIe 3.0 thường đạt khoảng 3.000 MB/s, PCIe 4.0 khoảng 5.000–7.000 MB/s, PCIe 5.0 cao hơn nữa. Con số thực tế khác nhau theo từng mẫu ổ.
Với file mô hình 40 GB, chênh lệch thời gian nạp giữa SATA và NVMe là rõ rệt, giữa PCIe 4.0 và 5.0 thì ít cảm nhận hơn vì còn phụ thuộc phần mềm giải nén, CPU và tốc độ chuyển dữ liệu lên GPU.
Chọn thế nào cho hợp lý
- NVMe PCIe 4.0 là điểm cân bằng tốt cho đa số máy AI văn phòng.
- PCIe 5.0 chỉ đáng khi bạn thường xuyên đổi qua lại nhiều mô hình lớn hoặc xử lý tập dữ liệu rất lớn; ổ đời này thường nóng hơn, cần tản nhiệt.
- SATA SSD vẫn dùng tốt làm ổ phụ lưu dữ liệu, kết quả, bản sao mô hình ít dùng.
Hãy kiểm tra mainboard hỗ trợ khe M.2 chuẩn nào trước khi mua, tránh mua ổ PCIe 5.0 rồi cắm vào khe PCIe 3.0.
Độ bền TBW và DRAM cache có quan trọng không
TBW (Terabytes Written) là tổng lượng dữ liệu nhà sản xuất cam kết ổ ghi được trong thời gian bảo hành. Máy AI chỉ chạy suy luận chủ yếu đọc mô hình, nên lượng ghi không lớn. Nhưng các tác vụ sau ghi rất nhiều:
- Tải đi tải lại mô hình, cập nhật phiên bản liên tục.
- Huấn luyện, tinh chỉnh với checkpoint lưu định kỳ.
- Tạo ảnh, video hàng loạt.
- Dùng bộ nhớ ảo khi thiếu RAM.
Với máy thuộc nhóm này, hãy chọn ổ có TBW cao và theo dõi chỉ số sức khỏe SMART định kỳ bằng công cụ như CrystalDiskInfo.
DRAM cache
Ổ có DRAM cache giữ tốc độ ổn định hơn khi ghi liên tục và khi ổ gần đầy. Ổ DRAM-less vẫn đủ cho máy chỉ đọc mô hình, nhưng với máy ghi nhiều hoặc server phục vụ nhóm, ổ có DRAM cache là lựa chọn an toàn hơn.
Cách chia ổ và thư mục trên máy AI
Tổ chức ổ hợp lý giúp dọn dẹp, sao lưu và cài lại máy dễ hơn rất nhiều:
- Ổ 1 (hệ thống): Windows hoặc Linux, phần mềm, công cụ AI.
- Ổ 2 (mô hình và dữ liệu): thư mục mô hình, dữ liệu, chỉ mục vector, kết quả.
Phần lớn công cụ cho phép đổi thư mục lưu mô hình. Ví dụ Ollama dùng biến môi trường OLLAMA_MODELS, các công cụ dùng Hugging Face có thể đặt HF_HOME để chuyển bộ nhớ đệm sang ổ khác.
Quy tắc đặt tên đơn giản
- Tạo thư mục gốc như
D:\AI\models,D:\AI\data,D:\AI\outputs. - Ghi file ghi chú liệt kê mô hình, phiên bản, ngày tải, mục đích.
- Mỗi quý rà soát và xóa mô hình không còn dùng.
Với máy có một khe M.2, có thể chia phân vùng, nhưng ổ vật lý riêng vẫn tốt hơn vì hỏng một ổ không mất cả hệ thống lẫn dữ liệu.
Lỗi thường gặp khi chọn SSD cho máy AI
- Mua ổ 512 GB vì “AI chạy trên GPU”: chỉ vài tuần thử nghiệm là đầy, nhất là khi tạo ảnh.
- Để bộ nhớ đệm mặc định trên ổ C: ổ hệ thống đầy, Windows cập nhật lỗi.
- Dùng HDD để lưu mô hình đang dùng: nạp mô hình lớn từ ổ cơ chậm hơn rất nhiều.
- Ổ PCIe 5.0 không có tản nhiệt: ổ nóng, tự giảm tốc khi ghi liên tục.
- Không sao lưu dữ liệu và cấu hình: mô hình có thể tải lại, nhưng dữ liệu đã xử lý, prompt và cấu hình thì không.
Kiểm tra sau khi lắp
Mở công cụ quản lý ổ đĩa kiểm tra ổ nhận đúng dung lượng, chạy công cụ đo tốc độ để chắc ổ hoạt động đúng chuẩn PCIe, rồi xem nhiệt độ ổ khi nạp mô hình lớn vài lần liên tiếp.
Ngay từ ngày đầu, hãy chuyển thư mục mô hình sang ổ dữ liệu riêng. Việc này tốn năm phút nhưng giúp bạn cài lại Windows mà không phải tải lại hàng trăm GB mô hình.
Cần máy tính hoặc server chạy AI cho công ty? PCTech tư vấn cấu hình theo mô hình và số người dùng, lắp ráp, cài sẵn Ollama/Open WebUI, bảo hành tận nơi tại TP.HCM.
Nhập mô hình muốn chạy và số người dùng, nhận gợi ý GPU, RAM, SSD ngay. Dùng thử ngay
Câu hỏi thường gặp
Máy chạy AI cần SSD bao nhiêu GB là đủ?
Máy thử nghiệm vài mô hình nhỏ dùng 1 TB là hợp lý. Nếu tạo ảnh hoặc thử nhiều mô hình 14B trở lên, nên dùng 2 TB hoặc thêm ổ thứ hai.
SSD nhanh có làm ChatGPT chạy local trả lời nhanh hơn không?
Không đáng kể. SSD nhanh rút ngắn thời gian nạp mô hình; tốc độ trả lời phụ thuộc GPU, VRAM và RAM.
Có nên mua SSD PCIe 5.0 cho máy AI?
Chỉ khi bạn thường xuyên đổi nhiều mô hình lớn và mainboard hỗ trợ. Với đa số nhu cầu, PCIe 4.0 là đủ và mát hơn.
Lưu mô hình AI trên HDD được không?
Được cho mô hình ít dùng hoặc bản sao lưu. Mô hình dùng hằng ngày nên để trên SSD để nạp nhanh.
Làm sao đổi nơi lưu mô hình của Ollama sang ổ D?
Đặt biến môi trường OLLAMA_MODELS trỏ tới thư mục trên ổ D rồi khởi động lại Ollama. Kiểm tra tài liệu chính thức vì cách cấu hình có thể thay đổi theo phiên bản.
SSD DRAM-less có dùng cho máy AI được không?
Được với máy chủ yếu đọc mô hình. Máy ghi nhiều như huấn luyện, tạo ảnh hàng loạt nên dùng ổ có DRAM cache.
Bài viết liên quan
- Máy tính chạy AI cục bộ: chọn cấu hình theo nhu cầu và ngân sách
- Ổ cứng NVMe là gì? Khác SATA SSD ở đâu
- TBW của SSD là gì? Cách đọc độ bền ổ cứng
- SSD DRAM-less là gì? Có nên mua không
- Máy tính chạy AI cần bao nhiêu RAM?
- Chọn bản mô hình GGUF (Q4, Q5, Q8) phù hợp máy của bạn
- Sao lưu dữ liệu, mô hình và cấu hình AI nội bộ: cần lưu gì, lưu thế nào
- NAS lưu trữ dữ liệu cho AI và kho tri thức doanh nghiệp