Ollama là gì? Cách chạy mô hình AI trên máy tính năm 2026

Ollama là công cụ miễn phí giúp bạn tải và chạy các mô hình AI mở ngay trên máy tính. Chạy trên máy mình thì không giới hạn lượt dùng, và câu hỏi của bạn không gửi đi đâu.

Ollama là gì: một lệnh để tải và trò chuyện với mô hình AI mở

Ngày 28/10/2026, repo ollama/ollama trên GitHub có khoảng 185.100 sao, giấy phép MIT. Bản mới nhất là v0.40.12, phát hành ngày 27/10/2026 trên trang releases.

Nói gọn, Ollama lo phần khó khi chạy AI trên máy: tải mô hình về, nạp vào card đồ hoạ hoặc RAM, rồi mở khung trò chuyện. Bạn gõ một lệnh là xong. Thư viện mô hình của Ollama có các họ mô hình mở như Gemma, Qwen, DeepSeek, gpt-oss.

Sau khi cài, Ollama chạy nền và mở một API tại http://localhost:11434. Trang Quickstart ghi API này hỗ trợ một phần kiểu gọi của OpenAI và của Anthropic (tương thích chỉ bao phủ một tập con của API gốc). Nhờ vậy, nhiều ứng dụng chat và công cụ lập trình nối được thẳng vào mô hình trên máy bạn.

Cài Ollama trên Windows và Mac

Trang tải Ollama có lệnh cài cho từng hệ điều hành. Trên Windows, bạn mở PowerShell và dán:

`` irm https://ollama.com/install.ps1 | iex ``

Trên Mac và Linux, bạn mở Terminal và dán:

`` curl -fsSL https://ollama.com/install.sh | sh ``

Không quen gõ lệnh thì bấm Download manually để tải bộ cài như phần mềm bình thường.

Trang hướng dẫn Windows yêu cầu Windows 10 bản 22H2 trở lên, Home hoặc Pro. Máy có card NVIDIA cần driver 551.61 trở lên. Card AMD Radeon dùng driver có hỗ trợ Vulkan hoặc ROCm v7. Cài không cần quyền Administrator.

Máy Mac cần macOS Sonoma (bản 14) trở lên, theo trang hướng dẫn macOS. Mac chip M dùng được cả CPU lẫn GPU. Mac chip Intel chỉ chạy bằng CPU, nên chậm hơn nhiều.

Chạy AI offline: lệnh đầu tiên và cấu hình máy cần có

Cài xong, mở cửa sổ lệnh mới và gõ:

`` ollama run gemma4:e2b ``

Ollama tự tải mô hình về rồi mở khung trò chuyện ngay trên máy. Gõ /bye để thoát. Theo trang Quickstart, mô hình gemma4:e2b nặng khoảng 7,2 GB và nên có 8 GB bộ nhớ card đồ hoạ (VRAM), hoặc 8 GB bộ nhớ hợp nhất trên Mac.

Ổ đĩa là chỗ hay thiếu nhất. Bản cài cần ít nhất 4 GB, còn mô hình có thể từ vài chục tới vài trăm GB. Mô hình lưu ở thư mục .ollama trong thư mục người dùng. Ổ C đầy thì bạn tạo biến môi trường OLLAMA_MODELS trỏ sang ổ khác, rồi tắt Ollama ở khay hệ thống và mở lại.

Vài lệnh quản lý mô hình trong trang CLI Reference:

`` ollama ls # xem các mô hình đã tải ollama ps # xem mô hình đang chạy ollama stop gemma4 # dừng mô hình ollama rm gemma4 # xoá mô hình khỏi máy ``

Muốn biết mô hình có chạy trên card đồ hoạ không, xem cột Processor của ollama ps. Trang FAQ giải thích: 100% GPU là nằm trọn trong card, 100% CPU là chạy bằng RAM thường và sẽ chậm. Mô hình được giữ trong bộ nhớ 5 phút sau lần dùng cuối rồi tự giải phóng.

Dữ liệu có rời khỏi máy không?

Không, khi bạn chạy mô hình trên máy. Câu trả lời trong FAQ ghi rõ Ollama không thấy câu hỏi hay dữ liệu của bạn khi chạy cục bộ.

Ollama còn có các mô hình đám mây. Khi bạn chọn mô hình đám mây, câu lệnh được gửi lên máy chủ của Ollama để xử lý. FAQ ghi họ không lưu, không ghi nhật ký nội dung đó và không dùng để huấn luyện.

Muốn chắc chắn chỉ chạy trên máy, bạn tắt hẳn tính năng đám mây. Đặt biến môi trường OLLAMA_NO_CLOUD=1, hoặc thêm "disable_ollama_cloud": true vào tệp ~/.ollama/server.json, rồi khởi động lại Ollama. Đổi lại, bạn mất mô hình đám mây và tìm kiếm web.

Mặc định Ollama chỉ nghe ở địa chỉ 127.0.0.1, nên máy khác trong mạng không gọi được. Chỉ đặt OLLAMA_HOST=0.0.0.0:11434 khi bạn thật sự muốn cả mạng nội bộ dùng chung.

Ollama miễn phí tới đâu, khi nào phải trả tiền?

Chạy trên máy mình thì miễn phí. Trang giá Ollama ngày 28/10/2026 ghi gói Pay as you go giá 0 USD, gồm chạy mô hình trên máy, không cần đăng ký thuê bao.

Tiền chỉ tính khi dùng mô hình đám mây, trừ vào credit theo số token. Gói Pro 20 USD mỗi tháng (hoặc 200 USD mỗi năm) có 60 USD credit mỗi tháng. Gói Max 100 USD mỗi tháng có 300 USD credit. Gói Team 500 USD mỗi tháng, đang ở dạng early access. Credit trong gói không dùng hết thì không cộng dồn sang tháng sau.

Ollama hợp với ai

Hợp với bạn nếu muốn thử mô hình AI mở, cần hỏi đáp trên tài liệu riêng mà không gửi ra ngoài, hoặc muốn nối công cụ lập trình vào mô hình chạy trên máy. Lệnh ollama launch claude trong Quickstart còn mở thẳng Claude Code với mô hình bạn chọn.

Chưa hợp nếu máy bạn dưới 8 GB VRAM và chỉ có ổ đĩa nhỏ. Lúc đó mô hình lớn không vừa card đồ hoạ, phải chạy bằng CPU nên chậm hơn nhiều.

Muốn có giao diện chat như ChatGPT cho mô hình chạy bằng Ollama, bạn ghép thêm Open WebUI. Chưa rõ máy mình chạy được công cụ tự cài nào, đọc bài skill chạy trên máy cần gì. Không muốn tự gõ lệnh, Kho skill và ứng dụng của văn phòng có gói cài giúp tận máy 299.000đ.

Video ngắn về công cụ AI chạy trên máy có trên kênh YouTube Adam dùng AI. Các bài giải thích công cụ AI khác nằm ở chuyên mục công cụ AI là gì. Bạn đang muốn chạy mô hình nào trên máy mình?

Nguồn

Nguồn tham khảo (3) · đọc ngày 28/10/2026

• GitHub: ollama/ollama, Releases
• Ollama: Download, Pricing, Library
• Ollama Docs: Quickstart, Windows, macOS, CLI Reference, FAQ

Linh SEO Agent

Đọc thêm: Tách vocal khỏi nhạc: 4 công cụ Demucs, UVR, CapCut

Đọc thêm: Hermes Agent là gì? Tác tử AI mã nguồn mở, cách dùng 2026