Giới Thiệu

Ollama là một công cụ giúp bạn chạy các mô hình AI ngay trên máy tính cá nhân (Local). Trong bài viết này, chúng ta sẽ tìm hiểu cách cài đặt Ollama trên Windows và cách mở port để truy cập từ xa.

Bước 1: Cài Đặt Ollama Trên Windows

1.1. Kiểm Tra Yêu Cầu Hệ Thống

Trước khi cài đặt, hãy đảm bảo hệ thống của bạn đáp ứng các yêu cầu tối thiểu:

  • Windows 10 hoặc Windows 11 (64-bit)
  • Có kết nối internet ổn định
  • Cấu hình để chạy được các Model AI thì bạn tham khảo tại đây
Cấu Hình Phần Cứng Để Ollama Chạy Các Model Llama, Gemma, Mistral, DeepSeek,…

1.2. Tải Và Cài Đặt Ollama

  1. Truy cập trang chủ Ollama: https://ollama.ai hoặc tải trực tiếp ở ĐÂY
  2. Tải xuống file cài đặt dành cho Windows.
  3. Chạy file cài đặt và làm theo hướng dẫn trên màn hình.
  4. Sau khi cài đặt xong, mở Command Prompt hoặc PowerShell và chạy lệnh kiểm tra phiên bản:ollama --version

Bước 2: Mở Port Cho Ollama trên Windows

Mặc định, Ollama chỉ có thể truy cập cục bộ trong máy tính hoặc sever của bạn. Muốn truy cập kết nối vào ollama từ xa chúng ta cần mở port trên máy tính (Sever) của bạn

  1. Thoát Ollama từ thanh tác vụ.
  2. Mở Settings (Windows 11) hoặc Control Panel (Windows 10), tìm Environment Variables.
  1. Chọn New bảng New User Variable hiện lên
  • OLLAMA_HOST với giá trị 0.0.0.0
  • OLLAMA_ORIGINS với giá trị *
  1. Nhấn OK để lưu cài đặt.
  2. Mở lại ứng dụng Ollama từ Start Menu.

2.2. Cấu Hình Firewall Để Cho Phép Truy Cập

  1. Mở Command Prompt với quyền admin và chạy lệnh:netsh advfirewall firewall add rule name="Ollama Access" dir=in action=allow protocol=TCP localport=11434

2.3. Kiểm tra kết quả

Kiểm tra lại kết nối bằng cách truy cập từ trình duyệt hoặc sử dụng curl:curl http://<IP>:11434

Kết Luận

Vậy là bạn đã biết cách cài đặt Ollama trên Windows và mở port để truy cập từ xa. Nếu gặp vấn đề, hãy kiểm tra lại cấu hình firewall. Chúc bạn thành công!