1. Giới Thiệu Về Ollama

Ollama là một công cụ mạnh mẽ giúp bạn chạy các mô hình AI ngay trên máy tính cá nhân một cách đơn giản. Nó hỗ trợ nhiều mô hình AI mã nguồn mở, giúp bạn dễ dàng triển khai các ứng dụng AI mà không cần đến hạ tầng đám mây.

1.1. Kiểm Tra Yêu Cầu Hệ Thống

Trước khi cài đặt, hãy đảm bảo hệ thống của bạn đáp ứng các yêu cầu tối thiểu:

  • Windows 10 hoặc Windows 11 (64-bit)
  • Có kết nối internet ổn định
  • Cấu hình để chạy được các Model AI thì bạn tham khảo dưới đây
Cấu Hình Phần Cứng Để Ollama Chạy Các Model Llama, Gemma, Mistral, DeepSeek,…

2. Cách Cài Đặt Ollama Trên Linux

2.1. Cập Nhật Hệ Thống

Trước khi cài đặt Ollama, hãy cập nhật hệ thống lên bản mới nhất để đảm bảo có môi trường tốt nhất hoạt động:

sudo apt update && sudo apt upgrade -y     # Dành cho Ubuntu/Debian
sudo dnf update -y                         # Dành cho Fedora

2.2. Cài Đặt Ollama

Hiện tại, Ollama có thể được cài đặt dễ dàng trên Linux thông qua lệnh sau:

curl -fsSL https://ollama.ai/install.sh | sh

Lệnh trên sẽ tự động tải xuống và cài đặt Ollama trên hệ thống linux của bạn.

2.3. Kiểm Tra Cài Đặt

Sau khi cài đặt xong, bạn có thể kiểm tra bằng lệnh:

ollama --version

Nếu kết quả hiển thị phiên bản Ollama, có nghĩa là bạn đã cài đặt thành công.

3. Mở Port Cho Ollama trên Linux

3.1. Cho Phép Ollama Chạy Ngoài Mạng Thiết Bị

Nếu Ollama đang chạy dưới dạng dịch vụ systemd, bạn có thể thiết lập biến môi trường như sau:

  1. Mở trình chỉnh sửa systemd bằng lệnh:
sudo systemctl edit ollama.service

Lệnh này sẽ mở một trình soạn thảo.

  1. Trong phần [Service], thêm các dòng sau:
[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
  1. Lưu lại và thoát khỏi trình chỉnh sửa.
  2. Tải lại systemd và khởi động lại Ollama:
sudo systemctl daemon-reload
sudo systemctl restart ollama

3.2. Cấu Hình Firewall

Nếu bạn đang sử dụng tường lửa, hãy mở cổng cho Ollama (mặc định là cổng 11434):

sudo ufw allow 11434/tcp  # Dành cho Ubuntu/Debian
sudo firewall-cmd --add-port=11434/tcp --permanent  # Dành cho Fedora/CentOS
sudo firewall-cmd --reload

3.3. Kiểm tra kết quả

Kiểm tra lại kết nối bằng cách truy cập từ trình duyệt hoặc sử dụng curl:

curl http://<IP>:11434

4. Kết Luận

Ollama là một công cụ hữu ích cho việc triển khai mô hình AI trên máy tính cá nhân. Bằng cách làm theo hướng dẫn trên, bạn có thể dễ dàng cài đặt Ollama trên Linux và truy cập từ xa để tận dụng tối đa sức mạnh của nó.

Hy vọng bài viết này hữu ích cho bạn! Nếu bạn gặp bất kỳ vấn đề gì, hãy để lại bình luận để cùng nhau thảo luận.