Ollama

Ollama chạy các mô hình mở ngay trên máy tính của bạn. Duet Translate có thể dùng nó như mọi nhà cung cấp khác: miễn phí, riêng tư và chạy ngoại tuyến sau khi tải mô hình về.

1. Cài Ollama và một mô hình

1. Tải Ollama từ ollama.com và khởi động.
2. Tải một mô hình trong terminal, ví dụ:

ollama pull qwen3:8b

Chọn mô hình mà máy bạn chạy thoải mái. Mô hình 7 đến 14 tỷ tham số dịch tốt trên laptop đời mới; mô hình lớn hơn cần GPU mạnh.

2. Cho phép trình duyệt truy cập

Ollama chỉ trả lời yêu cầu từ những nguồn nó tin cậy. Nếu kiểm tra kết nối thất bại với lỗi như 403, hãy cho phép tiện ích trình duyệt và khởi động lại Ollama:

macOS

launchctl setenv OLLAMA_ORIGINS "chrome-extension://*"

Sau đó thoát Ollama từ thanh menu và mở lại.

Windows: thêm biến môi trường người dùng tên OLLAMA_ORIGINS với giá trị chrome-extension://*, rồi thoát Ollama từ thanh tác vụ và khởi động lại.

Linux (systemd): chạy sudo systemctl edit ollama.service, thêm các dòng dưới đây, rồi chạy sudo systemctl restart ollama.

[Service]
Environment="OLLAMA_ORIGINS=chrome-extension://*"

3. Thêm vào Duet Translate

1. Ở Nhà cung cấp API, nhấp Thêm nhà cung cấp và chọn Ollama.
2. Giữ Base URL là http://127.0.0.1:11434/, trừ khi Ollama chạy trên máy khác.
3. Nhấp Lấy các mô hình có sẵn và chọn mô hình bạn đã tải.
4. Nhấp Kiểm tra kết nối, rồi chọn các tính năng sẽ dùng nó.

Mẹo

• Mô hình cục bộ chậm hơn dịch vụ đám mây. Giảm Số đoạn tối đa mỗi yêu cầu trong Hàng đợi dịch nếu việc dịch bị quá thời gian chờ.
• Chế độ suy nghĩ được tắt với mô hình Ollama, nên chúng trả lời ngay.