Chọn mô hình AI đứng sau các chỉnh sửa server của bạn

PrimeCircuit không khóa bạn vào một bộ não duy nhất. Bạn chọn mô hình: nhà cung cấp AI đám mây qua một endpoint API chuẩn, mô hình chạy trên chính máy của bạn, hoặc mô hình tích hợp sẵn, và bạn có thể đổi lựa chọn bất cứ lúc nào.

Ba cách kết nối một mô hình

Nhà cung cấp AI đám mây

Nhập endpoint và khóa API từ một nhà cung cấp AI đám mây. Cách này hợp với các chỉnh sửa lớn và file plugin dài, vì những mô hình như vậy đọc được nhiều hơn cùng lúc. Khóa ở lại trên máy của bạn, nhưng lời nhắc đi đến nhà cung cấp bạn đã chọn, nên đừng đưa dữ liệu riêng tư vào đó. Nhà cung cấp có thể tính phí riêng.

Mô hình trên máy của bạn

Mô hình chạy cục bộ trên máy giữ mọi thứ trong máy, nên không có gì rời đi. Cách này hợp với thư mục server riêng tư và làm việc ngoại tuyến. Các mô hình cục bộ nhỏ hơn có thể vất vả với file dài, vì vậy hãy giao cho chúng việc nhỏ và rõ ràng, như mỗi lần đổi 1 giá trị config.

Mô hình tích hợp sẵn

Mô hình tích hợp sẵn không cần endpoint và không cần khóa API, nên là cách nhẹ nhàng để thử PrimeCircuit trên một file config nhỏ. Với plugin dài hoặc logic khó, sau này bạn có thể muốn một mô hình lớn hơn. Chuyển đổi chỉ cần vào phần cài đặt một lần.

Kiểm tra kết nối bằng Test

Sau khi nhập endpoint, hãy bấm nút Test. Nó gửi một yêu cầu ngắn, hiện thời gian phản hồi và báo cửa sổ ngữ cảnh, tức là lượng văn bản mà mô hình đọc được cùng lúc. Một file plugin lớn cần cửa sổ lớn hơn, nên hãy kiểm tra con số trước khi bắt đầu một việc dài.

Chọn mô hình hợp với việc

Dùng mô hình lớn hơn cho việc tái cấu trúc và logic phức tạp, và mô hình nhỏ hơn cho các chỉnh sửa nhỏ như đổi 1 giá trị. Khi một bước quá khó, run_on_model chỉ gửi đúng bước đó sang mô hình lớn hơn trong khi phần còn lại của cuộc chat vẫn ở mô hình quen thuộc của bạn.

Chất lượng khác nhau giữa các mô hình. Hãy xem diff mỗi khi bạn chấp nhận một thay đổi, và để Ask first bật cho đến khi bạn tin cách mô hình xử lý file của bạn.