Sunucu düzenlemelerinin arkasındaki yapay zekâ modelini seç

PrimeCircuit seni tek bir beyne kilitlemez. Modeli sen seçersin: standart bir API uç noktasından bir bulut yapay zekâ sağlayıcısı, kendi bilgisayarında çalışan bir model veya yerleşik model; seçimini de istediğin zaman değiştirebilirsin.

Model bağlamanın üç yolu

Bir bulut yapay zekâ sağlayıcısı

Bir bulut yapay zekâ sağlayıcısının uç noktasını ve API anahtarını gir. Bu, büyük düzenlemelere ve uzun plugin dosyalarına uyar, çünkü bu modeller bir seferde daha fazlasını okuyabilir. Anahtar bilgisayarında kalır ama promptların seçtiğin sağlayıcıya gider, bu yüzden özel verileri onlara koyma. Sağlayıcı ayrıca ücret alabilir.

Bilgisayarındaki bir model

Bilgisayarında yerel olarak çalışan bir model her şeyi makinede tutar, yani hiçbir şey dışarı çıkmaz. Bu, özel sunucu klasörlerine ve çevrimdışı çalışmaya uyar. Daha küçük yerel modeller uzun dosyalarda zorlanabilir, bu yüzden onlara her seferinde 1 config değişikliği gibi küçük ve net işler ver.

Yerleşik model

Yerleşik model bir uç noktaya ve API anahtarına ihtiyaç duymaz; bu da PrimeCircuit'i küçük bir config dosyasında denemenin yumuşak bir yoludur. Uzun pluginler veya zor mantık için ileride daha büyük bir model isteyebilirsin. Geçiş, ayarlara tek bir uğrayışla olur.

Bağlantıyı Test ile kontrol et

Bir uç nokta girdikten sonra Test düğmesine bas. Kısa bir istek gönderir, yanıt süresini gösterir ve bağlam penceresini, yani modelin bir seferde ne kadar metin okuyabildiğini bildirir. Büyük bir plugin dosyası daha büyük bir pencere ister, bu yüzden uzun bir işe başlamadan önce sayıya bak.

Modeli işe göre seç

Yeniden düzenlemeler ve karmaşık mantık için daha büyük, 1 değer değiştirmek gibi küçük düzenlemeler için daha küçük bir model kullan. Tek bir adım fazla zor olduğunda run_on_model yalnızca o adımı daha büyük bir modele gönderir, sohbetin geri kalanı her zamanki modelinde kalır.

Kalite modelden modele değişir. Bir değişikliği kabul ettiğin her seferde diff'i oku ve bir modelin dosyalarını nasıl ele aldığına güvenene kadar Ask first'ü açık tut.