अपने सर्वर के बदलावों के पीछे का AI मॉडल चुनें

PrimeCircuit आपको किसी एक दिमाग़ से नहीं बाँधता। मॉडल आप चुनते हैं: मानक API एंडपॉइंट से क्लाउड AI प्रदाता, आपके अपने PC पर चलने वाला मॉडल या बिल्ट-इन मॉडल, और अपना चुनाव आप कभी भी बदल सकते हैं।

मॉडल जोड़ने के तीन तरीके

क्लाउड AI प्रदाता

क्लाउड AI प्रदाता का एंडपॉइंट और API कुंजी डालें। यह बड़े बदलावों और लंबी प्लगइन फ़ाइलों के लिए ठीक रहता है, क्योंकि ऐसे मॉडल एक बार में ज़्यादा पढ़ सकते हैं। कुंजी आपके PC पर रहती है, लेकिन आपके प्रॉम्प्ट आपके चुने प्रदाता तक जाते हैं, इसलिए उनमें निजी डेटा न रखें। प्रदाता अलग से शुल्क ले सकता है।

आपके PC पर मॉडल

आपके PC पर लोकली चलने वाला मॉडल सब कुछ मशीन पर ही रखता है, इसलिए कुछ बाहर नहीं जाता। यह निजी सर्वर फ़ोल्डर और ऑफ़लाइन काम के लिए ठीक है। छोटे लोकल मॉडल लंबी फ़ाइलों में अटक सकते हैं, इसलिए उन्हें छोटे, साफ़ काम दें, जैसे एक बार में 1 कॉन्फ़िग बदलाव।

बिल्ट-इन मॉडल

बिल्ट-इन मॉडल को न एंडपॉइंट चाहिए, न API कुंजी, इसलिए छोटी कॉन्फ़िग फ़ाइल पर PrimeCircuit आज़माने का यह आसान तरीका है। लंबे प्लगइन या पेचीदा लॉजिक के लिए बाद में बड़े मॉडल की ज़रूरत पड़ सकती है। बदलने में सेटिंग्स में बस एक चक्कर लगता है।

«टेस्ट» से कनेक्शन जाँचें

एंडपॉइंट डालने के बाद «टेस्ट» बटन दबाएँ। वह एक छोटा अनुरोध भेजता है, रिस्पॉन्स टाइम दिखाता है और कॉन्टेक्स्ट विंडो बताता है, यानी मॉडल एक बार में कितना टेक्स्ट पढ़ सकता है। बड़ी प्लगइन फ़ाइल के लिए बड़ी विंडो चाहिए, इसलिए लंबा काम शुरू करने से पहले यह संख्या देख लें।

काम के हिसाब से मॉडल चुनें

रीफ़ैक्टर और जटिल लॉजिक के लिए बड़ा मॉडल लें, और 1 मान बदलने जैसे छोटे बदलावों के लिए छोटा। जब कोई एक कदम बहुत कठिन हो, तब run_on_model सिर्फ़ उसी कदम को बड़े मॉडल के पास भेजता है, जबकि बाकी चैट आपके सामान्य मॉडल पर रहती है।

मॉडलों की गुणवत्ता अलग-अलग होती है। हर बार बदलाव स्वीकार करते समय diff पढ़ें, और जब तक भरोसा न बने कि मॉडल आपकी फ़ाइलों को कैसे संभालता है, Ask first चालू रखें।