เลือกโมเดล AI ที่อยู่เบื้องหลังการแก้ไขเซิร์ฟเวอร์ของคุณ
PrimeCircuit ไม่ผูกคุณไว้กับสมองตัวเดียว คุณเลือกโมเดลเอง ไม่ว่าจะเป็นผู้ให้บริการ AI บนคลาวด์ผ่าน API endpoint มาตรฐาน โมเดลที่รันบนพีซีของคุณเอง หรือโมเดลในตัว และเปลี่ยนตัวเลือกได้ทุกเมื่อ
สามวิธีเชื่อมต่อโมเดล
ผู้ให้บริการ AI บนคลาวด์
ใส่ endpoint และ API key จากผู้ให้บริการ AI บนคลาวด์ วิธีนี้เหมาะกับการแก้ไขใหญ่และไฟล์ปลั๊กอินยาว เพราะโมเดลแบบนี้อ่านได้มากกว่าในครั้งเดียว key อยู่บนพีซีของคุณ แต่พรอมต์ของคุณไปที่ผู้ให้บริการที่เลือก จึงไม่ควรใส่ข้อมูลส่วนตัวลงไป ผู้ให้บริการอาจคิดค่าบริการแยกต่างหาก
โมเดลบนพีซีของคุณ
โมเดลที่รันในเครื่องบนพีซีของคุณเก็บทุกอย่างไว้ในเครื่อง จึงไม่มีอะไรออกไปข้างนอก เหมาะกับโฟลเดอร์เซิร์ฟเวอร์ส่วนตัวและการทำงานออฟไลน์ โมเดลในเครื่องที่เล็กกว่าอาจรับไฟล์ยาวไม่ไหว จึงควรให้งานเล็กที่ชัดเจน เช่นเปลี่ยน config ครั้งละ 1 ค่า
โมเดลในตัว
โมเดลในตัวไม่ต้องใช้ endpoint และไม่ต้องมี API key จึงเป็นวิธีเริ่มลองใช้ PrimeCircuit กับไฟล์ config เล็ก ๆ อย่างสบาย ๆ สำหรับปลั๊กอินยาวหรือตรรกะที่ซับซ้อน คุณอาจต้องการโมเดลที่ใหญ่กว่าในภายหลัง การสลับใช้เวลาเพียงเข้าไปที่การตั้งค่าครั้งเดียว
ตรวจการเชื่อมต่อด้วย Test
หลังใส่ endpoint แล้ว ให้กดปุ่ม Test มันส่งคำขอสั้น ๆ แสดงเวลาตอบสนอง และรายงานหน้าต่างบริบท ซึ่งคือปริมาณข้อความที่โมเดลอ่านได้ในครั้งเดียว ไฟล์ปลั๊กอินขนาดใหญ่ต้องใช้หน้าต่างที่ใหญ่กว่า ดังนั้นให้ตรวจตัวเลขก่อนเริ่มงานยาว
เลือกโมเดลให้เหมาะกับงาน
ใช้โมเดลใหญ่กับการ refactor และตรรกะซับซ้อน และใช้โมเดลเล็กกับการแก้เล็ก ๆ เช่นเปลี่ยน 1 ค่า เมื่อขั้นตอนเดียวยากเกินไป run_on_model จะส่งเฉพาะขั้นตอนนั้นไปยังโมเดลที่ใหญ่กว่า ขณะที่ส่วนที่เหลือของแชตยังอยู่กับโมเดลที่คุณใช้เป็นประจำ
คุณภาพต่างกันไปตามโมเดล ตรวจ diff ทุกครั้งที่ยอมรับการเปลี่ยนแปลง และเปิด Ask first ไว้จนกว่าคุณจะไว้ใจวิธีที่โมเดลจัดการไฟล์ของคุณ