서버 수정 뒤에서 움직일 AI 모델 고르기

PrimeCircuit은 하나의 모델에 묶어 두지 않아요. 모델은 당신이 골라요. 표준 API 엔드포인트를 쓰는 클라우드 AI 제공업체, 내 PC에서 돌아가는 모델, 내장 모델 중 무엇이든 되고, 선택은 언제든 바꿀 수 있어요.

모델을 연결하는 세 가지 방법

클라우드 AI 제공업체

클라우드 AI 제공업체의 엔드포인트와 API 키를 입력해요. 이런 모델은 한 번에 더 많이 읽을 수 있어서, 큰 수정이나 긴 플러그인 파일에 알맞아요. 키는 내 PC에 남지만 프롬프트는 고른 제공업체로 가니까, 개인 데이터는 넣지 마세요. 제공업체가 요금을 따로 받을 수 있어요.

내 PC의 모델

내 PC에서 로컬로 돌아가는 모델은 모든 걸 기기 안에 두니까, 밖으로 나가는 건 없어요. 비공개 서버 폴더나 오프라인 작업에 알맞아요. 작은 로컬 모델은 긴 파일이 버거울 수 있으니까, 한 번에 설정 1개만 바꾸는 식으로 작고 분명한 일을 주세요.

내장 모델

내장 모델은 엔드포인트도 API 키도 필요 없어서, 작은 설정 파일로 PrimeCircuit을 부담 없이 써 보기 좋아요. 긴 플러그인이나 까다로운 로직에는 나중에 더 큰 모델이 필요할 수 있어요. 바꾸는 건 설정에 한 번 들어가면 돼요.

Test로 연결 확인하기

엔드포인트를 입력한 뒤 Test 버튼을 눌러요. 짧은 요청을 보내고, 응답 시간을 보여 주고, 컨텍스트 윈도우, 즉 모델이 한 번에 읽을 수 있는 텍스트의 양을 알려 줘요. 큰 플러그인 파일에는 더 큰 윈도우가 필요하니까, 긴 작업을 시작하기 전에 숫자를 확인하세요.

일에 맞는 모델 고르기

리팩터링과 복잡한 로직에는 더 큰 모델을, 값 1개를 바꾸는 것 같은 작은 수정에는 더 작은 모델을 써요. 한 단계가 너무 어려우면 run_on_model이 그 단계만 더 큰 모델로 보내고, 채팅의 나머지는 평소 쓰던 모델에 남아 있어요.

모델마다 품질이 달라요. 변경을 수락할 때마다 diff를 확인하고, 모델이 내 파일을 어떻게 다루는지 믿을 수 있을 때까지 Ask first를 켜 두세요.