5 min read

무료 LLM 풀 만들기 — 36개 무료 모델을 직접 호출해 고른 조합

36개 무료 모델을 직접 호출해 측정한 성적표와 막히지 않는 백업 풀 구성법.

강의 커버

AI KOREA 24 무료 강의 02 · 초보자용 · 준비물 0원

2026-10-08 실측. 광고가 아니라 직접 API를 호출해 잰 성적표입니다.

이 강의에서 배우는 것

  1. 무료로 쓸 수 있는 LLM 제공자 3곳(Kilo·NVIDIA NIM·OpenRouter)을 구분합니다.
  2. 직접 측정한 평가 결과를 보고 용도별 모델을 고릅니다.
  3. 하나가 막혀도 멈추지 않는 "폴백 체인"을 구성합니다.

준비물

  • 1번 강의에서 설치한 OpenCode (없어도 됩니다)
  • 이메일 주소 1개 (각 제공자 가입용)
  • 비용 0원 — 이 강의의 모든 모델은 무료枠으로 씁니다.

왜 이걸 배우나요

무료 모델은 공짜가 아니라 불안정합니다. 지금 되던 모델이 한 시간 뒤에 429(과부하)를 뱉습니다. 그래서 "좋은 무료 모델 하나"를 찾는 것은 의미가 없습니다. 막히면 다음으로 넘어가는 풀을 만드는 것이 정답입니다. 이 강의는 그 풀을 실측 데이터로 만드는 법입니다.

1. 무료 LLM 제공자 3곳

| 제공자 | 특징 | 가입 |

|---|---|---|

| NVIDIA NIM | 빅테크 직접 제공. nemotron 계열이 강함 | build.nvidia.com |

| Kilo | 무료 모델 게이트웨이. :free 접미 모델 제공 | kilo.ai |

| OpenRouter | 수많은 모델의 통합 창구. :free 모델 다수 | openrouter.ai |

세 곳 모두 API 키를 발급받아 환경변수나 OpenCode 설정에 넣는 방식은 같습니다. 키는 무료로 발급됩니다.

실습: 세 곳에 가입하고 API 키를 하나씩 발급받아 메모장에 적어두세요. 키 값은 남에게 보여주지 않습니다.

2. 평가 방법 — 광고 문구가 아니라 실행으로 잰다

2026-10-08에 실제로 돌린 평가의 방법입니다.

  1. 접근성: 36개 무료 모델에 실제로 API를 호출해 봅니다. 호출 자체가 안 되는 모델이 절반입니다.
  2. 속도: 응답 시간을 잽니다.
  3. 능력: 코딩 과제 4건(함수 작성·버그 수정·지시 이행·한국어 요약)을 시키고, 나온 코드를 직접 실행해서 채점합니다.

"벤치마크 점수가 높다"는 말은 믿지 않습니다. 내 용도의 과제를 직접 시켜보는 것만이 진짜 평가입니다.

3. 실측 결과 — 최종 백업 풀

1순위: nvidia/nemotron-3-nano-550b-a55b (NVIDIA NIM 직접)

  • 속도: 2.8~5.3초
  • 코딩: 함수 작성 100점, 버그 수정 100점 (실행 검증 완료)
  • 지시 이행: 100점, 한국어: 75점
  • 총점 375/400 — 평가 모델 중 최고
  • 주의: 추론형 모델이라 max-tokens를 2000 이상으로 넉넉히 줘야 합니다. 토큰이 모자라면 추론만 하고 답을 안 냅니다.
  • 판정: 백업 1순위. 코딩 실력은 유료급

2순위: stepfun/step-3.7-flash:free (Kilo)

  • 속도: 3.4초, 한국어: 90점
  • 코딩: 함수 작성·버그 수정 100점
  • 단점: 지시 이행 33점 — 복합 조건에 약합니다. 지시를 잘게 쪼개서 주면 해결됩니다.
  • 판정: NIM이 안 될 때 차선책. 응답이 가볍고 빠릅니다.

3순위: nvidia/nemotron-3-super-120b-a12b:free (OpenRouter)

  • 속도: 2.7초로 가장 빠릅니다.
  • 코딩 실력은 확인됐으나, 평가 당일 429가 계속 발생했습니다. 시간대별 가용성 편차가 있습니다.
  • 판정: 심야 등 한가한 시간대에 씁니다.

탈락한 모델들 (이유 포함)

| 모델 | 탈락 사유 |

|---|---|

| google/gemma-4-26b-a4b-it:free 등 | 429 과부하 지속 |

| thinkingmachines/inkling 계열 | 403 접근 거부 |

| minimax/minimax-m3 (Kilo) | 402 — 유료 전환됨 |

| kilocode/ 접두어 16개 | Kilo에서 인식 안 됨 |

4. 폴백 체인 구성 — 하나가 막혀도 멈추지 않기

무료 모델 운용의 핵심은 체인입니다. 권장 순서는 다음과 같습니다.

step-3.7-flash (Kilo) → nemotron-3-super (OpenRouter) → laguna-xs-2.1 → apodex-1.1-mini

OpenCode 설정에서 모델을 여러 개 등록해 두고, 응답이 실패하면 다음 모델로 넘어가게 합니다. 단일 모델에 의존하면 429 한 번에 작업이 멈춥니다.

실습: OpenCode 설정에 위 순서대로 모델 3개를 등록하고, 일부러 첫 번째 모델의 키를 빼고 호출해 보세요. 두 번째로 넘어가는지 확인합니다.

5. 운용 시 주의사항 3가지

  1. 토큰 설정: 추론형 모델(nemotron 계열)은 max-tokens를 500 이상, 넉넉히는 2000으로 줍니다. 작게 주면 reasoning 필드에만 추론이 담기고 정작 답(content)이 비어 옵니다.
  2. 지시 쪼개기: step-3.7-flash 같은 가벼운 모델에게는 복합 지시를 주지 않습니다. "이것 하고, 저것 하고"가 아니라 한 번에 하나씩 줍니다.
  3. 재측정: 무료 모델의 가용성은 시간대별로 바뀝니다. 한 달에 한 번은 심야 시간대에 다시 호출해 보고 풀을 갱신합니다.

흔한 실수 Top 3

  1. "무료 모델 하나면 되겠지" — 안 됩니다. 429는 예고 없이 옵니다. 체인이 답입니다.
  2. 토큰을 아껴서 추론형 모델에 작게 줌 — 답이 안 옵니다. 추론형은 넉넉히 줘야 합니다.
  3. 한 번 측정한 결과를 영원히 믿음 — 무료 모델 지형은 매달 바뀝니다.

정리

  • 제공자 3곳: NVIDIA NIM · Kilo · OpenRouter (:free 모델)
  • 1순위 nemotron-3-nano-550b-a55b (375/400), 2순위 step-3.7-flash:free, 3순위 nemotron-3-super-120b-a12b:free
  • 운용은 폴백 체인으로. 단일 모델 의존 금지

다음 강의에서는 이 LLM들을 실제로 굴려 돈을 버는 파이프라인, Threads 자동발행을 만듭니다. 30일 392만 조회수를 만든 실전 기록 그대로입니다.

---

*AI KOREA 24 무료 강의 · Operated by 스타일팩토리9*

Continue reading