34개 무료 LLM 제공사의 한도를 하나로 묶어 개인 실험용 추론을 가능하게 합니다
이 도구는 이들을 하나의 OpenAI 호환 엔드포인트로 통합해, 기존 클라이언트 설정만 바꾸면 바로 쓸 수 있게 합니다. 요청이 한 제공사에서 막히면 자동으로 다음으로 넘어가며, 각 키의 사용량을 추적해 한도를 넘지 않게 조절합니다.
단일 엔드포인트로 통합된 무료 모델 풀
이 저장소는 34개 제공사의 635개 무료 모델 엔드포인트를 하나의 /v1 API로 묶습니다. OpenAI, Anthropic, Gemini, Ollama 호환 클라이언트는 모두 이 단일 주소로 요청을 보낼 수 있습니다. 라우터는 각 요청마다 현재 가장 적합한 모델을 선택하고, 429(요청 초과)나 5xx 오류가 나면 쿨다운을 거친 뒤 다음 모델로 재시도합니다. 제공사 키는 AES-256-GCM으로 암호화되어 SQLite에 저장되며, 앱은 통합된 단일 베어러 토큰만 사용합니다.
자동 업데이트되는 모델 카탈로그
무료 티어는 주 단위로 모델이 추가되거나 한도가 바뀌지만, 이 도구는 그 변화를 자동으로 추적합니다. 라우터는 freellmapi.co에서 서명된 카탈로그를 하루 두 번 받아 새 모델, 한도 변경, 호환성 수정 사항을 로컬 데이터베이스에 반영합니다. 무료 사용자는 월간 스냅샷을 받아 모델이 라이브 피드에 추가된 지 30일 후에 반영되며, 프리미엄 사용자는 당일 업데이트를 받습니다. 이 과정은 git pull 없이 자동으로 이루어집니다.
코딩 에이전트 및 클라이언트 연동
Claude Code, Codex CLI, Aider, Cursor 등 주요 코딩 에이전트와 OpenAI 호환 클라이언트를 지원합니다. npx freellmapi setup-claude 같은 명령어로 기존 설정을 백업하고 새 설정을 병합해 자동으로 연동할 수 있습니다. Claude Code와 Codex는 자격 증명을 설정 파일에 남기지 않고 자식 프로세스에만 주입하는 제로 퍼시스턴스 런처도 제공합니다. Zed와 JetBrains AI는 Ollama 에뮬레이션을 통해, Gemini CLI는 네이티브 /v1beta 포맷으로 연결됩니다.
설치 및 실행 환경
Windows와 macOS에서는 릴리스 페이지의 데스크톱 앱 설치 파일을 내려받아 트레이 아이콘에서 바로 실행할 수 있습니다. Node.js 20 이상만 있으면 Windows, macOS, Linux 서버, 라즈베리파이 등 ARM SBC에서도 동작하며, 유휴 상태 메모리 사용량은 약 40MB입니다. 대시보드는 60개 언어를 지원하며, 브라우저 언어를 자동 감지해 표시합니다.
개인 실험용 도구로서의 한계
이 프로젝트는 개인 실험과 학습을 위한 것이며, 프로덕션 환경 사용을 전제로 하지 않습니다. 프런티어 모델은 제공되지 않고, 지연 시간은 제공사에 따라 달라지며 SLA가 없습니다. 하루가 깊어질수록 상위 모델들이 일일 한도에 도달해 유효 지능이 떨어질 수 있으며, UTC 자정에 리셋됩니다. 실제 서비스로 배포할 계획이라면 유료 API로 전환해야 하며, 각 제공사의 서비스 약관은 이 프록시를 통해 트래픽이 흐를 때도 그대로 적용됩니다.
