여러 AI 모델을 하나의 창에서 다루고, 코드를 실행하며, 에이전트를 직접 만드는 셀프호스팅 플랫폼
브라우저에서 여러 AI 모델을 오가며 대화하고, 파일이 있는 작업 공간에서 코드를 실행하며, 필요한 기능을 붙여 쓰는 화면을 상상해 보세요. LibreChat은 이러한 기능을 하나로 묶어 주는 셀프호스팅용 AI 채팅 플랫폼입니다. 기업이나 개인이 자신의 서버에서 AI 인프라를 직접 통제하고 싶을 때 쓰입니다.
v0.8.8에서 새로 생긴 것들
최근 업데이트인 v0.8.8에서는 에이전트 관리 API가 베타 버전으로 추가되어, 에이전트와 스킬을 프로그램으로 만들거나 수정할 수 있게 되었습니다. 또한 에이전트가 파일 시스템을 탐색하고 코드를 실행할 수 있는 '부착된 워크스페이스' 기능이 실험적으로 도입되었습니다. 대화 맥락이 가득 차기 전에 수동으로 요약하는 기능과, 모델 사용량과 비용을 한눈에 볼 수 있는 관찰 도구도 새로 생겼습니다. GPT-6 Astra와 GPT-6.1 Sol 모델 지원도 함께 업데이트되었습니다.
모델과 기능을 하나로 묶는 방식
OpenAI, Anthropic, Google, AWS Bedrock 등 주요 AI 제공사의 모델을 하나의 인터페이스에서 선택해 쓸 수 있습니다. 로컬에서 돌리는 Ollama나 원격 API도 연결할 수 있어, 특정 클라우드에 묶이지 않고 다양한 모델을 비교하며 대화할 수 있습니다. 웹 검색 결과를 대화에 반영하거나, 이미지를 생성하고 편집하는 기능도 기본으로 포함되어 있습니다. 대화 중 모델이나 설정을 바꾸거나, 이전 메시지를 분기시켜 다른 방향으로 대화를 이어갈 수도 있습니다.
에이전트와 코드 실행 환경
코드를 안전하게 실행할 수 있는 샌드박스 환경이 제공되어, Python, Node.js, Go 등 여러 언어로 코드를 작성하고 결과를 바로 확인할 수 있습니다. 파일 업로드와 다운로드도 이 안에서 처리됩니다. '에이전트' 기능을 통해 특정 작업을 수행하도록 지시 묶음인 스킬을 만들거나, 커뮤니티에서 만든 에이전트를 마켓플레이스에서 찾아 쓸 수 있습니다. MCP(Model Context Protocol) 서버를 연결해 외부 도구와 연동하는 것도 지원합니다.
운영과 보안 측면에서의 특징
여러 사용자가 동시에 접속해도 안전하도록 OAuth2, LDAP, 이메일 인증 등 다양한 보안 방식을 지원합니다. 관리자 패널을 통해 사용자 권한과 설정을 실시간으로 변경할 수 있어, 재배포 없이 운영 환경을 조정할 수 있습니다. Redis를 활용해 서버를 여러 대로 확장하는 것도 가능하며, 연결이 끊겨도 대화 내용이 다시 이어지는 복구 기능도 갖추고 있습니다. OpenTelemetry와 Langfuse를 통해 시스템의 상태를 추적하고 로그를 분석할 수 있습니다.
직접 서버를 돌릴 준비가 되어 있다면
이 도구는 사용자가 자신의 서버를 직접 관리할 의지와 능력이 있을 때 가장 빛을 발합니다. Docker Compose를 통해 쉽게 설치할 수 있지만, 여러 AI 모델 API 키를 준비하고, 보안 설정을 점검하며, 서버 자원을 모니터링하는 일은 사용자의 몫입니다. 특히 '부착된 워크스페이스'나 에이전트 실행 기능은 실험 단계이므로, 중요한 데이터나 프로덕션 환경에서 쓰기 전에 충분히 테스트해야 합니다. 프라이버시를 중시하고 AI 인프라를 직접 통제하고 싶은 개발자나 팀에게 적합합니다.
