깃허브 트렌드

jundot/omlx

Apple Silicon용 LLM 추론 서버

Apple Silicon에서 LLM 추론을 수행하며 연속 배치 처리와 SSD 캐싱을 적용한다. macOS 메뉴 바에서 모델을 관리하고 컨텍스트 한도를 설정한다.

별

22,100

7일 동안 늘어난 별

+300

기여자

269

포크

1,900

최근 30일 가운데 트렌딩에 오른 날

1일

깃허브에서 보기 → · 오늘 판