깃허브 트렌드
순수 C 기반 MoE 추론 엔진
소비자 하드웨어에서 대규모 MoE 모델을 실행한다. 저장소, RAM, VRAM을 단일 추론 계층으로 묶어 전문가를 디스크에서 스트리밍한다.
깃허브에서 보기 → · 오늘 판