추론 속도를 높이고 모델 크기를 줄이는 최적화 기술의 통합 허브
NVIDIA Model Optimizer는 양자화, 가지치기, 증류, 신경망 구조 탐색, 추측 디코딩 등 최신 모델 최적화 기술을 하나로 모은 라이브러리입니다.
깃허브 일간 트렌딩에 오른 저장소를, AI가 README 전문을 읽고 쓴 한국어 소개 글입니다. 매일 새 글이 쌓입니다. Atom 피드
NVIDIA Model Optimizer는 양자화, 가지치기, 증류, 신경망 구조 탐색, 추측 디코딩 등 최신 모델 최적화 기술을 하나로 모은 라이브러리입니다.
ponytail은 AI 코딩 에이전트가 과잉 엔지니어링을 멈추고 최소한의 코드를 작성하도록 유도하는 스킬입니다.
CLI-Anything은 데스크톱 앱이나 백엔드 소프트웨어를 AI 에이전트가 이해하고 실행할 수 있는 명령줄 인터페이스(CLI)로 변환하는 오픈소스 프로젝트입니다.
vphone-cli는 Apple Silicon Mac에서 Apple의 Virtualization.framework와 PCC 연구용 VM 인프라를 이용해 가상 iPhone을 생성하고 실행하는 도구입니다.
Soup은 LLM의 미세 조정과 후 학습을 하나의 명령어로 처리하는 오픈소스 도구입니다.