파이썬 문법으로 GPU와 CPU 코어를 직접 짜는 언어
복잡한 하드웨어 최적화를 고민하지 않고도, 파이썬처럼 읽기 쉬운 코드로 고성능 연산 코어를 작성할 수 있습니다. TileLang은 TVM 컴파일러 위에 얹은 도메인 특화 언어로, 개발자가 생산성에 집중하도록 설계되었습니다. GEMM이나 FlashAttention 같은 복잡한 연산을 낮은 수준의 최적화 없이도 최신 성능으로 구현할 수 있게 해줍니다.
최근 업데이트: Ascend 950 지원과 LSP 공개
이를 통해 네이티브 코드 생성, 자동 스케줄링, SIMD/SIMT 벡터 프로그래밍이 가능해졌습니다. 같은 달 8월 4일에는 언어 서버 프로토콜(LSP) 구현이 오픈소스로 공개되어, 버퍼 형태와 데이터 타입에 대한 인라인 힌트 및 정밀한 진단 기능을 제공합니다.
파이썬 문법으로 쓰는 하드웨어 최적화
TileLang은 파이썬적 문법을 사용하지만, 내부적으로는 TVM 컴파일러 인프라를 기반으로 동작합니다. 개발자는 @tilelang.jit 데코레이터를 사용해 커널을 정의하고, T.Pipelined나 T.gemm 같은 함수로 하드웨어 연산을 표현합니다. 컴파일러는 이 코드를 특정 하드웨어에 맞는 최적화된 코드로 변환합니다. 예를 들어 FP16 GEMM 커널을 작성할 때, 개발자는 블록 크기와 파이프라인 단계를 지정하기만 하면 됩니다. 컴파일러가 나머지 최적화를 처리하므로, 개발자는 논리 구조에만 집중할 수 있습니다.
지원하는 하드웨어와 백엔드
TileLang은 NVIDIA CUDA를 주요 백엔드로 지원하며, SM70부터 SM120까지의 아키텍처를 커버합니다. AMD ROCm/HIP, Apple Metal, Huawei Ascend 950도 공식적으로 지원됩니다. CPU 연산은 LLVM 백엔드를 통해 실험적으로 지원되며, WebGPU와 NVIDIA CuTe DSL도 실험 단계에 있습니다. MetaX, Moore Threads, HYGON, Sunrise-AI 등 다른 하드웨어는 생태계 어댑터로 별도 저장소에서 개발되고 있습니다. Linux x86-64/AArch64, Windows x86-64, macOS arm64에서 사전 빌드된 휠을 사용할 수 있습니다.
설치와 시작하기
PyPI에서 최신 안정 버전은 pip install tilelang 명령으로 설치할 수 있습니다. AMD GPU를 사용하는 경우, 먼저 ROCm 버전의 PyTorch를 설치한 뒤 TileLang을 설치해야 합니다. 소스 빌드나 Docker 사용, ROCm 설정 등 더 자세한 내용은 설치 가이드를 참고해야 합니다. 나이트리 휠은 최신 기능을 제공하지만, 공식 릴리스보다 안정성이 낮을 수 있습니다.
이 도구를 선택하기 전
TileLang은 GPU/CPU/NPU 코어 개발에 특화되어 있어, 일반적인 파이썬 스크립트나 데이터 처리 작업에는 적합하지 않습니다. 하드웨어 최적화에 대한 깊은 이해가 없어도 고성능 코드를 작성할 수 있지만, 특정 아키텍처의 특수 기능(TMA, WGMMA 등)을 사용하려면 해당 GPU 아키텍처가 필요합니다. Ascend 950을 사용하려면 CANN과 torch_npu가 필요하며, LLVM CPU 백엔드는 LLVM 15 이상이 필요합니다. 프로젝트는 빠르게 발전하고 있으므로, 특정 버전을 사용할 때 호환성 문제를 겪을 수 있습니다. 성능 벤치마크는 tilelang-benchmark 저장소에서 확인할 수 있으며, H100, A100, MI300X 등 다양한 하드웨어에서 우수한 성능을 보여줍니다.