AI 에이전트의 모든 행동을 코드 레벨에서 통제하고 감사할 수 있게 하는 도구
에이전트가 이메일을 보내거나 데이터베이스를 수정할 때, 그 행위가 허용되는지 실시간으로 검사하고 기록을 남기는 장치가 필요합니다. 이 도구는 에이전트의 모든 도구 호출을 가로채 정책 기반으로 허용 또는 거부하며, 누가 어떤 행위를 했는지 추적할 수 있는 감사 로그를 생성합니다. 프롬프트로 '잘해라'라고 요청하는 대신, 코드로 '이것은 못 한다'고 강제하는 방식입니다.
프롬프트 안전성의 한계와 결정적 차단
대부분의 AI 안전 장치는 프롬프트 레벨에서 작동하지만, 이는 확률적 시스템에 대한 정중한 요청에 불과합니다. 연구에 따르면 적대적 공격을 통해 프롬프트 주입을 방어하는 것은 불가능에 가깝습니다. 이 도구는 모델의 의도가 네트워크로 전달되기 전에 결정적인 애플리케이션 코드로 모든 행위를 가로채어 차단합니다. 정책이 거부한 행위는 '가능성이 낮다'가 아니라 구조적으로 불가능해집니다. 이는 에이전트가 잘못 행동하도록 요청하는 것과, 잘못 행동할 수 없게 만드는 것의 차이입니다.
정책 엔진과 감사 추적의 결합
도구의 모든 호출은 YAML 정책 파일을 기준으로 평가됩니다. 허용된 행위는 실행되고, 거부된 행위는 예외를 발생시킵니다. 동시에 모든 결정은 변조가 불가능한 감사 로그에 기록되어 어떤 정책이 적용되었는지, 에이전트가 무엇을 요청했는지, 왜 허용 또는 거부되었는지를 증명할 수 있습니다. 이는 감사관이나 규제 기관이 요구하는 증거를 자동으로 생성하는 과정입니다. 다중 에이전트 시스템에서 단일 API 키를 공유하더라도, 각 에이전트의 행위를 개별적으로 식별하고 추적할 수 있습니다.
다양한 언어와 프레임워크 지원
Python, TypeScript, .NET, Rust, Go 등 5가지 언어의 SDK를 제공하며, Python은 전체 스택을 지원합니다. Microsoft Agent Framework, Semantic Kernel, AutoGen, LangGraph, CrewAI 등 주요 에이전트 프레임워크와 통합됩니다. Claude Code나 Copilot CLI와 같은 개발자 도구에도 플러그인 형태로 설치할 수 있습니다. v4.1.0부터는 45개의 패키지가 5개의 상위 배포판으로 통합되어 설치와 관리가 단순해졌습니다. 각 언어 SDK는 정책, 신원, 신뢰, 감사라는 핵심 거버넌스 기능을 구현합니다.
컴플라이언스 표준 준수와 보안 경계
OWASP Agentic AI Top 10의 모든 위험 카테고리를 결정적 제어 방식으로 대응하며, NIST AI RMF, EU AI Act, SOC 2 등 주요 표준과의 정합성을 제공합니다. 992개의 준수 테스트가 코드가 사양과 일치하도록 보장합니다. 다만 이 도구는 운영체제 커널 레벨이 아닌 애플리케이션 미들웨어 레벨에서 거버넌스를 강제합니다. 따라서 프로덕션 환경에서는 OS 레벨 격리를 위해 각 에이전트를 별도의 컨테이너에서 실행하는 것을 권장합니다. CodeQL, Gitleaks, ClusterFuzzLite 등 다양한 보안 도구를 통해 코드 품질과 취약점을 관리합니다.
공개 프리뷰 단계의 주의사항
이 프로젝트는 현재 공개 프리뷰 단계로, GA(일반 가용) 이전까지 깨지는 변경 사항이 발생할 수 있습니다. MIT 라이선스로 배포되며, 공식 소스는 GitHub, PyPI, npm, NuGet, crates.io의 특정 경로에서만 제공됩니다. 제3자 에이전트 프레임워크나 서비스와 함께 사용할 경우 데이터 공유와 보관에 대한 책임은 사용자에게 있습니다. 도입 전에는 agt doctor 명령으로 설치 상태를 확인하고, agt verify로 OWASP 준수 여부를 점검하는 것이 좋습니다.
