사내 AI 에이전트의 숨은 활동을 추적하고 위협을 잡아내는 보안 체계
직원들이 쓰는 코딩 도구나 고객 응대 봇이 실제로 어떤 지시를 받고 어떤 행동을 하는지 한눈에 파악할 수 있습니다. ADR은 AI 에이전트의 의도와 도구 사용 기록을 추적해 위험한 행동을 사전에 막는 시스템입니다. 우버에서 실제 운영 중인 이 프로젝트는 최근 MLSys 2026에 논문으로 채택되어 그 신뢰성을 인정받았습니다.
AI 에이전트 보안의 다섯 가지 축
ADR은 발견, 관찰, 벤치마크, 탐지, 예방이라는 다섯 가지 기능으로 구성됩니다. 먼저 엔드포인트에 설치된 AI 도구와 MCP 서버를 목록으로 만들어 승인되지 않은 도구를 찾습니다. 이어 에이전트가 어떤 의도로 도구를 호출하는지 실행 기록을 수집합니다. 이 데이터를 바탕으로 300개 이상의 태스크와 134개 MCP 서버를 활용해 보안성을 테스트합니다. 의심스러운 세션은 두 단계의 분석을 거쳐 위협을 식별하며, 현재 오픈소스 버전에는 예방 기능이 아직 포함되지 않았습니다.
오픈소스로 공개된 구성 요소
이 저장소에는 ADR Discovery, ADR Sensor, ADR-Bench, ADR Detector가 포함되어 있습니다. Discovery는 엔드포인트의 AI 앱과 CLI 에이전트, IDE 확장 기능을 인벤토리화합니다. Sensor는 Claude Code, Cursor, Codex 등 7개 이상의 코딩 도구와 내부 자동화 에이전트에서 발생하는 텔레메트리를 수집합니다. Detection 폴더에는 이중 에이전트 탐지기와 벤치마크 태스크 304개, 그리고 134개의 MCP 서버 인프라가 들어 있습니다. 배포 전 레드 팀 테스트를 위한 오프라인 엔진인 ADR Explorer는 이 저장소에 포함되지 않습니다.
탐지 기능 실행 방법
탐지 기능을 실행하려면 저장소를 클론한 뒤 Detection 폴더로 이동합니다. uv sync 명령으로 의존성을 설치하고, Anthropic과 OpenAI의 API 키를 환경 변수로 설정해야 합니다. 기본 탐지기는 adr이며, API 키 없이 간단한 테스트를 원할 때는 --detector llamafirewall 옵션을 사용할 수 있습니다. 전체 평가 워크플로우는 docs/REPRODUCIBILITY.md 파일에 단계별로 설명되어 있습니다.
사용 전 확인 사항
이 프로젝트는 Apache License 2.0으로 배포되며, Detection/benchmark/agentdojo/ 폴더는 MIT 라이선스의 제3자 코드입니다. 데이터는 방어적 보안 연구를 위한 합성 벤치마크 픽스처로, 가짜 자격 증명과 프롬프트 인젝션 시나리오를 포함합니다. 현재 오픈소스 릴리스에는 위험한 행동을 막는 예방 기능이 빠져 있으므로, 탐지된 위협을 자동으로 차단해야 하는 환경에서는 이 한계를 고려해야 합니다.
