AI 에이전트와 인프라의 보안 구멍을 한 번에 점검하는 레드팀 도구
AI 에이전트가 외부 도구를 호출하거나 모델이 예상치 못한 답변을 내놓을 때, 그 뒤에 숨은 보안 구멍을 직접 찾아볼 수 있습니다. 이 도구는 AI 인프라, 에이전트, 모델, 그리고 관련 도구까지 다섯 가지 영역을 스캔해 잠재적 위험을 가시화합니다. 복잡한 보안 테스트를 하나의 플랫폼에서 수행할 수 있어, AI 시스템을 운영하거나 개발하는 팀이 위험 요소를 사전에 파악하는 데 도움을 줍니다.
다섯 가지 스캐너가 만드는 통합 점검
이 플랫폼은 AI 생태계의 다양한 계층을 대상으로 보안 점검을 수행합니다. AI 인프라 스캔은 도메인이나 IP 주소를 분석해 지문과 취약점을 매칭합니다. LLM 보안 평가는 OpenAI 호환 API를 노출하는 모델을 대상으로 제이브레이크 시나리오를 테스트합니다. MCP 스캔은 MCP 서버의 소스 디렉터리나 실행 중인 서비스를 점검하며, 스킬 스캔은 로컬 에이전트 스킬 디렉터리를 감사합니다. 마지막으로 에이전트 스캔은 실행 중인 에이전트에 테스트 프롬프트를 보내어 위험한 동작을 유발하는지 확인합니다.
플랫폼 배포와 개별 도구 활용
사용자는 웹 인터페이스를 통해 통합적으로 서비스를 사용할 수도 있고, 각 스캐너를 독립적으로 실행할 수도 있습니다. 웹 인터페이스를 사용하려면 Docker를 통해 서비스를 배포해야 하며, Docker 20.10 이상, RAM 4GB 이상, 디스크 공간 10GB 이상이 필요합니다. 배포 후 로컬호스트의 8088 포트에서 웹 인터페이스에 접근할 수 있습니다. 개별 도구로 사용하려면 pip로 각 스캐너 패키지를 설치하고, 대상 주소를 지정하여 명령어를 실행하면 됩니다. 예를 들어 인프라 스캔은 aig-infra-scan 명령어로, 모델 평가는 aig-model-scan 명령어로 수행합니다.
플러그인 기반의 확장 구조
이 도구의 핵심 강점 중 하나는 플러그인 시스템입니다. 커뮤니티는 새로운 지문 규칙, 취약점 스캔 규칙, MCP 보안 규칙, 모델 평가 데이터셋을 YAML 파일 형태로 추가할 수 있습니다. 이러한 규칙은 data/fingerprints/, data/vuln/, data/mcp/, data/eval 디렉터리에 저장되며, 기존 형식을 참고하여 파일을 생성한 후 풀 리퀘스트로 제출하면 됩니다. 이를 통해 새로운 취약점이나 평가 시나리오가 빠르게 반영되어 도구의 커버리지가 지속적으로 확장됩니다.
내부 사용 전 반드시 확인할 사항
이 프로젝트는 기업이나 개인의 내부 사용을 목적으로 한 AI 레드팀 플랫폼입니다. 현재 인증 메커니즘이 없으므로 공개 네트워크에 배포해서는 안 됩니다. Apache License 2.0 하에 오픈소스로 제공되며, 코드를 통합하거나 파생 작업을 할 경우 원본의 LICENSE와 NOTICE 파일을 유지해야 합니다. 또한 제품 문서나 UI에 'Tencent Zhuque Lab이 오픈소스로 공개한 AI-Infra-Guard를 통합했습니다'라는 문구를 명시해야 합니다. 연구나 보고서에 인용할 경우에도 저장소 링크와 함께 출처를 밝히는 것이 요구됩니다.
