AZ Tools

robots.txt 테스터

네트워크

Googlebot·Bingbot 매칭 룰 구현: 그룹은 user-agent 키, 가장 구체적 UA 우선(완전일치 > 부분문자열 > *), 그룹 내 최장 매칭 패턴 우선(동률 시 Allow 우선). * 와일드카드, $ 경로끝 앵커 지원. Sitemap: 선언도 모두 노출 — 사이트맵 URL 도달 가능성 점검.

파싱된 그룹: 3사이트맵: 1
테스트 케이스
  • 허용룰: Allow: /admin/
  • 허용룰: Allow: /admin/public/
  • 차단룰: Disallow: /
  • 차단룰: Disallow: /private/
사이트맵
  • https://example.com/sitemap.xml

부분문자열 UA 매치는 대소문자 무시. 가장 긴 패턴 우선; 동률 시 Allow.

사용법

  1. robots.txt를 상단에 붙여넣기.
  2. (user-agent, 경로) 테스트 케이스 추가 — UA를 '*'로 두면 catch-all 그룹 테스트.
  3. 오른쪽에서 판정과 해당 룰 확인.

자주 묻는 질문

최장 매치는 어떻게 작동?
매칭 UA 그룹 내에서, 경로에 매칭되는 가장 긴 패턴 룰 우선. Allow·Disallow는 패턴 길이로만 가중 — 더 긴 Allow가 더 짧은 Disallow 이김.
패턴 끝 $는 뭐?
URL 경로 끝에 패턴 고정. /foo$는 /foo와 정확히 매치, /foo/bar는 아님. /*.pdf$ 같은 특정 확장자 차단에 유용.

관련 도구