robots.txt 테스터
네트워크
Googlebot·Bingbot 매칭 룰 구현: 그룹은 user-agent 키, 가장 구체적 UA 우선(완전일치 > 부분문자열 > *), 그룹 내 최장 매칭 패턴 우선(동률 시 Allow 우선). * 와일드카드, $ 경로끝 앵커 지원. Sitemap: 선언도 모두 노출 — 사이트맵 URL 도달 가능성 점검.
—
파싱된 그룹: 3사이트맵: 1
테스트 케이스
- 허용룰: Allow: /admin/
- 허용룰: Allow: /admin/public/
- 차단룰: Disallow: /
- 차단룰: Disallow: /private/
사이트맵
- https://example.com/sitemap.xml
부분문자열 UA 매치는 대소문자 무시. 가장 긴 패턴 우선; 동률 시 Allow.
사용법
- robots.txt를 상단에 붙여넣기.
- (user-agent, 경로) 테스트 케이스 추가 — UA를 '*'로 두면 catch-all 그룹 테스트.
- 오른쪽에서 판정과 해당 룰 확인.
자주 묻는 질문
- 최장 매치는 어떻게 작동?
- 매칭 UA 그룹 내에서, 경로에 매칭되는 가장 긴 패턴 룰 우선. Allow·Disallow는 패턴 길이로만 가중 — 더 긴 Allow가 더 짧은 Disallow 이김.
- 패턴 끝 $는 뭐?
- URL 경로 끝에 패턴 고정. /foo$는 /foo와 정확히 매치, /foo/bar는 아님. /*.pdf$ 같은 특정 확장자 차단에 유용.
관련 도구
IP 주소 분석
IPv4 또는 IPv6 입력 → 클래스·범위(사설·공인·loopback·link-local)·10진수·2진수·reverse DNS·/32 CIDR 표시.
네트워크00
포트 번호 참조
약 60개 표준 TCP / UDP 포트 번호 검색 가능한 치트시트 — 22(SSH)·80(HTTP)·6379(Redis)·27017(MongoDB) 등.
네트워크00
DNS 레코드 참조
DNS 레코드 타입 검색 가능한 치트시트 — A·AAAA·CNAME·MX·TXT·NS·SOA·PTR·SRV·CAA·DNSSEC·SVCB / HTTPS — 예시 포함.
네트워크00
서브넷 계산기 (IPv4 / CIDR)
IPv4 CIDR을 네트워크 주소·브로드캐스트·넷마스크·와일드카드·호스트 범위·클래스로 파싱. 이진 분석과 사설/공인 상태 표시.
네트워크00
User Agent 파서
User-Agent 문자열을 브라우저·엔진·OS·디바이스·CPU로 파싱. GPTBot·ClaudeBot·PerplexityBot 포함 20+ 봇 감지.
네트워크00
HTTP 상태 코드 레퍼런스
1xx-5xx 모든 HTTP 상태 코드 검색 — 요약·RFC·사용 시점·흔한 함정 포함.
네트워크00