toolitda / robots.txt 생성기
robots.txt 생성기
사이트 URL과 차단 경로를 입력해 검색엔진 수집 규칙을 만들고, sitemap 위치까지 포함한 robots.txt 내용을 복사합니다.
robots.txt 생성기
검색엔진 수집 허용 범위와 sitemap 위치를 정리한 robots.txt 파일 내용을 생성합니다.
기본 설정
사이트 주소를 넣으면 sitemap 위치가 자동으로 채워집니다. 직접 sitemap URL을 입력하면 그 값을 우선 사용합니다.
수집 규칙
모든 페이지 수집을 허용하고 sitemap 위치를 검색엔진에 알려줍니다.
생성된 robots.txt
사이트 루트의 /robots.txt 파일 내용으로 사용할 수 있습니다.
다음 점검 단계
- 1생성된 내용을 사이트 루트의 /robots.txt에 배치합니다.
- 2sitemap.xml이 실제로 열리는지 확인합니다.
- 3SEO 태그 진단/생성기에서 URL 검사를 실행해 robots.txt와 sitemap.xml 상태를 확인합니다.
- 4운영 전에는 전체 차단 규칙이 남아 있지 않은지 다시 확인합니다.
광고 영역
광고가 게재되는 영역입니다
사용 방법
- 1사이트 URL과 필요하면 sitemap URL을 입력합니다.
- 2전체 허용, 선택 차단, 전체 차단 중 수집 규칙을 선택합니다.
- 3선택 차단에서는 허용/차단 경로를 한 줄에 하나씩 입력합니다.
- 4생성된 robots.txt 내용을 복사해 사이트 루트에 적용합니다.
FAQ
robots.txt는 검색엔진 크롤러에서 무엇을 제어하나요?
검색엔진 크롤러가 어떤 경로를 수집할 수 있는지 안내합니다. 민감한 정보 보호 수단은 아니며, 실제 보안은 인증과 서버 권한으로 처리해야 합니다.
robots.txt 전체 차단을 운영 사이트에서 사용해도 되나요?
개발 중이거나 임시 비공개 사이트라면 사용할 수 있습니다. 운영 사이트에서 전체 차단이 남아 있으면 검색 노출이 막힐 수 있습니다.
robots.txt에 sitemap URL은 꼭 넣어야 하나요?
필수는 아니지만 권장합니다. robots.txt에 sitemap 위치를 넣으면 검색엔진이 사이트맵을 더 쉽게 찾을 수 있습니다.