크롤링 · 색인

noindex란?

해당 페이지를 검색 결과에 표시하지 말라는 지시입니다. 메타 로봇 태그나 X-Robots-Tag HTTP 헤더로 지정합니다. 크롤러가 페이지를 읽어야 지시를 확인할 수 있으므로, robots.txt로 막은 페이지에는 효과가 없습니다.

noindex를 거는 방법

HTML 페이지는 메타정보를 넣는 <head> 안에 <meta name="robots" content="noindex">를 씁니다. PDF처럼 HTML이 아닌 파일은 서버 응답 헤더에 X-Robots-Tag: noindex를 추가합니다. 특정 검색엔진에만 적용하려면 name 값에 googlebot처럼 크롤러 이름을 씁니다.

구글이 noindex를 확인하려면 페이지를 다시 크롤링해야 하므로, 이미 색인된 페이지는 반영되기까지 시간이 걸립니다. 급하게 검색 결과에서 감춰야 한다면 서치콘솔의 삭제 도구로 일시적으로 숨길 수 있습니다.

noindex를 쓸 때 주의할 점

  • robots.txt로 함께 막지 않습니다. 크롤러가 noindex를 읽지 못합니다.
  • 캐노니컬 태그와 섞어 쓰지 않습니다. 한 페이지에서 "대표 URL은 저쪽"과 "색인하지 마라"를 동시에 말하면 신호가 엇갈립니다.
  • 사이트 개편 후 개발 환경에서 걸어 둔 noindex가 운영 페이지에 남아 있지 않은지 확인합니다.

감사 페이지, 내부 검색 결과, 로그인 후 화면처럼 사용자에게는 필요하지만 검색 결과에는 필요 없는 페이지가 noindex의 주된 대상입니다. 서치콘솔 페이지 색인 생성 보고서의 noindex 제외 항목에서 의도한 페이지에만 적용됐는지 확인합니다.

관련 용어

크롤링 · 색인

robots.txt

사이트 루트에 두는 텍스트 파일로, 크롤러가 어떤 경로를 수집해도 되는지(Allow)·안 되는지(Disallow) 지시합니다. 크롤링을 제어할 뿐 색인을 막는 장치는 아니므로, 색인을 막으려면 noindex를 씁니다.

크롤링 · 색인

색인

크롤러가 수집한 페이지를 분석해 검색엔진의 데이터베이스에 저장하는 것, 또는 그 데이터베이스입니다. 색인된 페이지만 검색 결과에 나올 수 있으며, 서치콘솔의 페이지 색인 생성 보고서에서 상태를 확인합니다.

크롤링 · 색인

캐노니컬 태그

<link rel="canonical">로 중복·유사 페이지 가운데 대표 URL을 검색엔진에 알려주는 태그입니다. 평가를 대표 URL에 모으고 중복 색인을 줄입니다. 구글은 이를 강한 힌트로 다룰 뿐 반드시 따르지는 않습니다.

크롤링 · 색인

인덱스 블로트

검색 가치가 낮은 페이지(파라미터 URL, 빈 태그 페이지, 내부 검색 결과 등)가 대량으로 색인된 상태입니다. 크롤버젯을 낭비하고 사이트 전체 품질 평가를 떨어뜨릴 수 있어 noindex나 페이지 정리로 줄입니다.

마크업 · 사이트 구조

메타정보

<head> 안에 작성해 페이지 정보를 검색엔진과 브라우저에 전달하는 데이터입니다. 타이틀 태그, 메타 디스크립션, 메타 로봇, 뷰포트, OG 태그 등이 있으며, 타이틀과 디스크립션은 검색 결과의 제목·설명으로 쓰일 수 있습니다.

관련 서비스 → SEO/GEO 교육