AI 크롤러 접근 목록으로

가짜 AI 크롤러를 가려내는 방법

가짜 AI 크롤러는 요청에 적힌 이름과 플랫폼 공식 기준에 따른 출발 IP를 함께 대조해 가려야 합니다. 일치하지 않거나 자료가 부족한 요청은 사칭으로 단정하지 않고 추가 확인 대상으로 남깁니다.

목차

요청 이름과 신원 판단의 차이

핵심 답

가짜 AI 크롤러를 가려내려면 요청에 적힌 이름만 믿지 말고 해당 플랫폼이 안내한 방법으로 출발 IP를 함께 대조해야 합니다. 신원이 확인되지 않은 요청은 진짜로 인정하거나 가짜로 단정하지 않고 추가 확인 대상으로 남깁니다.

요청의 User-Agent는 접속한 프로그램이 자신을 어떤 이름으로 밝히는지 담는 항목입니다. 그 이름이 공식 설명과 같다는 사실과 실제 플랫폼에서 출발한 요청이라는 판단은 따로 취급해야 합니다. 사이트 운영자는 이름을 신원 조사에 사용할 단서로 삼고, 개발 담당자에게 같은 요청의 출발 IP 자료를 요청합니다.

조사할 요청을 정할 때는 이름과 IP가 서로 다른 방문에서 가져온 자료인지 먼저 가립니다. 이름이 일치하는 기록과 공식 범위에 속하는 IP가 각각 존재해도, 두 자료가 같은 요청에 속하지 않으면 결합 판단을 할 수 없습니다. 요청 시각과 대상 경로는 담당자가 자료를 연결하는 보조 항목으로 사용합니다.

신원 확인 항목쉬운 설명담당자에게 요청할 자료
요청에 적힌 이름접속 프로그램이 밝힌 명칭해당 요청의 User-Agent 값
접속 출발 IP신원 대조에 사용할 출발지 주소같은 요청의 IP와 그 값을 얻은 항목
플랫폼 공식 기준해당 이름에 적용할 신원 판단 근거공식 안내 내용과 자료 조회 시점
자료의 연결 정보이름과 IP가 같은 요청에 속하는 근거요청 시각과 대상 경로

마케팅 담당자는 기술 자료를 직접 해석하기 어렵다면 표의 항목을 묶어 개발 담당자에게 전달합니다. 답변에는 일치 여부뿐 아니라 어떤 자료를 사용했는지도 포함하도록 요청합니다. 이름만 전달받은 상태에서는 방문자의 신원에 관한 보고를 완료하지 않습니다.

퍼플렉시티의 이름과 IP 결합 기준

퍼플렉시티는 보안 설정 안내에서 User-Agent 문자열과 공식 IP 범위를 함께 사용하는 방식을 설명합니다. 또한 공개 IP 자료를 최신 상태로 사용하도록 안내합니다. 운영 업무에서는 이 결합 방식을 신원 판단의 근거로 활용하고, 요청에 적힌 이름에 대응하는 IP 자료를 선택합니다.

퍼플렉시티는 PerplexityBot과 Perplexity-User의 이름 및 IP 자료를 각각 안내합니다. 담당자는 두 이름을 하나의 방문자 명칭으로 합치지 않고, 해당 요청이 밝힌 이름에 대응하는 자료로 대조합니다. 서로 다른 이름의 자료를 섞으면 이름과 출발지를 함께 판단한다는 조건을 충족하지 못합니다.

공식 기준에 맞는다는 결과는 사용한 자료의 범위 안에서 신원을 판단할 근거가 됩니다. IP가 맞지 않는 결과는 그 요청을 공식 요청으로 인정할 근거가 부족하다는 뜻으로 기록합니다. 사칭이라는 결론까지 내리려면 자료 선택이나 출발지 해석에 오류가 없는지 추가 조사가 필요합니다.

이름부터 출발지까지의 실행 순서

담당자는 요청에 적힌 이름을 먼저 읽고, 해당 플랫폼의 공식 기준으로 출발 IP를 대조한 뒤 판단 상태를 정합니다. 자료가 빠진 단계에서는 결론을 앞당기지 않습니다. 운영자는 조사 대상과 기술 담당자를 정하고, 담당자는 판단에 사용한 근거를 함께 반환합니다.

  1. 요청의 User-Agent 값을 확보하고 어떤 공식 이름을 주장하는 요청인지 기재합니다. 이름을 읽을 수 없거나 대응하는 공식 설명을 찾지 못했다면 그 상태를 남깁니다.
  2. 같은 요청의 출발 IP를 확보하고 해당 이름에 대응하는 공식 자료를 선택합니다. 퍼플렉시티 요청은 최신 공개 IP 범위를 사용했는지 함께 기재합니다.
  3. 이름과 IP의 대조 결과를 각각 작성하고 두 조건을 함께 충족하는지 판단합니다. 불일치와 자료 부족은 서로 다른 상태로 보고합니다.
  4. 추가 조사가 필요한 요청에는 부족한 자료와 다음 작업을 기재합니다. 운영자가 재판단할 수 있도록 작업을 맡을 담당자도 정합니다.

자료를 준비하는 담당자는 IP 값만 전달하지 말고 그 값이 어느 기록 항목에서 나온 것인지 설명합니다. 중간 접속 장비를 사용하는 환경에서는 기록된 주소가 어떤 접속자를 나타내는지 기술 담당자가 먼저 해석해야 합니다. 출발지를 확정하지 못한 상태라면 공식 IP 자료와의 대조 결과에도 그 제한을 기재합니다.

대조 결과별 판단 범위

이름·IP 대조 결과판단할 수 있는 범위추가 확인할 사항
이름과 대응 IP 범위가 모두 일치공식 기준에 부합하는 요청으로 판단할 근거 확보두 값이 같은 요청인지, 사용한 자료가 최신인지
이름은 일치하지만 IP는 불일치공식 요청으로 인정하기에 근거 부족IP 해석과 대응 자료 선택의 오류 여부
IP는 일치하지만 이름은 불일치해당 이름의 공식 요청으로 확정하기 어려움User-Agent 원문과 적용 대상 이름
이름 또는 IP 자료가 부족신원 판단 보류누락 자료와 자료 확보 가능 여부

결과표에는 일치하지 않은 항목을 구체적으로 기재합니다. 단순히 실패라고 쓰면 자료 누락인지 실제 불일치인지 다음 담당자가 알기 어렵습니다. 판단 상태와 조사할 항목을 함께 전달하면 필요한 자료부터 요청할 수 있습니다.

보고를 받는 운영자는 추가 조사 대상을 업무 목록으로 관리합니다. 담당자가 자료를 보완하면 기존 결과와 새 결과를 연결하고, 판단을 변경한 이유를 남깁니다. 자료를 확보하지 못한 요청은 처리 완료라는 표현 대신 판단이 보류된 이유를 기재합니다.

네이버 역 DNS 조회의 적용 범위

네이버 서치어드바이저는 User-Agent만으로 네이버 서버의 접근인지 확신하기 어려울 때 역 DNS 조회를 사용하는 방법을 안내합니다. 접근자의 IP에서 얻은 이름이 네이버가 지정한 끝부분을 갖는지 검사한 뒤, 그 이름을 다시 DNS로 조회해 처음 IP와 같은지 대조하는 절차입니다. 기술 담당자는 역방향 조회 결과만 기록하지 않고 되돌려 조회한 결과까지 함께 기록합니다.

이 절차는 네이버가 안내한 검색로봇 신원 판단 방법으로 사용합니다. 퍼플렉시티 요청에 네이버의 조회 조건을 적용하거나, 모든 AI 크롤러가 같은 절차를 지원한다고 전제해서는 안 됩니다. 담당자는 플랫폼을 먼저 정한 뒤 그 플랫폼의 공식 기준을 선택합니다.

네이버 방법을 업무 문서로 옮길 때는 조회 단계가 생략되지 않았는지 검토합니다. 이름을 얻었다는 사실만으로 전체 절차를 완료했다고 보고하면 되돌려 조회한 결과가 빠질 수 있습니다. 운영자는 완료 표시 대신 각 단계의 결과와 최종 판단을 요청합니다.

불일치 결과를 사칭으로 확정하는 오류

공식 자료와 맞지 않는다는 결과에는 요청자의 문제 외에도 조사 과정의 문제가 포함될 수 있습니다. 담당자가 다른 이름의 IP 자료를 선택했거나, 출발지를 나타내지 않는 주소로 작업했다면 신원 판단의 전제부터 고쳐야 합니다. 불일치를 발견한 담당자는 요청자를 평가하기 전에 사용한 자료와 처리 과정을 검증합니다.

조사 결과를 전달하는 문장도 근거의 범위를 지켜야 합니다. 공식 범위에 속하지 않는다는 결과만 확보했다면 해당 기준으로 신원을 인정하지 못했다고 기재합니다. 사칭이 확정됐다는 표현은 그보다 강한 결론이므로, 담당자가 추가 근거를 제시하지 못하면 사용하지 않습니다.

의심 상태를 그대로 남긴다고 해서 요청의 신원을 승인한 것은 아닙니다. 신원 조사 결과와 그 요청에 대한 운영상 대응은 따로 기록할 수 있습니다. 운영자는 조사 문서에 실제로 결정하지 않은 허용이나 차단까지 포함시키지 않습니다.

요청 단위와 방문자 전체 평가

신원 판단의 단위는 조사한 요청으로 정합니다. 어떤 요청이 공식 기준에 맞았다고 해서 같은 이름으로 들어온 다른 요청까지 자동으로 인정하지 않습니다. 담당자가 여러 요청을 묶어 보고할 때는 각 요청에 같은 판단 근거를 적용할 수 있는지 먼저 가립니다.

묶음 자료에 서로 다른 출발 IP나 식별값이 섞여 있다면 결과를 별도로 작성합니다. 대표 요청 하나만 대조하고 전체가 검증됐다고 기재하면 조사하지 않은 요청까지 결론에 포함됩니다. 운영자는 보고 대상에 포함된 요청과 제외된 요청을 명시하도록 요구합니다.

대표 자료만 확보한 경우에는 조사 범위를 그 자료로 제한합니다. 전체 방문자의 신원을 설명하는 표현 대신, 판단을 마친 요청의 범위를 기재합니다.

자주 묻는 질문

공식 이름과 비슷한 철자도 같은 크롤러로 처리합니까?

비슷하다는 이유만으로 같은 이름으로 처리하지 않습니다. 담당자는 원문 값을 보존하고, 오타나 일부 생략을 임의로 교정하지 않은 상태에서 공식 명칭과의 차이를 기재합니다. 사람에게 읽기 쉬운 설명이 필요하면 원문과 별도 설명을 함께 작성합니다.

담당자마다 신원 판단 결과가 다르면 어떻게 합니까?

최종 결론을 다수결로 정하지 않고 각 담당자가 사용한 입력 자료와 기준을 나란히 정리합니다. 요청 대상, 자료 조회 시점, IP 해석이 달랐는지 가린 뒤 동일한 조건으로 다시 작업합니다. 차이를 해소하지 못하면 일치된 결론이 없는 상태로 보고합니다.

역 DNS 조회 결과가 없으면 가짜 요청으로 처리합니까?

조회 결과가 없다는 사실만으로 가짜 요청을 확정하지 않습니다. 담당자는 결과 부재와 조회 자체의 오류를 따로 기록하고, 조회를 완료할 수 있었는지 설명합니다. 기술적으로 판단할 자료를 얻지 못했다면 그 제한을 결과에 포함합니다.

식별 문자열에 검색 서비스 이름이 여러 개 있으면 어떻게 합니까?

포함된 이름 가운데 하나를 임의로 선택해 신원을 인정하지 않습니다. 담당자는 전체 문자열을 유지하고 어떤 공식 이름에 대응시키려 했는지 설명해야 합니다. 공식 안내로 대응 관계를 정할 수 없다면 이름 해석부터 보류합니다.

신원 대조 업무를 자동화할 때 무엇을 남겨야 합니까?

자동 처리 결과와 함께 사용한 기준의 조회 시점, 입력값, 오류 상태를 남깁니다. 자료를 불러오지 못한 경우를 불일치로 처리하면 요청자에 대한 판단이 왜곡될 수 있습니다. 담당자는 자동화가 계산하지 못한 상태를 별도로 출력하도록 설계하고, 변경 후에는 결과 문구도 시험합니다.

맨 위로 이동

AI 크롤러 접근 설정 서비스 자세히 보기