기술 백서

GenRank: 대형 언어 모델에서 엔티티 가시성을 측정하는 방법론

요약

이 문서는 GenRank 방법론을 설명합니다. GenRank는 대형 언어 모델(LLM)의 추천 답변에서 엔티티의 가시성을 수치로 측정하는 체계입니다. AI로 정보를 찾는 방식이 소비자 행동과 시장의 움직임에 점점 더 큰 영향을 주면서, LLM이 어떤 엔티티를 앞세워 추천하는지 이해하는 일이 연구자, 마케터, 정책 입안자에게 중요해졌습니다. GenRank는 여러 모델에 같은 질문을 던지고 그 답을 시장 가중치로 점수화해 정규화된 가시성 지수를 만듭니다. 본문에서는 데이터 수집 절차, 점수 산정의 수학적 틀, 모델 가중치 배분 방법, 알려진 한계를 자세히 다룹니다.

1. 서론

1.1 배경

대형 언어 모델(LLM)이 정보를 찾는 주된 도구로 자리 잡으면서 소비자가 제품, 서비스, 브랜드를 찾고 평가하는 방식이 근본적으로 바뀌었습니다. 전통적인 검색 엔진은 명시적인 관련성 신호에 따라 순위를 매긴 결과를 보여 줍니다. 반면 LLM은 학습과 강화 학습 과정에서 익힌 패턴을 바탕으로 정보를 종합한 추천을 만들어 냅니다.1

이 변화는 기회이자 과제입니다. LLM 답변에서 유리한 자리를 차지한 엔티티는 더 많이 노출되고 더 자주 고려 대상이 될 수 있지만, 추천에서 빠진 엔티티는 시장에서 눈에 띄지 않게 될 수 있습니다. 우리는 이 현상을 AI 매개 탐색 편향이라고 부릅니다.2

1.2 연구 목표

GenRank의 연구 목표는 다음과 같습니다.

  1. 여러 LLM 플랫폼에서 엔티티 가시성을 재현 가능하게 측정하는 틀을 세운다
  2. 실제 AI 이용 행태를 반영한 시장 가중 점수 체계를 만든다
  3. 학술 연구와 상업 연구에 쓸 수 있는 투명한 공개 데이터셋을 만든다
  4. 추천 패턴과 시간에 따른 변화를 오랜 기간에 걸쳐 분석할 수 있게 한다

1.3 용어

엔티티
LLM 답변에서 식별하고 추적할 수 있는 개별 브랜드, 제품, 서비스, 조직 또는 개념입니다.
가시성 점수
순위의 근거가 되는 통계입니다. 질문 단위 점수는 0~100이며, 집계 기간의 모든 주에 모든 AI 서비스가 그 엔티티를 첫 번째로 꼽으면 100입니다. 카테고리 점수는 그 카테고리 질문들의 질문 단위 점수를 더한 값이어서 상한이 없으며, 같은 카테고리 안에서만 비교합니다. 공개하는 결과는 순위이고, 점수, 표본 수, 신뢰구간은 데이터와 API에서 볼 수 있습니다.
시장 가중치
각 LLM에 매기는 계수로, 전 세계 AI 어시스턴트 이용에서 그 LLM이 차지하는 것으로 추정되는 점유율을 반영합니다.

2. 데이터 수집

2.1 질문 설계

질문은 LLM이 순위가 있는 추천 목록으로 답하도록 설계합니다. 모든 질문은 다음 기준에 맞는지 검증합니다.

  • 구체성: 특정 카테고리나 용도를 겨냥해야 합니다
  • 중립성: 답을 유도하는 표현이나 브랜드 이름이 없어야 합니다
  • 재현성: 일관되게 목록 형태의 답이 나와야 합니다
  • 시간적 안정성: 갱신 주기가 여러 번 지나도 유효해야 합니다

질문 제안. 로그인한 사람은 누구나 질문 제안 페이지에서 측정할 질문을 제안할 수 있고, 제안과 처리 결과는 모두 그 페이지에 공개됩니다. 한 달에 한 번 검토를 기다리는 제안을 모두 검토해, 위 기준에 더해 다음을 갖춘 질문을 채택합니다. 답이 이름 있는 대상(브랜드, 제품, 장소, 작품, 사람, 단체)이어야 하고, 사람들이 실제로 찾는 주제여야 하며(질문 랭킹과 같은 검색 신호로 확인합니다), 이미 측정하는 질문과 겹치지 않아야 하고, 카테고리의 질문 수 상한 안에 들어야 합니다. 상한이 찬 카테고리에서는 기존 질문보다 나을 때만 그 질문과 바꿉니다. 공감 수는 검토 순서를 정할 때만 쓰고, 누가 제안했는지는 보지 않습니다. 채택한 질문은 GenRank가 측정에 맞게 문장을 다듬어 변경 기록에 새 버전으로 알리고, 그 버전이 발효하는 주부터 다른 질문과 같은 규칙으로 측정합니다.

2.2 호출 파라미터

승인된 질문은 활성 LLM마다 공식 API로 보냅니다. 디코딩 파라미터는 일부러 바꾸지 않습니다. 질문 한 번은 모델이 실제 사용자에게 내놓는 답의 표본이며, 온도를 고정하면 어떤 사용자도 받지 않는 답을 재게 됩니다. 답의 변동은 억누르지 않고 그대로 인정합니다. 표준 회차에서는 질문과 모델 쌍마다 한 번 묻습니다. 파이프라인은 반복 표본도 지원하므로, 표본 회차에서는 쌍마다 여러 번 묻고 답이 흩어진 정도를 감추지 않고 신뢰구간(§4.5)으로 공개합니다.

temperature: 공급자 기본값
top_p: 공급자 기본값
max_tokens: 공급자 기본값
frequency_penalty: 공급자 기본값
모델당 표본: 1 (표본 회차에서는 3)

웹 검색. 질문은 모델의 자체 웹 검색을 켠 채로 보냅니다. 측정하는 모델은 모두 실시간 웹 검색을 지원한다는 이유로 골랐습니다. 그래서 추천에는 학습 시점의 지식이 아니라 현재 정보가 반영됩니다. 웹 검색 조건은 활성 모델 구성을 제한하며(§4.2), 버전으로 관리해 변경 기록(§6)에 남깁니다.

2.3 엔티티 해석

답변마다 거기에 나온 항목을 뽑아내고, 항목마다 정식 엔티티에 연결합니다. 엔티티 해석은 언어마다 따로 합니다. 같은 브랜드라도 영어 답변과 한국어 답변의 순위는 각각 매깁니다. v3.3부터 적용하는 절차는 다음과 같습니다.

  1. 무엇을 답으로 보는가: 항목마다 답변에서 맡은 역할에 따라 분류합니다. 답은 질문에 대한 답으로 추천하거나 이름을 댄 것입니다. 출처는 근거로 인용하거나 찾아볼 곳으로 안내하기만 한 것입니다(리뷰 사이트, 연구, 검색 플랫폼). 일반 항목은 질문이 이름 있는 대상을 물었는데 특정 이름 대신 나온 것입니다(제품 종류, 성분, 기능, 조언 등). 순위에는 답만 올립니다. 질문이 종류(예: 말 품종)나 플랫폼, 출처를 묻는다면 그것이 답입니다. 출처와 일반 항목은 모델이 돌려준 웹 인용과 함께 답변마다 기록하지만, 순위에는 넣지 않습니다.
  2. 표기 정규화: 대소문자, 문장 부호, 공백을 통일합니다.
  3. 별칭 연결: 검증한 별칭을 데이터베이스로 관리합니다. 이름을 실제로는 다른 대상(모회사 브랜드, 종목 코드만 있는 표기, 일반 명사)에 연결하게 되는 별칭은 받아들이지 않습니다.
  4. 일치 판정: 언급은 일치가 분명할 때만 기존 엔티티에 자동으로 연결합니다. 일치가 불확실하면 언어 모델이 질문과 답변 본문을 보고 판정합니다. 그 카테고리에 처음 나온 이름, 별칭으로만 일치한 이름, 전에 거부된 적이 있는 연결, 후보가 여럿인 경우, 중복일 가능성이 있는 경우가 불확실한 일치입니다. 판정은 모두 기록하며, 거부된 일치는 다시 적용하지 않습니다. 같은 답변에 나온 서로 다른 항목은 절대 합치지 않습니다. 확신이 없으면 새 엔티티로 셉니다. 잘못 합치는 것이 중복보다 더 나쁘기 때문입니다. 2026년 11월 15일(v4.3, v3.4)부터 이미 있는 두 엔티티는 판정 모델과 별도의 결정 모델이 모두 같은 대상이라고 볼 때만 합칩니다. 둘 중 하나라도 확신하지 않으면 따로 둡니다.
  5. 감사와 정정: 한 회차의 엔티티 해석은 처음부터 끝까지 감사할 수 있으며, 정정 내용은 §6에 공개합니다.

3. 점수 산정 방법

3.1 이론적 바탕

GenRank 점수 체계는 정보 검색 이론을 바탕으로 하며, 특히 정규화 할인 누적 이득(nDCG) 지표의 로그 할인 원리를 응용했습니다.3 순위가 낮을수록 그 자리의 가치가 점점 줄어드는 것을 로그 감쇠로 나타내되, 모든 언급이 0보다 큰 값을 받도록 했습니다.

3.2 수식

정의 3.1: 점수 함수

가중치가 wm인 모델 m이 엔티티 e를 순위 r에 올렸을 때의 점수는 다음과 같습니다.

S(e, r, m) = [1 / (1 + log10(r))] × wm × 100

최종 GenRank 점수는 이 값을 모든 질문 Q와 모델 M에 걸쳐 더한 값입니다.

G(e) = Σq∈Q Σm∈M S(e, rq,m, m)

3.3 점수 감쇠

로그 감쇠 함수로 계산한 순위별 상대값은 다음과 같습니다.

순위원점수상대값감쇠
11.000100.0%-
20.76976.9%−23.1%
30.67767.7%−9.2%
50.58858.8%−8.9%
100.50050.0%−8.8%
200.43543.5%−6.5%

3.4 계산 예

“가장 좋은 생산성 앱은?”이라는 질문에서 엔티티 “Notion”이 다음과 같은 순위를 받았다고 가정해 봅시다.

모델가중치순위원점수가중 점수
GPT-5.6 Luna0.4111.00041.00
Claude Sonnet 50.3020.76923.07
Gemini 3.7 Flash0.2930.67719.63
합계(질문 1개)83.70

4. 언어별 AI 서비스와 가중치

언어별 지수는 저마다 패널을 따로 둡니다. 패널은 그 시장 사람들이 실제로 쓰는 AI 서비스, 서비스마다 소비자에게 기본으로 제공되는 모델 하나, 그 시장의 이용 자료에서 도출한 가중치로 구성됩니다. 시장이 다르면 패널도 다릅니다. 한국에서는 AI 앱뿐 아니라 네이버와 구글의 검색 결과 화면에서도 AI 답변이 나옵니다. 북미에서는 AI 앱과 함께 구글 검색 결과 화면과 Copilot에서 답변이 나옵니다(v5.0 전까지 영어 지수의 패널은 AI 앱 3개였습니다). 일본에서는 AI 앱과 함께 구글 검색 결과 화면, Yahoo! JAPAN의 AI 어시스턴트, Copilot에서 답변이 나옵니다. 규칙은 모든 언어에 똑같이 적용합니다.

  • 포함 기준. 그 시장에서 합성 점유율이 3% 이상인 AI 서비스는 그 언어의 점수 패널에 들어갑니다(영어는 v5.0 전까지 §4.1.1, 한국어는 §4.4. 영어는 v5.0부터 미국 자료로, 일본어는 일본 자료로 §4.4의 방식을 적용합니다).
  • 가중치. 그 시장의 최신 공개 이용 자료로 산출하고, 분기마다 다시 계산해 출처와 함께 공개합니다.
  • 측정하는 서비스는 모두 점수에 반영. 패널이 측정하는 AI 서비스는 모두 가중치를 받습니다. 기준에 못 미치는 서비스는 측정하지 않고, 재조정 때마다 다시 검토합니다. 이미 받은 답변은 보관합니다.
  • 버전. 패널은 언어마다 방법론 버전과 발효일을 따로 두며, 미리 공지합니다(§6). 변경이 있어도 그 전에 측정한 데이터는 고치지 않습니다.
  • 언어끼리 섞지 않음. 점수, 랭킹, 엔티티는 언어별로 따로 계산합니다. 한국어 랭킹에 영어 답변을 더하지 않으며, 같은 브랜드라도 언어마다 별개의 엔티티로 다룹니다.
  • 새 언어는 같은 방법으로 도출한 자체 패널로 시작하며, 패널은 첫 측정 전에 이 문서에 공개합니다.
지수버전AI 서비스(가중치)주기
영어(v5.0 전까지)v3.2(2026년 11월 1일부터 v3.3. v3.4는 측정 전에 v5.0으로 대체)GPT-5.6 Luna 41, Claude Sonnet 5 30, Gemini 3.7 Flash 29(v3.4부터 GPT-6 Luna, Claude Haiku 5.5, Gemini 3.6 Flash)매월
영어(북미), 전국v5.0(2026년 11월 11일부터), v5.1(12월 1일부터)구글 AI 개요 28, ChatGPT 20, Claude 17, Gemini 16, 구글 AI 모드 11, Microsoft Copilot 8매월
영어(북미), 지역v5.0(2026년 11월 11일부터)구글 AI 개요 39, ChatGPT 20, Claude 16, 구글 AI 모드 15, Microsoft Copilot 10매월
영어(북미), 지역v5.1(2026년 12월 1일부터)구글 AI 개요 39, 구글 AI 모드 15, ChatGPT 14, Claude 12, Gemini 11, Microsoft Copilot 9매월
일본어(일본), 전국v6.0(첫 측정부터. 2026년 11월 13일 공지)구글 AI 개요 26, ChatGPT 19, Gemini 19, Claude 16, 구글 AI 모드 11, Yahoo! JAPAN 5, Microsoft Copilot 4매월
일본어(일본), 지역v6.0(첫 측정부터. 2026년 11월 13일 공지)구글 AI 개요 38, 구글 AI 모드 15, ChatGPT 13, Gemini 13, Claude 11, Yahoo! JAPAN 7, Microsoft Copilot 3매월
한국어 전국v4.0(2026년 10월 25일부터), v4.1·v4.2(11월 1일부터), v4.3(11월 15일부터)ChatGPT 24, 네이버 AI 브리핑 21, Claude 18, Gemini 15, 구글 AI 개요 9, 네이버 AI탭 7, 구글 AI 모드 3, Microsoft Copilot 3매주
한국어 지역v4.0(2026년 10월 25일부터), v4.1·v4.2(11월 1일부터)네이버 AI 브리핑 31, ChatGPT 23, Claude 16, 구글 AI 개요 12, 네이버 AI탭 10, 구글 AI 모드 5, Microsoft Copilot 3매주
한국어 지역v4.3(2026년 11월 15일부터)네이버 AI 브리핑 31, ChatGPT 16, Claude 12, 구글 AI 개요 12, Gemini 11, 네이버 AI탭 10, 구글 AI 모드 5, Microsoft Copilot 3매주

4.1 영어 지수: 산출 방법

모델 가중치는 1차 자료 세 가지를 합친 합성 지수로 산출합니다. 세 자료는 실제 AI 영향력의 서로 다른 측면을 보여 줍니다.

  • 소비자 시장 점유율(40%): Statcounter, SimilarWeb, 회사 공시에서 가져온 월간 활성 사용자 수와 웹 트래픽
  • 기업 도입(35%): 업계 보고서의 도입 지표와 API 매출 추정치5
  • 개발자 API 사용(25%): 통합 게이트웨이를 거친 토큰 처리량6

4.1.1 영어 지수: 가중치 도출(2026년 10월)

아래 각 요소는 재조정 시점의 최신 공개 수치에서 가져온 공급자 점유율을 활성 집합의 세 공급자 안에서 정규화한 값입니다. ~ 표시는 출처가 세부 내역을 일부만 공개해 추정한 값입니다. 합성값이 3% 중요성 기준에 못 미치는 공급자는 활성 집합에서 아예 뺍니다(출처 아래 설명 참고).

공급자소비자(40%)기업(35%)개발자(25%)합성
OpenAI59.2%30.7%~25.2%0.41
Anthropic10.1%45.5%~41.4%0.30
Google30.7%23.9%~33.5%0.29

소비자 출처: Similarweb의 주요 생성형 AI 챗봇 웹 방문 점유율, 2026년 5~8월(추적 대상 전체에서 ChatGPT 53.9%, Gemini 27.9%, Claude 9.2%, Grok 2.4%, Perplexity 1.3%를 활성 집합 안에서 다시 정규화). 기업 출처: 2026년 중반 업계 보고서의 기업 LLM API 사용 점유율(전체 기업 사용 중 Anthropic 40%, OpenAI 27%, Google 21%. xAI와 Perplexity는 추정). 개발자 출처: 공개 통합 게이트웨이(OpenRouter)의 모델 제작사별 토큰 점유율, 2026년 6월. 주로 직접 API로 이용되는 공급자는 점유율을 추정했으며, 그래서 이 요소의 비중을 25%로 제한했습니다. 합성값 = 0.40·소비자 + 0.35·기업 + 0.25·개발자(소수점 둘째 자리까지 반올림).

중요성 기준. 합성값이 3%에 못 미치는 공급자는 뺍니다. 그 정도 가중치로는 공개 점수에 미치는 영향이 반올림 오차 수준이기 때문입니다. Perplexity(이전 다섯 공급자 집합에서 합성값 0.01)와 xAI(0.03)는 2026년 10월에 활성 집합에서 빠졌습니다. 두 공급자의 과거 측정 데이터는 보존하며, 재조정 때마다 다시 평가합니다.

4.2 영어 지수: 현재 배분(2026년 4분기)

다음 표는 §4.1.1에서 도출한 2026년 10월 기준 활성 모델 가중치입니다. 추천이 학습 시점의 지식이 아니라 현재 정보를 반영하도록, 활성 집합은 주요 공급자마다 웹 검색이 되는 모델 하나로 제한합니다. 가중치는 주기적으로 재조정하며, 바뀔 때마다 변경 기록(§6)에 남깁니다. v5.0(2026년 11월 11일)부터 영어 지수는 §4의 AI 서비스 6곳에서 재고, 공급자마다 한국어 지수가 쓰는 모델을 씁니다. 그 모델을 아래 가중치로 공지했던 v3.4는 측정에 쓰이기 전에 대체됐습니다.

공급자모델가중치
OpenAIGPT-5.6 Luna(v3.4부터 GPT-6 Luna)0.41
AnthropicClaude Sonnet 5(v3.4부터 Claude Haiku 5.5)0.30
GoogleGemini 3.7 Flash(v3.4부터 Gemini 3.6 Flash)0.29
합계(활성 모델 3개)1.00

4.3 영어 지수: 공급자별 분포

공급자별 가중치 합계는 다음과 같습니다.

41%
OpenAI
30%
Anthropic
29%
Google

4.4 한국어 지수 가중치(v4.0)

v4.0부터 한국어 전국 지수는 API 모델 3개 대신 AI 서비스 8곳을 측정합니다. 네이버 AI 브리핑(네이버 검색 결과 화면), 네이버 AI탭, 구글 AI 개요(구글 검색 결과 화면), 구글 AI 모드, Microsoft Copilot, 그리고 ChatGPT, Gemini, Claude입니다. 측정하는 서비스는 모두 점수에 반영합니다. 검색 결과 화면의 AI 답변과 AI 앱을 함께 다룬 자료가 없어서, 한국어 가중치는 두 묶음으로 나눠 구성합니다. 묶음 비율은 검색 42 대 AI 앱 58입니다. AI 답변에 이르는 두 경로를 나눠 조사한 한국 자료가 나오면 이 비율을 그 값으로 바꿉니다. 가중치는 같은 출처로 분기마다 다시 계산합니다. 어느 서비스든 5점 넘게 달라지면 모든 가중치를 다시 계산한 값으로 바꾸고, 중대한 변경으로 공지합니다.

검색 묶음(42). InternetTrend(비즈스프링)의 한국 검색 엔진 점유율을 썼습니다. 이 점유율은 한국 웹사이트 방문 가운데 각 검색 엔진을 거쳐 들어온 비율입니다. 2026년 7~9월 평균(네이버 65.93%, 구글 27.67%, Bing 3.15%)을 세 엔진 안에서 정규화했습니다. 같은 엔진에 속한 AI 서비스 두 곳은 회사가 공개한 월 이용자 수로 나눕니다. 네이버 AI 브리핑 3,000만 명(네이버, 2025년 3분기, 공개된 최신 수치)과 네이버 AI탭 1,000만 명(네이버, 2026년 8월), 구글 AI 개요 25억 명과 구글 AI 모드 10억 명(Alphabet, 2026년 2분기, 전 세계 기준. 한국 수치는 공개되지 않았습니다)입니다. Bing 점유율은 Copilot의 검색 경로 몫으로 씁니다. 각 서비스가 우리 질문에 실제로 AI 답변을 보여 주는 비율은 가중치에 곱하지 않습니다. AI 답변이 나오지 않은 질문은 이미 언급이 없는 회차로 점수에 반영되기 때문입니다.

AI 서비스엔진 점유율엔진 내 비율가중치(× 42)
네이버 AI 브리핑68.15%75.0%21.47
네이버 AI탭68.15%25.0%7.16
구글 AI 개요28.60%71.4%8.58
구글 AI 모드28.60%28.6%3.43
Microsoft Copilot(Bing)3.26%100%1.37

AI 앱 묶음(58). §4.1의 합성 지수를 쓰되, 소비자 요소는 전 세계 웹 방문 대신 한국 월간 활성 사용자 수로 바꿨습니다. 와이즈앱 리테일의 2026년 9월 한국 스마트폰 사용자 수(ChatGPT 2,470만, Gemini 987만, Claude 404만, Copilot 196만)를 네 서비스 안에서 정규화했습니다. 기업 요소와 개발자 요소는 §4.1.1의 전 세계 수치를 씁니다(기업: Menlo Ventures, The State of Generative AI in the Enterprise, 2025년 12월, 미국 기업 495곳 조사. 개발자: OpenRouter의 모델 제작사별 점유율, 2026년 6월, 추정치는 ~ 표시). Copilot은 이 두 요소에서 따로 몫을 받지 않습니다. Copilot은 OpenAI 모델을 쓰고, 그 몫은 ChatGPT 행에 들어 있습니다. 한국 기업·개발자 자료가 나오면 전 세계 수치를 그 자료로 바꿉니다. Claude의 가중치가 한국 소비자 점유율보다 높은 것은 이처럼 기업·개발자 요소에 전 세계 수치를 쓰기 때문입니다.

AI 서비스한국 MAU(40%)기업(35%)개발자(25%)합성가중치(× 58)
ChatGPT60.88%30.67%~25.17%41.38%24.00
Gemini24.33%23.88%~33.47%26.46%15.35
Claude9.96%45.45%~41.36%30.23%17.53
Microsoft Copilot4.83%--1.93%1.12

한국어 전국 가중치(v4.0). Copilot은 계산하면 2.49(Bing 경로 1.37, 앱 1.12)이지만 3으로 정했습니다. 와이즈앱 수치는 모바일 앱만 세므로 Copilot이 기본 탑재된 Windows와 Edge에서의 이용이 빠지고, 같은 산식으로 계산하면 지역 패널에서는 Copilot이 3.0이 나오기 때문입니다. 나머지 일곱 값은 합이 97이 되도록 비례 조정한 뒤, 전체 합이 100이 되도록 최대 잔여법으로 반올림해 정수로 맞췄습니다.

AI 서비스수집 방식가중치
ChatGPTOpenAI API, 자체 웹 검색24
네이버 AI 브리핑네이버 검색 결과 화면21
ClaudeAnthropic API, 자체 웹 검색18
GeminiGoogle API, 구글 검색 그라운딩15
구글 AI 개요구글 검색 결과 화면9
네이버 AI탭네이버 AI탭(SerpApi 경유)7
구글 AI 모드구글 AI 모드(SerpApi 경유)3
Microsoft CopilotBing Copilot(SerpApi 경유)3
합계(AI 서비스 8곳)100

중요성 기준. Perplexity는 한국 월간 사용자가 129만 명으로 합성값이 1 안팎이어서 §4.1.1의 3% 기준에 못 미칩니다. 그래서 2026년 10월에 뺀 Grok, Sonar와 마찬가지로 측정하지 않습니다. A.(SK텔레콤, 110만 명)은 답변을 수집할 API도 결과 화면도 없습니다. Meta AI는 2026년 5월부터 한국에서 쓸 수 있지만, 한국에서 가장 많이 쓰는 AI 앱 10개에 들지 못했고(10위가 32만 명) 계산한 가중치가 0.2여서 v4.0부터 측정하지 않습니다. 모두 분기마다 가중치를 재조정할 때 다시 검토합니다.

지역 지수. 지역 질문(“강남 치과 추천해 줘”)은 v4.3(2026년 11월 15일)부터 전국 지수와 같은 AI 서비스 8곳에서 측정합니다. 가중치는 네이버 AI 브리핑 31, ChatGPT 16, Claude 12, 구글 AI 개요 12, Gemini 11, 네이버 AI탭 10, 구글 AI 모드 5, Microsoft Copilot 3입니다. 출처와 산식은 위와 같고 묶음 비율만 검색 60 대 AI 앱 40으로 다릅니다. 이 비율은 사람들이 동네 업체를 찾는 경로를 조사한 한국 자료가 나오면 그 값으로 바꿉니다. 지역 질문은 문장에 지명이 들어 있습니다. 네이버 AI 브리핑, 네이버 AI탭, Copilot, Gemini는 그 문장에서 지역을 읽고, ChatGPT, Claude, 구글의 두 서비스는 검색 위치로도 받습니다. v4.2까지는 Gemini를 뺀 7곳에서 측정했고 가중치는 네이버 AI 브리핑 31, ChatGPT 23, Claude 16, 구글 AI 개요 12, 네이버 AI탭 10, 구글 AI 모드 5, Microsoft Copilot 3이었습니다. 2026년 10월 21일에 지역 질문 50개(업종 5 × 지역 10)로 확인해 보니 AI 답변이 나온 비율이 네이버 98%, 구글 90%로 전국 질문과 비슷했습니다. 그래서 두 검색 서비스 모두 가중치를 낮추지 않습니다.

4.5 신뢰성과 정보 공개

4.5.1 표본과 신뢰구간

언어 모델은 같은 질문에도 매번 같은 답을 내놓지 않습니다. 그래서 질문 단위 수치에는 방향성 표시를 붙이며, 믿을 만한 신호는 집계한 수치입니다(§4.5.2).

v3.0부터 파이프라인은 질문과 모델 쌍마다 반복 표본을 지원합니다. 표준 월간 회차에서는 쌍마다 한 번 묻고, 점수는 구간 없이 공개합니다. 구간이 없으면 없다고 밝히며, 폭이 0인 구간처럼 확실한 값으로 보이게 하지 않습니다. 표본 회차(n = 3, 2026년 9월 첫 실행)에서는 가중치를 적용하기 전에 모델별 기여를 평균 내므로 점수를 모든 회차와 비교할 수 있습니다. 표본 사이의 흩어짐으로 신뢰구간을 계산해 공개합니다.

Var = Σ w ² · s ² / n
CI₉₅ = 1.96 · √Var · 100

카테고리 랭킹은 많은 질문, 모델, 표본을 합친 결과여서 구간이 질문 하나의 구간보다 좁습니다.

4.5.2 1차 지표는 언급률

답변 안에서 몇 번째로 나왔는지는 쉽게 흔들리는 신호이고, 모델이 그 엔티티를 언급했는지 자체가 안정적인 신호입니다. 그래서 GenRank는 언급률을 1차 지표로 보고합니다. 언급률은 전체 (모델 × 표본) 시행 가운데 그 엔티티를 언급한 비율입니다. 답변 속 위치는 2차 품질 신호로 남겨 둡니다.

4.5.3 무엇을 측정하는가

  • 수집 경로: 공급자 API와 검색 결과 화면입니다(§4.4). 개별 사용자가 로그인한 채팅 창에서 보는 답을 측정한다고 주장하지 않습니다.
  • 모델: AI 서비스마다 하나이며, 버전은 §4.2와 §6의 v4.0 항목에 적었습니다.
  • 웹 검색: 자체 웹 검색을 켜고, 호출당 검색 결과는 3개로 제한합니다.
  • 디코딩 파라미터: 공급자 기본값을 쓰며, 일부러 지정하지 않습니다(§2.2).
  • 버전 표시: 모든 점수에 그 점수를 만든 방법론 버전을 기록합니다. 그래서 개정판이 다른 수치를 버전 차이를 밝히지 않고 비교하는 일이 없습니다.

4.6 독립성

GenRank는 순위에 오른 어떤 대상에게도 순위를 바꾸기 위한 서비스를 팔지 않으며, 앞으로도 팔지 않습니다. 점수가 높든 낮든, 오르든 내리든 그에 따라 정해지는 대가는 없습니다. 잘못 측정된 대상은 언제나 무료로 정정하며, 정정을 유료 서비스로 제공하지 않습니다.

신용평가, 벤치마크, 감사에 관한 규제는 모두 이런 분리를 핵심으로 봅니다. GenRank도 같은 원칙을 따릅니다. 데이터와 진단을 공개하는 것은 정당하지만, 측정되는 값을 바꾸는 방법에 대한 조언을 파는 것은 정당하지 않습니다. 중대한 변경 절차와 정정 절차를 포함한 전체 정책은 별도로 공개했습니다. 방법론 변경과 정정은 §6에 기록합니다.

5. 한계

결과를 해석할 때는 다음과 같은 방법론의 한계를 고려해야 합니다.

5.1 시간에 따른 변동

LLM의 답변은 모델 업데이트, 미세 조정, 인간 피드백 기반 강화 학습 때문에 시간이 지나면서 달라질 수 있습니다. GenRank의 결과는 특정 시점의 스냅샷이므로, 변하지 않는 사실로 받아들여서는 안 됩니다.

5.2 확률적 표본

파라미터를 통제하더라도 LLM의 답변에는 본질적인 무작위성이 있습니다. 같은 질문이라도 실행할 때마다 순위가 다르게 나올 수 있습니다. 통계적 집계로 이 분산을 줄일 수는 있지만 없앨 수는 없습니다.

5.3 시장 가중치 추정

모델 가중치는 공개된 시장 자료로 산출하므로 실제 이용 행태를 완전히 반영하지 못할 수 있습니다. 기업의 API 사용량은 2차 자료로 추정한 값이어서 측정 오차가 있을 수 있습니다.

5.4 질문 설계 편향

어떤 질문을 고르고 어떻게 표현하느냐에 따라 추천 결과가 달라질 수 있습니다. 질문 설계에는 어떤 용도가 중요하고 어떤 표현이 자연스러운지에 대한 연구자의 가정이 들어갈 수밖에 없습니다.

5.5 엔티티 해석 오류

자동 엔티티 해석에서는 별칭을 잘못 연결하거나 이름이 비슷한 엔티티를 구분하지 못하는 오류가 생길 수 있습니다. 확인된 오류는 바로잡고 §6에 기록합니다.

6. 변경 기록과 정정

방법론은 버전으로 관리합니다. 아래 개정판마다 날짜를 적었으며, 결과는 항상 측정 당시 유효했던 방법론 버전에 비추어 해석해야 합니다. 버전 번호는 메이저.마이너(major.minor) 형식을 따릅니다. 메이저 버전은 장기 비교가 끊기는 변경(예: 점수 산식)이 있을 때 올리고, 마이너 버전은 모델 구성, 주기, 가중치, 엔티티 해석이 바뀔 때 올립니다. 변경은 발효 전에 공지하며, 영향을 측정할 수 있으면 예상 영향도 함께 밝힙니다. 모든 점수와 랭킹 스냅샷에는 산출에 쓴 버전을 기록합니다. 순위와 출처의 추이 차트는 현재 발효 중인 메이저 버전의 에디션만 그리며, 그 안에서 마이너 버전이 바뀐 지점은 따로 표시하지 않고 선으로 잇습니다. 이전 메이저 버전의 에디션은 차트에 넣지 않고, 영구 에디션 페이지와 API에 그대로 남겨 둡니다.

v6.0(일본어, 일본)2026년 11월 13일 공지 · 첫 일본어 측정부터 발효: 첫 측정은 이 공지 뒤에 한 번 직접 시작하고, 2026년 12월 1일부터 매월 측정합니다announced
  • 세 번째 지수: 일본, 일본어. 일본어로 쓴 질문을 일본에서 묻습니다. 한국어 지수, 북미 지수와 마찬가지로 질문, 패널, 엔티티, 점수를 따로 갖는 새 지수입니다. 한국어 지수와 북미 지수는 바뀌지 않습니다.
  • AI 서비스 7곳, 일본 이용 자료로 정한 가중치. 전국 지수는 구글 AI 개요 26, ChatGPT 19, Gemini 19, Claude 16, 구글 AI 모드 11, Yahoo! JAPAN 5, Microsoft Copilot 4입니다. 한국어 지수의 산식(§4.4)에 일본 자료를 넣었습니다. 검색과 AI 앱은 42 : 58로 나눕니다. 검색 안에서는 StatCounter의 2026년 8~10월 일본 모바일 검색 점유율(구글 85.07%, Yahoo! JAPAN 11.71%, Bing 0.89%)을 쓰고, 구글 몫은 구글이 2026년 5월에 밝힌 월 이용자(AI 개요 25억 명, AI 모드 10억 명, 세계)로 나누며, Yahoo! JAPAN 몫은 Yahoo! JAPAN의 AI 어시스턴트에, Bing 몫은 Copilot에 둡니다. AI 앱 안에서는 소비자 40%(일본리서치센터 2026년 9월 조사, 20~69세 가운데 지금 쓰는 사람: ChatGPT 33.5%, Gemini 33.1%, Copilot 12.5%, Claude 4.2%), 기업 API 35%, 개발자 25%(§4.1.1의 세계 값)로 계산합니다. Grok, Perplexity 등은 3% 기준에 못 미쳐 측정하지 않습니다.
  • 모바일 검색 점유율을 쓰는 이유. 북미 지수는 모든 기기의 점유율을 씁니다. 일본은 모든 기기 값에서 Bing이 2025년 8월 7.6%에서 2026년 10월 32.3%로 올랐는데, 오른 곳은 데스크톱뿐이고 같은 기간의 이용 조사에는 그런 변화가 없습니다. 모바일 값은 움직이지 않았습니다. 검색 결과 화면은 모든 지수에서 휴대폰 화면으로 읽고, 질문도 휴대폰에서 묻는 것들입니다.
  • 모델과 요청. ChatGPT는 GPT-6 Luna, Claude는 Claude Haiku 5.5, Gemini는 OpenRouter를 거쳐 구글 자체 검색을 켠 Gemini 3.5 Flash-Lite로 측정합니다. 한국어 지수, 북미 지수와 같은 모델입니다. 구글의 두 서비스는 SerpApi로 일본에서 일본어로 한 검색을 휴대폰 화면으로 읽고, Copilot에는 질문만 보냅니다. Yahoo! JAPAN은 로그인하지 않은 방문자가 AI 어시스턴트에서 받는 첫 답을 읽습니다. 가게, 호텔, 상품 카드에 적힌 이름은 답변에 풀어 적습니다. 광고와 다음 질문 제안은 답변에 넣지 않습니다. 다른 지수와 같이 질문은 원문 그대로 보내고, 지시문이나 샘플링 값은 붙이지 않습니다.
  • 역, 구, 도시의 지역 지수. 단위는 사람들이 업종과 함께 쓰는 지명입니다. 큰 도시 안에서는 역과 구 이름(新宿, 梅田, 世田谷区), 그 밖에서는 도시 이름(金沢)이고, 모든 도도부현의 현청 소재지를 넣었습니다. 모두 170곳입니다. (카테고리, 지역) 쌍마다 “{지역}でおすすめの{업종}は?” 형태의 질문 하나를 묻습니다. 구글 트렌드의 12개월 검색 관심도가 “歯医者 新宿”의 20% 이상인 쌍을 넣어 169곳, 64개 카테고리, 1,720쌍입니다. 질문 문장에 지명이 들어 있습니다. ChatGPT와 Claude에는 그 도시를 사용자 위치로도 지정하고 구글 두 서비스에는 검색 위치로 지정합니다. Gemini, Copilot, Yahoo! JAPAN은 문장에서 지명을 읽습니다. 지역 지수의 가중치는 같은 7곳에 검색과 AI 앱을 60 : 40으로 나눈 값입니다: 구글 AI 개요 38, 구글 AI 모드 15, ChatGPT 13, Gemini 13, Claude 11, Yahoo! JAPAN 7, Microsoft Copilot 3. 페이지를 검색 엔진에 공개하고 정식 순위로 표시하는 기준은 북미 지수와 같습니다(§4.4). 첫 측정부터, 답변에 서로 다른 업체가 충분히 나오고 AI 서비스 두 곳이 같은 업체를 언급하면 됩니다.
  • 질문. 전국 질문은 549개 카테고리에 1,633개입니다. 일본에 맞춰 쓰고 하나씩 읽었습니다. 1,325개는 다른 지수의 질문과 같은 것을 묻고, 308개는 일본어에만 있습니다. 일본에만 있는 카테고리는 29개입니다(日本酒, 軽自動車, コンビニ, 整骨院 등). 일본에서 물을 것이 없는 카테고리에는 일본어 질문을 두지 않았습니다. 지역 질문의 결과는 전국 순위에 더하지 않습니다.
  • 주기. 매월 1일, 일본 시간으로 전국은 17시, 지역은 21시에 측정합니다. 점수는 북미 지수와 같이 최근 네 번의 측정을 창으로 계산합니다.
  • 엔티티. 브랜드와 업체는 일본어 지수 안에서 따로 엔티티가 됩니다. 한국어 지수, 북미 지수의 같은 이름과 합치지 않습니다. 이름은 답변이 쓴 대로(한자, 가나, 로마자) 둡니다. 표기가 다른 두 이름은 판정 모델과 두 번째 의견이 모두 같은 대상이라고 볼 때만 합칩니다.
  • 비교. 새 지수의 메이저 버전입니다. 이전 일본어 데이터가 없고, 점수는 이 지수 안에서만 비교합니다.
v5.1(영어, 북미)2026년 11월 13일 공지 · 2026년 12월 1일 발효: 그날 시작하는 영어 월간 측정부터announced
  • Gemini를 재는 모델과 경로. 한국어 지수 v4.3과 같은 변경입니다. Gemini는 Gemini 3.6 Flash 대신 Gemini 3.5 Flash-Lite로 측정합니다. Gemini 앱이 2026년 10월 9일부터 무료 이용자에게 제공하는 모델입니다. 요청은 OpenRouter를 거쳐 구글 자체 검색을 켠 채로 보내며, OpenRouter는 질문 앞에 오늘 날짜를 덧붙입니다. 두 모델의 비교 결과는 v4.3 항목에 있습니다.
  • 지역 지수에 Gemini 추가. 12월 1일 측정부터 지역 질문도 Gemini에서 측정합니다. 지역 질문은 문장에 도시 이름이 들어 있고, Gemini는 Copilot과 같이 그 문장에서 도시를 읽습니다. 지역 지수의 가중치는 구글 AI 개요 39, 구글 AI 모드 15, ChatGPT 14, Claude 12, Gemini 11, Microsoft Copilot 9입니다. 산식은 그대로이고 AI 앱 묶음을 ChatGPT, Gemini, Claude, Copilot 네 곳으로 나눕니다.
  • 그대로인 것. 전국 지수의 가중치, 구글 두 서비스의 지역 가중치, 월간 주기, 질문, 점수 산식은 바뀌지 않습니다. 12월 1일 전에 측정한 결과는 다시 계산하지 않습니다. 마이너 버전이므로 차트는 이어서 그립니다.
v5.0(영어, 북미)2026년 11월 11일 공지, 11월 12일 보완 · 2026년 11월 11일 발효: 그날 시작한 영어 측정부터announced
  • 영어 지수는 북미 지수가 됩니다. 전국 질문을 미국에서 묻습니다. ChatGPT와 Claude에는 사용자 위치로 미국을 지정하고, 구글 AI 개요와 구글 AI 모드는 미국에서 한 검색으로 읽습니다. Copilot에는 위치를 지정하지 않습니다(11월 12일 보완. 11월 11일 측정에는 나라를 지정했습니다). 지금까지 영어 질문에는 위치가 없어 여러 나라의 답이 섞였습니다. 영국, 호주, 인도 등 다른 영어권 시장은 측정하지 않습니다.
  • AI 서비스 6곳, 미국 이용 자료로 정한 가중치. AI 앱 3곳에 구글 검색 결과 화면과 Copilot을 더합니다. 구글 AI 개요 28, ChatGPT 20, Claude 17, Gemini 16, 구글 AI 모드 11, Microsoft Copilot 8입니다. 한국어 지수의 산식(§4.4)에 미국 자료를 넣었습니다. 검색과 AI 앱은 42 : 58로 나눕니다. 검색 안에서는 StatCounter의 2026년 8~10월 미국 점유율(구글 85.55%, Bing 9.55%)을 쓰고, 구글 몫은 구글이 2026년 5월에 밝힌 월 이용자(AI 개요 25억 명, AI 모드 10억 명, 세계)로 나누며, Bing 몫은 Copilot에 둡니다. AI 앱 안에서는 각 앱을 쓰는 미국 성인 비율 40%(퓨 리서치 센터, 2026년 2월 조사: ChatGPT 44%, Gemini 24%, Copilot 17%, Meta AI 14%, Grok 8%, Claude 6%), 기업 API 점유율 35%, 개발자 점유율 25%(뒤 둘은 §4.1.1의 세계 값)입니다. Meta AI(2.9)와 Grok(1.6)은 3% 기준에 못 미쳐 측정하지 않습니다. 조사에 없는 Perplexity도 넣지 않습니다. 모델은 v3.4에서 공지한 GPT-6 Luna, Claude Haiku 5.5, Gemini 3.6 Flash이고, v3.4는 측정에 쓰이기 전에 이 버전으로 대체됩니다. 검색 화면은 한국어와 같이 휴대폰 화면으로 읽습니다.
  • 미국과 캐나다 도시의 지역 지수. 별도의 지역 지수는 검색 수요로 고른 (카테고리, 도시) 쌍마다 “What are the best {업종} in {도시}?” 형태의 질문을 묻습니다. 단위는 사람들이 업종과 함께 쓰는 지명입니다. 미국 인구 상위 100개 도시권의 중심 도시, 큰 도시권 안에서 따로 불리는 도시와 자치구(브루클린, 플레이노, 스코츠데일), 캐나다 도시권 13곳으로 모두 174곳이고, 동네 업종 카테고리는 113개입니다. 구글 트렌드의 12개월 검색 관심도가 “dentist chicago”의 10% 이상인 쌍을 넣습니다(업종 단어와 지명이 순서와 상관없이 모두 들어간 검색을 세고, 다른 곳과 이름이 같은 도시는 그 주 안의 검색으로 셉니다). 2026년 11월 11일 기준 174개 도시, 98개 카테고리, 3,737쌍으로, 전국 지수의 질문 수와 비슷합니다. 질문에는 도시와 주를 적고(“Austin, TX”), ChatGPT, Claude, 구글 AI 개요, 구글 AI 모드에는 그 도시를 검색 위치로 지정합니다. 캐나다 도시는 구글 캐나다 결과로 읽습니다. Copilot에는 위치를 지정하지 않고 질문에 적힌 도시로 읽습니다(11월 12일 보완. 11월 11일 측정에는 나라를 지정했습니다). AI 서비스는 5곳입니다. 구글 AI 개요 39, ChatGPT 20, Claude 16, 구글 AI 모드 15, Microsoft Copilot 10(검색 60 : AI 앱 40. Gemini 그라운딩은 검색 위치를 받지 않습니다). 엔티티는 도시별로 해석하고, 지역 결과는 전국 랭킹에 더하지 않습니다. 지역 페이지는 첫 측정부터 공개합니다. 답변에 서로 다른 업체가 8곳 이상(의료, 법률 외 카테고리는 5곳 이상) 나오고 그중 하나 이상을 AI 서비스 두 곳이 언급하면 바로 검색 엔진에 노출하고 정식 순위로 표시합니다. 기다리는 기간은 없습니다.
  • 구글 AI 개요는 모든 지역 질문에 답하지 않습니다. 2026년 11월 10일에 지역 질문 50개로 시험했을 때 구글 AI 개요는 27개에 답했습니다(치과 10개 중 9개, 상해 변호사 10개 중 10개, 식당 10개 중 6개, 배관 10개 중 1개, 미용실 10개 중 1개. 나머지에는 지도 업체 목록이 나왔습니다). 구글 AI 모드는 50개 모두, Copilot은 43개에 답했습니다. AI 답변이 없는 화면은 언급이 없는 회차로 세므로(§4.4), 일부 카테고리에서는 구글 AI 개요 열이 대부분 비게 됩니다. 그 카테고리의 모든 업체 점수가 똑같이 낮아질 뿐 카테고리 안의 순서는 바뀌지 않습니다.
  • 전국 질문 개편. 영어 질문을 모두 11월 1일 측정의 답변과 대조해 읽었습니다. 1,385개 가운데 213개는 이 버전에서 측정을 마칩니다. 답변에 이름 없이 종류나 조언만 나온 질문 97개(활동 및 실천, 개념 및 지식 카테고리의 대부분), 답변이 사는 곳을 되물은 동네 업체 질문 66개(이제 지역 지수가 도시별로 묻습니다), 다른 시장에 맞춰 쓴 질문 25개, 중복 13개, 범위가 너무 넓거나 다른 카테고리에 속한 질문 12개입니다. 이 가운데 156개는 같은 주제로 전국 체인, 전국적으로 알려진 기관, 업체를 찾을 때 쓰는 사이트를 묻는 질문으로 바꿉니다. 2,314개를 새로 더합니다. 이미 측정하던 카테고리의 질문을 늘리고, 한국어 질문만 있던 카테고리 84개에 영어 질문을 두고, 카테고리 21개를 새로 만듭니다(픽업트럭, 그리고 동네 업종 20개: 카이로프랙틱, 긴급 진료, 물리치료, 1차 진료, 주택 도장, 집수리 기사, 수목 관리, 차고 문 수리, 바닥재, 울타리, 창호 교체, 태양광 설치, 수영장, 침수·화재 복구, 폐기물 수거, 견인, 자동차 유리, 산재 보상 변호사, 주택담보대출 기관, 보험 대리점). 영어 전국 지수는 560개 카테고리에서 3,486개 질문을 묻고, 카테고리 8개에는 영어 질문을 두지 않습니다. 어느 질문에도 브랜드 이름을 넣지 않습니다. 측정을 마친 질문의 페이지와 결과는 남고, 바꾼 질문은 새 측정으로 시작합니다.
  • 주기와 비교 가능성. 주기는 지금처럼 매월입니다. v5.0의 첫 측정은 2026년 11월 11일에 시작하고, 12월부터는 매월 1일 측정입니다. 1일(UTC)에 전국 질문은 0시 10분, 지역 질문은 4시에 시작합니다(11월 12일 보완. 한국 시간으로 1일 9시 10분과 13시). 답변은 읽는 날에 쓰이는 모델로 읽습니다. v4.3에서 공지한 읽기 모델은 두 언어 모두 11월 15일부터 씁니다. v5.0은 주 버전입니다. AI 서비스, 가중치, 질문을 묻는 위치가 모두 바뀌므로 발효 전후의 영어 점수는 비교할 수 없습니다. 영향 크기 수치는 공개하지 않고, 이전 결과는 다시 계산하지 않으며, 차트는 v5.0의 첫 측정부터 새로 그립니다. 한국어 지수는 바뀌지 않습니다.
  • 답하지 않은 AI 서비스(11월 12일 추가). 12월 측정부터 한국어 지수와 같은 규칙을 씁니다(v4.3 항목). AI 서비스가 어떤 질문에 답을 주지 않으면 그 칸을 미측정으로 기록하고, 그 질문은 답한 서비스들의 답으로 점수를 냅니다. 미측정 칸은 점수에 아무것도 더하지 않고, 나머지 가중치는 다시 정규화하지 않습니다.
  • 공지한 날의 개정. 이 항목은 11월 11일 오전에 발효일 11월 15일, 지역 기준 3%(6,334쌍), 전국 질문 1,445개로 처음 공지했습니다. 같은 날, 이 버전으로 측정하기 전에 기준을 10%로 올리고 전국 질문을 위와 같이 개편했으며 발효일을 11월 11일로 옮겼습니다.
v4.3(한국어), v3.4(영어)2026년 11월 5일 공지, 11월 9일·12일·13일 보완 · 2026년 11월 15일 0시(KST) 발효: 한국어는 11월 15일 주간 측정부터, 영어는 12월 1일 월간 측정부터announced
  • 답변을 읽는 모델 교체. 답변이 이름을 댄 항목을 뽑는 추출 모델을 Gemini 2.5 Flash에서 GPT-6 Luna(추론 강도 low)로 바꿉니다. 일치 여부가 불확실한 언급, 일반 용어, 한 질문 안의 이름들이 같은 대상인지, 별칭, 병합 후보를 판정하는 모델은 GPT-5.6 Luna와 Gemini 2.5 Flash에서 GPT-6.1 Sol로 바꿉니다. Google이 2026년 12월 1일 Gemini 2.5 Flash 제공을 끝내고 그날부터 요청을 다른 모델로 넘기므로, 그 전에 공지하고 바꿉니다.
  • 바꾸기 전 측정. 11월 1일 측정의 한국어 답변 70개에서, 어느 모델이 뽑았는지 모르는 언어 모델 검토자가 답변 본문과 대조해 답변이 이름을 댄 항목을 정했습니다. 새 추출 모델은 F1 97.9(이전 89.9), 잘못 뽑은 항목 3개(이전 58개)였습니다. 이전 모델은 소설 추천 답변에서 작가 이름을 작품과 따로 뽑는 경우가 많았습니다. 정답을 아는 판정 450건에서 새 판정 모델은 91.1%(이전 88.2%)를 맞혔고, 언급을 다른 엔티티에 잘못 잇는 경우가 줄었습니다.
  • 영어 지수도 한국어 지수와 같은 모델(v3.4). 12월 1일 영어 측정부터 영어 지수는 공급자 세 곳을 한국어 지수가 쓰는 모델로 잽니다. GPT-5.6 Luna, Claude Sonnet 5, Gemini 3.7 Flash 대신 GPT-6 Luna, Claude Haiku 5.5, Gemini 3.6 Flash이고, 가중치(0.41, 0.30, 0.29)는 그대로입니다. Claude는 한국어와 같이 같은 회사의 경량 모델로 잽니다. 앞으로 이 공급자들의 한국어 모델이 바뀌면 영어 모델도 같은 버전에서 함께 바뀝니다. 이 부분은 측정에 쓰이기 전인 2026년 11월 11일에 v5.0으로 대체됐습니다. 모델은 같고 AI 서비스가 6곳으로 늘었습니다.
  • 이름은 답변의 표기 그대로. 추출 규칙에 “이름은 답변이 쓴 언어와 문자 그대로 적고, 번역과 다른 표기는 별칭으로 둔다”를 더합니다.
  • 병합에는 두 모델의 동의가 필요(11월 9일 추가). 지금까지는 이미 있는 두 엔티티가 같은 대상인지를 판정 모델 하나가 정했고, 결정 모델의 두 번째 의견은 기록만 했습니다. 이 버전부터는 결정 모델도 같은 대상이라고 볼 때(확률 0.8 이상)만 합치고, 결정 모델이 확신하지 않는 쌍은 따로 둡니다. 병합은 되돌릴 수 없으므로 잘못 합치는 일을 먼저 막습니다. 그 대신 일부 중복은 더 오래 따로 남을 수 있습니다.
  • 부분별로 시간대를 나눈 측정(11월 12일 추가). 11월 15일 주부터 지수의 각 부분을 정해진 시간대에 하나씩 측정합니다. 한국어는 일요일(KST)에 전국 질문 0시 10분, 지역 질문 4시에 시작합니다. 지금까지는 전국과 지역을 일요일 3시에 함께 시작했습니다. 월간인 영어는 매월 1일(UTC)에 전국 질문 0시 10분, 지역 질문 4시에 시작합니다. 한 주의 시작(일요일 0시 KST), 한국어의 주간 주기, 영어의 월간 주기는 그대로입니다. 한국어 주간 측정은 어느 시간대에서든 월요일 아침 전에 끝나도록 일요일 안에 배치했습니다.
  • 답하지 않은 AI 서비스(11월 12일 추가). 어떤 질문에 AI 서비스가 오류나 수집 차단으로 답을 주지 않으면 같은 요청을 한 번 더 보냅니다. 그래도 답이 없으면 그 칸을 그 회차의 미측정으로 기록하고 다음 회차에 다시 측정합니다. 그 질문은 답한 서비스들의 답으로 점수를 냅니다. 미측정 칸은 점수에 아무것도 더하지 않고, 나머지 가중치는 다시 정규화하지 않습니다. v4.0 공지의 재정규화 문장은 이 규칙으로 바뀝니다. 지금까지는 점수에 들어가는 서비스 가운데 하나라도 집계 기간 안에 답이 없으면 그 질문은 그 회차에 점수를 내지 않았습니다.
  • Gemini를 재는 모델과 경로(11월 13일 추가). Gemini는 Gemini 3.6 Flash 대신 Gemini 3.5 Flash-Lite로 측정합니다. Gemini 앱이 2026년 10월 9일부터 무료 이용자에게 제공하는 모델입니다. 이 지수는 앱이 일반 이용자에게 기본으로 주는 모델을 잽니다. 요청은 OpenRouter를 거쳐 구글 자체 검색을 켠 채로 보냅니다. OpenRouter는 검색을 켠 요청에서 질문 앞에 오늘 날짜를 덧붙이고, 그 밖에는 질문만 전달합니다. 운영 중인 질문 140개를 두 모델에 물어 보니 Gemini 3.6 Flash가 든 상위 10개 가운데 37%를 Flash-Lite도 들었습니다(한국어 34%, 영어 45%). 같은 모델에 같은 질문을 두 번 물었을 때는 51%였습니다. Flash-Lite는 답 하나에 드는 이름이 평균 10.4개에서 8.6개로 적고, 검색을 더 자주 합니다. 모델을 바꾸기 전에 두 모델을 4주 동안 나란히 측정하는 절차는 이번에는 이 비교로 대신합니다. 4주 집계 기간에는 새 모델의 답만 넣습니다. Gemini 3.6 Flash로 받은 지난 주의 답은 그 주 에디션에 그대로 남고, 새 모델은 집계 기간을 처음부터 채웁니다.
  • 지역 지수에 Gemini 추가(11월 13일 추가). 11월 15일 주부터 지역 질문도 Gemini에서 측정합니다. 지역 질문은 문장에 지명이 들어 있고, Gemini는 네이버 AI 브리핑, 네이버 AI탭, Copilot과 같이 그 문장에서 지역을 읽습니다. 지역 지수의 가중치는 네이버 AI 브리핑 31, ChatGPT 16, Claude 12, 구글 AI 개요 12, Gemini 11, 네이버 AI탭 10, 구글 AI 모드 5, Microsoft Copilot 3입니다. 산식은 그대로이고 AI 앱 묶음을 ChatGPT, Gemini, Claude, Copilot 네 곳으로 나눕니다. 검색 서비스의 가중치와 전국 지수의 가중치는 그대로입니다. 11월 15일 전에 측정한 지역 결과는 다시 계산하지 않습니다.
  • 그대로인 것. 주간 주기와 질문은 바뀌지 않습니다. AI 서비스와 가중치는 위의 Gemini 변경 말고는 그대로입니다. 점수 산식은 위의 미측정 규칙 말고는 그대로입니다. 발효 전에 낸 결과는 다시 계산하지 않습니다. 두 버전 모두 마이너 버전이므로 차트는 이어서 그립니다. API는 같은 시각부터 새 추출 모델을 새 extractor_version으로 알립니다.
v4.22026년 10월 28일 공지 · 2026년 11월 1일 한국어 주간 측정(일요일 03:00 KST)부터 v4.1과 함께 발효announced
  • v4.1과 같은 회차에 발효. v4.2는 v4.1의 질문 변경을 바탕으로 한 추가 변경이며, 11월 1일 측정에서 v4.1과 함께 발효합니다. v4.1이 이 회차에 하기로 한 변경은 모두 그대로 적용하고, 이 회차부터 한국어 결과에는 v4.2를 기록합니다.
  • 뷰티 제품과 병의원 카테고리 세분화. 한국어 카테고리 21곳을 새로 만듭니다. 뷰티 및 퍼스널케어에는 클렌징, 토너·패드, 세럼·앰플, 크림·로션, 마스크팩, 더마·트러블 케어, 베이스 메이크업, 립 메이크업, 아이 메이크업, 두피·탈모 케어, 이너뷰티를 더하고, 의료 서비스에는 임플란트, 치아교정, 피부 시술 클리닉, 눈성형, 코성형, 가슴·체형 성형, 안면윤곽·양악, 리프팅·안티에이징 성형, 시력교정, 척추·관절 병원을 더합니다. 카테고리 트리는 그대로 세 단계입니다. 새 카테고리는 스킨케어, 메이크업, 헤어케어, 치과, 피부과, 성형외과, 안과, 정형외과와 나란히 놓이고, 이 기존 카테고리들은 일반 질문을 계속 묻습니다. 병의원 질문은 전국적으로 알려진 곳(브랜드, 네트워크, 전문 분야)을 묻고, 동네 업체는 지역 지수에서 측정합니다.
  • 질문 36개는 새로 나뉜 카테고리에서 이어서 측정합니다. 이미 측정하던 질문 가운데 그 주제의 카테고리가 새로 생긴 질문은 원래 카테고리에서 측정을 마치고, 새 카테고리에서 같은 문장 그대로 묻습니다. 측정을 마친 질문의 페이지에서는 이어서 측정하는 질문으로 연결됩니다. 새 질문은 4주 집계 기간을 처음부터 시작하며, 이전 질문으로 측정한 결과는 그 페이지와 지난 에디션에 남습니다.
  • 모든 카테고리 질문 8개 이하. 지금까지 카테고리마다 한국어 질문이 1개에서 12개까지 있었습니다. 우선 카테고리(한국 사업자가 실제로 대응하는 카테고리)는 10개에서 8개로 줄이고, 나머지 카테고리는 4~6개, 상위 카테고리는 자체 질문 2개로 맞춥니다. 상위 카테고리 랭킹에는 하위 카테고리의 질문이 모두 합산되기 때문입니다. 질문이 8개를 넘던 카테고리 114곳에서는 사람들이 덜 묻는 질문(질문 랭킹과 같은 검색 신호와 모델 추정 기준), 10월 25일 주간 답변에서 업체 이름이 가장 적게 나온 질문, 같은 카테고리의 다른 질문과 주제가 겹치는 질문의 측정을 마칩니다. 답변이 지역을 되묻거나 아무 이름도 대지 못한 병의원 질문 9개, 중복이거나 카테고리에 맞지 않는 질문 16개도 측정을 마칩니다. 질문이 1~3개인 카테고리는 답변에 브랜드가 나오지 않아 v4.0과 v4.1에서 질문을 줄인 개념 카테고리와 동네 서비스 카테고리이며, 질문을 다시 채우지 않습니다.
  • 한국어 전국 질문 2,917개(v4.1은 3,101개)를 11월 1일부터 측정합니다. 294개는 측정을 마치고(그중 36개는 새 카테고리에서 이어서 측정), 74개를 새로 더하며, 아직 측정하지 않은 1개는 새 카테고리로 옮깁니다. 지역 지수는 그대로입니다(3,327쌍). 새 카테고리에는 전국 질문만 있습니다.
  • AI 서비스, 가중치, 주기, 점수 산식은 바뀌지 않습니다. 11월 1일 전에 측정한 결과는 다시 계산하지 않으며, 주간 에디션도 공개한 그대로 둡니다. 새 카테고리로 질문을 넘긴 카테고리는 11월 1일 측정부터 바뀐 질문 묶음으로 순위를 매깁니다.
v4.12026년 10월 26일 공지 · 2026년 11월 1일 한국어 주간 측정(일요일 03:00 KST)부터 발효announced
  • 답변으로 질문 점검. 10월 25일 주간의 답변 49,393개를 모두 네 종류로 나눴습니다. 이름을 댄 답, 지역 같은 조건을 되묻는 답, 답할 수 없다는 답, 이름 없이 유형과 고르는 기준만 말한 답입니다. 분류는 결정 모델이 맡았고, 사람이 직접 분류한 답변 130개와 비교해 확인했습니다(네 종류 일치율 96%). AI 서비스 두 곳 이상이 되묻거나, 세 곳 이상이 일반론으로 답하고 그런 답이 이름을 댈 수 있었던 답의 40% 이상이면 그 질문을 점검 대상으로 표시합니다. v4.1부터는 답변을 수집할 때마다 분류하고, 점검은 매주 합니다.
  • 한국어 전국 질문 190개 측정 종료. 162개는 대체 질문 없이 측정을 마칩니다. 어떤 브랜드도 답이 될 수 없는 개념, 활동, 방법에 관한 질문(활동 및 실천, 개념 및 지식 카테고리의 대부분), 동네 업체의 가격을 묻는 질문, 지역 지수가 위치를 지정해 측정하는 시술별 동네 업체 질문입니다. 28개는 같은 주제로 브랜드, 체인, 법인을 묻는 질문으로 바꿉니다(“토끼 건초 추천해 줘”를 “토끼 건초 어느 브랜드가 좋아?”로 바꾸는 식). 점검 대상으로 표시됐지만 AI 서비스 다섯 곳 이상이 여전히 이름을 댄 33개는 계속 측정하고, 4주 뒤 다시 점검합니다. 지역 질문은 바꾸지 않았습니다. 모든 지역 질문에서 AI 서비스 세 곳 이상이 이름을 댔습니다.
  • 한국어 전국 질문 3,101개(이전 3,263개)를 11월 1일부터 측정합니다. 측정을 마친 질문의 페이지, 답변, 주간 에디션은 그대로 남지만, 그 점수는 v4.1 첫 회차부터 어떤 랭킹에도 들어가지 않습니다. 모든 질문의 측정을 마친 카테고리 11곳은 카테고리 트리에서 빠지고, 페이지는 남습니다.
  • AI 서비스, 가중치, 주기, 점수 산식은 바뀌지 않습니다. 계속 측정하는 질문은 4주 집계 기간을 그대로 이어 가고, 새 질문은 집계 기간을 처음부터 시작합니다. v4.0으로 측정한 결과는 다시 계산하지 않습니다.
  • 호출 경로. 11월 1일부터 Claude와 Gemini도 ChatGPT처럼 직접 호출합니다. 어느 경로로 보내든 요청은 같으며, 어떤 경로를 썼는지는 계속 답변마다 기록합니다.
  • 휴대폰 화면. 11월 1일부터 네이버 AI 브리핑, 구글 AI 개요, 구글 AI 모드는 휴대폰에 보이는 화면 그대로 읽습니다. 네이버 AI탭과 Microsoft Copilot은 기기를 지정하는 설정이 없습니다. 어떤 기기로 읽었는지는 답변마다 기록합니다. 휴대폰 화면에서 구글은 답에 나온 업체를 장소 카드로 함께 보여 줍니다. 장소 카드는 답에 나온 이름이지 인용한 출처가 아니므로 인용으로 세지 않습니다.
  • 구글·Copilot 답변의 목록 항목 정정. 10월 27일부터 목록의 모든 단계를 읽습니다. 항목 아래에 다시 나열된 하위 항목까지 포함합니다. 구글의 지역 답변이 동네를 먼저 적고 업체를 그 아래에 나열하기 때문입니다. 보관해 둔 10월 25일 주간 화면을 같은 방식으로 다시 읽어, 그 주의 순위와 주간 에디션을 다시 계산했습니다. 화면 원본은 받은 그대로 보관하고 있습니다.
  • 구글 링크. 구글 AI 모드가 답변 본문에 링크로 넣는 구글 이동 주소(google.com/goto)는 열어서 연결되는 페이지의 주소로 저장합니다. 구글 번역을 거쳐 인용한 페이지는 번역 대상인 원래 페이지로 셉니다. 장소 카드는 본문 링크로 들어와도 인용으로 세지 않습니다. google.com에 있는 구글 지도와 구글 쇼핑 페이지는 각각 구글 지도(리뷰·중개 플랫폼), 구글 쇼핑(쇼핑)으로 셉니다. 이미 받은 답변의 인용도 같은 규칙으로 다시 읽고, 출처 통계를 다시 계산했습니다. 순위와 점수는 인용을 쓰지 않으므로 바뀌지 않습니다.
  • 검색 도구 실패. 11월 1일부터 검색 도구가 실패한 뒤 작성된 답은 저장하지 않고 같은 요청을 다시 보냅니다. 그래도 검색이 실패하면 그 칸은 미측정으로 기록합니다.
v4.02026년 10월 21일 공지 · 2026년 10월 25일 첫 한국어 주간 측정(일요일 03:00 KST)부터 발효announced
  • 한국어 질문 매주 측정. 한국어 질문은 매주 측정합니다(한 주는 일요일 00:00 KST에 시작). 공개 랭킹은 4주 집계 기간을 기준으로 하며 신뢰구간을 함께 보여 줍니다. 영어 질문은 지금처럼 매월 측정합니다. 주마다 나오는 카테고리 랭킹은 그 주가 끝나면 더 이상 바뀌지 않는 영구 페이지(/ko/w/{YYYY-WW}/c/{카테고리})로 남습니다. 그래서 공개된 수치는 어느 것이든 주 단위로 인용할 수 있습니다.
  • 한국어 AI 서비스 8곳. 한국어 전국 지수는 AI 서비스 8곳을 다음 가중치로 측정합니다. ChatGPT(GPT-6 Luna) 24, 네이버 AI 브리핑 21, Claude(Claude Haiku 5.5) 18, Gemini(Gemini 3.6 Flash) 15, 구글 AI 개요 9, 네이버 AI탭 7, 구글 AI 모드 3, Microsoft Copilot 3입니다(§4.4에서 도출). Perplexity는 3% 중요성 기준에 따라 뺍니다. Claude는 소비자 기본 모델 대신 같은 회사의 경량 모델로 측정합니다.
  • 측정하는 AI 서비스는 모두 점수에 반영. 네이버 AI탭, 구글 AI 모드, Copilot도 §4.4의 가중치(7, 3, 3)로 점수에 반영합니다. Meta AI(계산한 가중치 0.2), Grok, Perplexity는 측정하지 않습니다.
  • 검색 결과 화면의 AI 서비스. 네이버 AI 브리핑, 네이버 AI탭, 구글 AI 개요, 구글 AI 모드, Copilot은 질문 텍스트로 검색한 결과 화면에서 수집합니다. AI 답변이 나오지 않은 질문은 언급이 없는 회차로 셉니다. 수집이 막힌 주에는 그 서비스의 열을 미측정으로 표시하고 나머지 가중치를 다시 정규화합니다. 이 경우 언급 0회로 세지 않습니다.
  • 영어 지수. 공급자 세 곳과 가중치(0.41, 0.30, 0.29)는 그대로입니다. 모델 버전은 GPT-6 Luna, Gemini 3.6 Flash, Claude Haiku 5.5로 바꿉니다. 이 부분은 10월 25일에 발효되지 않았고, 11월 1일 영어 측정은 GPT-5.6 Luna, Claude Sonnet 5, Gemini 3.7 Flash로 했습니다. v3.4로 다시 공지했고, v5.0과 함께 2026년 11월 11일 영어 측정부터 적용합니다.
  • 질문 랭킹. 카테고리마다 질문을 사람들이 자주 묻는 순서대로 보여 줍니다. 순서는 공개된 두 입력을 카테고리 안에서 50:50으로 합쳐 정합니다. 검색 요소는 질문에서 검색 신호가 가장 강한 키워드의 최근 12개월 네이버 검색어 트렌드 지수입니다. “강남 치과” = 100으로 환산한 뒤 카테고리 안에서 순위 정규화합니다(키워드는 질문마다 공개). 추정 요소는 전국 패널에서 API로 호출하는 AI 서비스마다 같은 고정 프롬프트(버전 qr-1, 웹 검색 끔, 공급자가 지원하면 온도 0)를 보내, 카테고리의 질문을 사용자가 자주 묻는 순서대로 정렬하게 해서 얻습니다. 각 서비스의 정렬 결과를 패널 가중치로 가중한 보르다 점수로 바꾼 뒤 순위 정규화합니다. 모델의 원래 출력은 저장합니다. 지역 질문에는 검색 요소만 씁니다. 질문 랭킹은 근거와 함께 보여 주는 추정이며, 실제 이용 기록이 아닙니다.
  • 호출 경로. 공급자가 배치 API를 제공하면 직접 호출과 같은 모델, 같은 파라미터, 같은 요청 본문으로 배치 경로를 통해 보냅니다. 어떤 경로를 썼는지는 응답마다 기록합니다. 답변 하나에 웹 검색은 최대 다섯 번까지 쓸 수 있습니다.
  • 질문군과 지역 지수. 한국어 우선 카테고리는 질문이 카테고리마다 10~12개로 늘어납니다(의도 4가지, 추천 질문은 세부 주제로도 구분). 하위 카테고리가 없는 나머지 카테고리는 한국 사용자가 그 안에서 얼마나 여러 선택지를 놓고 고르는지에 따라 3~8개, 상위 카테고리는 2~3개입니다. 별도의 지역 지수는 검색량을 기준으로 고른 (카테고리, 지역) 쌍마다 “{지역} {업종}” 형태의 질문을 묻습니다. 12개월 네이버 검색어 트렌드 지수에서 “{지역} {업종}”이 “강남 치과”의 1% 이상이면 그 쌍을 넣습니다(2026년 10월 23일 기준 75개 지역, 86개 카테고리, 3,327쌍). 지역 질문은 검색 위치를 받는 AI 서비스에는 그 지역을 검색 위치로 지정하고(ChatGPT와 Claude는 사용자 위치, 구글은 location), 그렇지 않은 서비스에는 질문 텍스트로 전달합니다. 측정은 §4.4의 가중치로 AI 서비스 7곳에서 합니다(네이버 AI 브리핑 31, ChatGPT 23, Claude 16, 구글 AI 개요 12, 네이버 AI탭 10, 구글 AI 모드 5, Microsoft Copilot 3). 엔티티는 지역별로 해석합니다. 한 도시의 병원과 다른 도시에 있는 같은 이름의 병원은 서로 다른 엔티티입니다. 전국 브랜드의 지점은 브랜드에 연결하지만, 그 점수를 브랜드의 전국 점수에 더하지는 않습니다. 지역 페이지는 첫 측정 주부터 답변, 언급된 엔티티, 임시 순위를 “측정 N주째, 방향성” 표시와 함께 보여 줍니다. 다만 4주 집계 기간에 서로 다른 엔티티가 8개 이상(의료·법률 외 카테고리는 5개 이상) 나오고 그중 AI 서비스 두 곳이 함께 언급한 엔티티가 하나 이상 있을 때까지는 검색 엔진에 노출하지 않습니다. 의료, 법률, 금융 페이지에는 결과가 AI의 언급일 뿐 검증된 추천이 아니라고 밝힙니다. 발효일부터 카테고리 페이지마다 질문 목록을 보여 줍니다. 한국어 전국 질문은 카테고리 547곳에 3,263개입니다(2026년 10월 23일에 한국 사용자가 여러 선택지를 비교해 고르는 카테고리 85곳을 더했습니다). v4.0 이전에 묻던 1,386개 가운데 839개는 계속 측정하고, 547개는 측정을 마칩니다(중복이거나 카테고리에 맞지 않는 질문). 측정을 마친 질문의 페이지는 그 자리를 대신하는 질문으로 연결됩니다. 새 질문은 2,424개입니다. 지역 지수는 3,327쌍입니다. 지역 가중치는 §4.4에 있습니다.
  • 수치 등급. 질문 단위 수치는 AI 서비스마다 한 주에 답변 1개, 공개 집계 기간 전체로는 4~5개를 바탕으로 합니다. 사이트는 이런 수치에 “방향성” 표시를 붙이고, 표본이 충분하면 구간도 보여 줍니다. 판단의 기준으로 삼을 수치는 카테고리 집계와 4주 집계입니다.
  • 비교 가능성. 한국어 지수는 API 모델 3개에서 AI 서비스 8곳으로 바뀌고, 새 가중치, 주간 주기, 4주 집계 기간을 적용합니다. 이는 §6에서 말하는 메이저 버전 변경이므로 발효일 전후의 한국어 점수는 서로 비교할 수 없습니다. 모든 행에 버전을 기록하며, 추이 차트는 발효일 이후의 에디션부터 그립니다. 지역 지수는 이번에 처음 측정합니다.
v3.32026년 10월 6일 공지 · 2026년 11월 1일 측정부터 발효announced
  • 답만 순위에 올립니다. GenRank는 AI 모델이 추천하는 이름 있는 대상(브랜드, 제품, 조직, 사람, 장소, 작품)을 순위에 올립니다. 질문이 이름 있는 대상을 물을 때는 일반 용어(제품 종류, 성분, 기능, 조언)를 더 이상 순위에 넣지 않습니다. 답변이 인용하거나 안내하기만 한 웹사이트, 매체, 플랫폼도 더 이상 답으로 순위에 넣지 않습니다. 두 경우 모두 답변마다 기록은 남깁니다(§2.3).
  • 엔티티 일치 판정. 일치 여부가 불확실하면 언어 모델 판정기가 질문과 답변 본문을 보고 결정하며, 판정은 모두 기록합니다. 거부된 일치는 다시 적용하지 않고, 같은 답변에 나온 서로 다른 항목은 합치지 않습니다(§2.3).
  • 인용 저장. 이제 모델이 인용한 웹 출처를 답변마다 저장합니다.
  • 질문군. 답변에 특정 엔티티 없이 일반 용어만 나오던 질문 20개의 측정을 마치고, 각각 같은 카테고리에서 브랜드를 묻는 질문으로 바꿨습니다. 어린이집과 반려동물 미용을 찾을 때 쓰는 플랫폼을 묻는 질문 2개를 영어와 한국어로 각각 더했습니다. 측정을 마친 질문의 페이지와 기록은 남기지만, 그 점수는 더 이상 어떤 랭킹에도 들어가지 않습니다.
  • 질문군(10월 20일 추가). 10월 답변에 특정 엔티티 없이 제품 종류, 장소, 찾아보는 사이트와 앱만 나온 질문 66개(영어 32, 한국어 34)의 측정을 마쳤습니다. 49개는 같은 카테고리에서 브랜드를 묻는 질문으로 바꿨습니다. 나머지 17개는 지역을 밝히지 않고 동네 서비스(변호사, 병의원, 네일샵, 타투샵)를 묻는 질문이어서, 모델이 업체 대신 동네와 플랫폼을 답합니다. 이 질문들은 대체 질문 없이 측정을 마쳤고, 지역 질문으로 다시 돌아옵니다.
  • 예상 영향. 이 규칙과 아래의 오류 정정을 함께 적용한 2026년 10월 측정 결과로 계산했습니다.
    • 카테고리별 상위 10개 엔티티 중 평균 8.5개가 그대로 남았습니다
    • 질문별 상위 10개 엔티티 중 83%가 그대로 남았습니다
    • 점수 행의 13.7%가 제거됐습니다
    • 점수 총량은 11.5% 줄었습니다
    10월 공개 점수는 이미 이 규칙에 맞춰 정정했으므로 10월과 11월은 같은 기준으로 비교할 수 있습니다. 10월 20일에는 같은 규칙으로 점수 행 1,406개(남은 행의 2.2%, 점수 총량의 2.4%)를 추가로 제거했습니다.
  • 적용 시점. 파이프라인 변경은 이미 배포했으므로, 10월 6일에 더한 질문 24개는 10월 7일에 v3.3으로 처음 측정합니다. 나머지 질문은 모두 11월 1일 측정부터 v3.3으로 옮겨 갑니다.
  • 이유: 랭킹에는 질문에 대한 답만 들어가야 합니다. 답변이 인용한 출처나 답변에 쓰인 일반 용어는 추천이 아닙니다.
v3.22026년 10월current
  • 공개된 시장 자료에서 §4.1 합성 지수로 공급자 가중치를 다시 도출하고, 도출 과정 전체를 공개했습니다(§4.1.1). OpenAI 0.30 → 0.41, Anthropic 0.25 → 0.30, Google 0.20 → 0.29.
  • Perplexity와 xAI를 활성 집합에서 뺐습니다. 도출된 합성값(0.01과 0.03)이 3% 중요성 기준(§4.1.1)에 못 미치고, 이 정도 가중치로는 공개 점수에 측정할 만한 영향을 주지 않습니다. Sonar와 Grok의 과거 측정 데이터는 보존합니다.
  • 이제 모든 점수에 모델별 기여분을 함께 저장하므로 가중치 민감도 분석을 공개할 수 있습니다. 어떤 가중치 조합으로도 랭킹을 다시 계산할 수 있습니다.
  • 이유: 가중치는 주장이 아니라, 인용한 출처로 재현할 수 있는 값이어야 합니다.
v3.12026년 10월
  • 표준 회차에서는 질문과 모델 쌍마다 한 번 묻고, 표본 회차(n = 3)는 필요할 때 실행해 신뢰구간을 공개합니다(§4.5).
  • 모델 구성을 공급자별 현재 소비자용 등급으로 바꿨습니다. 새 모델은 GPT-5.6 Luna(GPT-5.4 mini 대체), Claude Sonnet 5(Claude Haiku 4.5 대체), Gemini 3.7 Flash(Gemini 3.1 Flash Lite 대체)입니다. Grok 4.3과 Sonar는 그대로입니다.
  • 공급자 가중치는 그대로입니다(OpenAI 0.30, Anthropic 0.25, Google 0.20, xAI 0.15, Perplexity 0.10). 측정에서 뺀 모델의 과거 측정 데이터는 보존합니다.
v3.02026년 9월
  • 반복 표본 도입: 한 회차에 질문과 모델 쌍마다 n번 물을 수 있습니다. 2026년 9월 측정이 첫 표본 회차였습니다(질문군 일부에 n = 3).
  • 신뢰구간은 표본이 충분할 때 공개합니다. 구간이 없으면 없다고 표시하며, 폭이 0인 구간처럼 보이게 하지 않습니다(§4.5).
  • 언급률을 1차 지표로 채택하고, 답변 속 위치는 2차 품질 신호로 남겼습니다.
  • 가중치를 적용하기 전에 모델별 기여를 평균 내어, 이전의 모든 회차와 점수를 비교할 수 있게 했습니다.
v2.22026년 7월
  • Gemini 3 Flash를 Gemini 3.1 Flash Lite(공급자의 후속 모델)로 바꿨습니다. 가중치는 0.20 그대로입니다.
v2.12026년 5월
  • 활성 모델 구성을 주요 공급자마다 웹 검색이 되는 모델 하나씩, 모두 5개로 줄였습니다(OpenAI, Anthropic, Google, xAI, Perplexity). 자체 실시간 웹 검색이 없는 모델은 측정에서 뺐습니다.
  • 측정할 때 웹 검색을 켜서 추천에 학습 시점의 지식이 아니라 최신 정보가 반영되게 했습니다.
  • 측정 주기를 매주에서 매월(매달 1일, UTC)로 바꿨습니다.
  • 공급자 가중치를 OpenAI 0.30, Anthropic 0.25, Google 0.20, xAI 0.15, Perplexity 0.10으로 다시 배분했습니다.
  • 이유: 데이터를 최신으로 유지하고 시장을 대표하는 공급자로 구성하기 위해서입니다. 측정에서 뺀 모델의 과거 측정 데이터는 장기 비교를 위해 보존합니다.
v2.02026년 1월
  • nDCG 방식의 로그 감쇠로 점수 체계를 정식화했습니다(정의 3.1).
  • 공급자 9곳의 모델 16개로 시장 가중 활성 집합을 구성했습니다. 가중치는 분기마다 재조정합니다.
v1.02025년 12월
  • 첫 공개 방법론입니다. 여러 모델에 질문하고 시장 가중치로 집계했으며, 매주 측정했습니다.

정정

공개한 수치에서 확인된 오류는 바로잡고 여기에 기록합니다. 잘못 측정된 엔티티는 언제나 무료로 정정합니다.

2026년 10월 18일부터 11월 8일까지의 주간2026년 11월 10일 정정
  • 구글 AI 개요의 업체 이름. 구글 AI 개요는 업체를 추천할 때 이름을 장소 카드로 보여 주고 설명을 그 아래에 적는 일이 늘었습니다. 답변을 읽는 단계가 설명만 옮기고 카드의 이름을 빠뜨려, 답변 3,661건(구글 AI 개요 3,633건, 목록 안의 항목이 같은 식으로 빠진 Copilot 28건. 10월 18일 주간 61건, 10월 25일 주간 206건, 11월 1일 주간 944건, 11월 8일 주간 2,450건. 지역 질문 3,259건, 전국 질문 402건)에서 답변에 나온 업체가 언급으로 세어지지 않았습니다. 11월 10일부터 카드의 이름을 답변과 함께 읽습니다.
  • 점수와 주간 에디션. 보관해 둔 원본에서 이 답변들을 다시 읽고 해당 질문 2,778개를 다시 분석했습니다. 질문별 주간 기록, 현재 점수와 순위, 지역 페이지의 발행 상태, 11월 8일 주간 에디션을 다시 계산했습니다. 10월 18일, 10월 25일, 11월 1일의 카테고리 주간 에디션은 다시 만들지 않았습니다. 이 세 에디션에서는 전국 질문의 답변 175건에 나온 업체가 빠진 채로 남아 있습니다. 이전 답변 본문은 답변 기록에 남겨 두었습니다.
2026년 10월 18일부터 11월 1일까지의 주간2026년 11월 7일 정정
  • AI 답변이 없던 회차. 검색 결과 화면에 AI 답변이 나오지 않은 질문은 언급이 없는 회차로 셉니다(§4.4). 그런데 답변에서 이름을 읽는 단계가 이런 빈 답변 238건(구글 AI 개요 210건, 나머지는 네이버 AI 브리핑·AI탭, Copilot, 구글 AI 모드)에도 업체 이름을 채워 넣었고, 그 이름이 점수에 들어갔습니다. 빈 답변이므로 그 이름은 답변에서 나온 것이 아닙니다. 약 4분의 1은 같은 질문에 대한 다른 AI 서비스의 답변에 있던 이름이고, 나머지는 그 주의 어느 답변에도 없던 이름입니다. 11월 7일부터 빈 답변은 읽지 않습니다.
  • 점수와 주간 에디션. 빈 답변에 붙은 언급 기록 1,856건을 지우고, 그 기록이 더했던 점수만 질문별 기록과 10월 18일, 10월 25일, 11월 1일 주간 에디션에서 뺐습니다. 빈 답변에 이름이 붙지 않은 업체의 점수는 바뀌지 않았고, 순위는 카테고리마다 다시 매겼습니다. 지운 이름은 답변 기록에 이유와 함께 남겨 두었습니다.
2026년 11월 1일 주간2026년 11월 1일 정정
  • 한글·로마자 표기. 11월 1일 측정에서 새로 생긴 한국어 엔티티 가운데 같은 대상을 한글과 로마자로 따로 적은 609쌍을 합쳤습니다(예: “크리니크”와 “Clinique”, “빈폴멘”과 “Beanpole Men”). 10월 28일 정정과 같은 방식입니다. 판정 모델로 후보를 좁힌 뒤 한 쌍씩 읽고 같은 대상만 합쳤습니다. 폭·색·세대가 다른 제품, 시리즈와 그 한 모델, 브랜드와 그 제품 라인, 지점과 본사는 합치지 않았습니다.
  • 엔티티 이름. 영문 설명이 붙은 채 만들어진 한국어 엔티티 이름 다섯 개를 고쳤습니다. 세 개는 짧은 한국어 구분어로 바꿨고(예: “고독한 미식가 (드라마)”), 두 개는 이미 있던 같은 대상의 엔티티와 합쳤습니다(예: “아임유 (kiosk)”를 “아임유”로). 엔티티 주소와 매칭에 쓰는 이름은 바꾸지 않았습니다.
  • 영어 지수. 병합 대기열에 남아 있던 영어 엔티티 39쌍을 한 쌍씩 읽고 합쳤습니다(예: “Kraków”와 “Krakow, Poland”, “Meet”와 “Google Meet”). 2006년 작 “Planet Earth”와 후속작을 포함한 시리즈는 따로 두었습니다.
  • 점수와 주간 에디션. 합친 두 엔티티가 같은 질문에서 모두 점수를 받았다면 그 질문의 점수를 저장해 둔 AI 서비스별 기록으로 같은 공식에 따라 다시 계산했습니다. 같은 주, 같은 카테고리의 주간 에디션에서는 두 행의 점수를 더해 한 행으로 합치고 그 카테고리의 순위를 다시 매겼습니다. 합쳐진 엔티티의 이전 주소는 남은 엔티티로 연결됩니다.
한국어 지수(2026년 10월 25일 주간)2026년 10월 28일 정정
  • 중복 엔티티. 같은 대상인데 한글·영문 표기, 띄어쓰기, 괄호 표기만 달라 따로 집계된 한국어 엔티티를 합쳤습니다(예: “Dyson V15 Detect”와 “다이슨 V15 Detect”, “Naver Map”과 “네이버 지도”). 후보마다 이름, 유형, 별칭, 설명을 대조해 확실한 경우만 합쳤습니다. 모델·세대·용량이 다른 제품, 브랜드와 그 지점, 모회사와 그 제품은 합치지 않았습니다. 합쳐진 엔티티의 이전 주소는 남은 엔티티로 연결됩니다.
  • 한글·로마자 표기. 표기가 전혀 겹치지 않는 한글 이름과 로마자 이름이라도 같은 대상이면 합쳤습니다(예: “아토베리어365 크림”과 “Aestura Atobarrier 365 Cream”, “한화 이글스”와 “Hanwha Eagles”). 판정 모델로 후보를 좁힌 뒤 한 쌍씩 읽고 같은 대상만 합쳤습니다. 모델·세대·색이 다른 제품, 시리즈와 그 시리즈의 한 모델, 소리만 비슷한 다른 대상(Mammut을 가리키는 “마무트”와 Marmot)은 합치지 않았습니다.
  • 엔티티 이름. 한국어 엔티티의 표시 이름에 붙어 있던 영문 설명(“Naver (portal app)” 등)을 지우고, 같은 이름의 다른 대상이 있으면 짧은 한국어 구분어로 바꿨습니다(“Yamaha (악기)”). 엔티티 주소와 매칭에 쓰는 이름은 바꾸지 않았습니다. 11월 1일 측정부터 새 엔티티의 이름은 답변에 적힌 언어와 표기를 따릅니다.
  • 점수와 주간 에디션. 합친 두 엔티티가 같은 질문에서 모두 점수를 받았다면, 저장해 둔 AI 서비스별 기록으로 그 질문의 점수를 같은 공식에 따라 다시 계산했습니다. 같은 주, 같은 카테고리의 주간 에디션에서는 두 행의 점수를 더해 한 행으로 합치고, 그 카테고리의 순위를 다시 매겼습니다.
2026년 10월 측정2026년 10월 6일 정정
  • 검토. 2026년 10월 1일 측정의 질문별 엔티티 점수를 모두 검토했습니다. 언어 모델 검토자 둘이 점수마다 질문, 엔티티 기록, 답변 본문과 대조해 확인했습니다. 한 검토자는 언급이 올바른 엔티티에 돌아갔는지 보았고, 다른 검토자는 중복, 인용 출처, 일반 용어를 찾았습니다. 오류로 표시된 것은 모두 따로 검증한 뒤 정정했으며, 병합은 서로 독립적인 확인을 두 번 거쳐야 했습니다.
  • 정정. 동음이의어, 형제 제품, 모회사 브랜드처럼 실제로는 다른 대상에 돌아간 언급을 바로잡았습니다(예: 스테이블코인 발행사 Circle과 커뮤니티 플랫폼 Circle.so). 중복 엔티티를 합쳤고(예: “Costco”와 “Costco Wholesale”), 답으로 순위에 올라 있던 인용 웹사이트와 일반 용어를 뺐습니다. 10월 기록 스냅샷도 이에 맞춰 다시 만들었습니다. 엔티티 해석 규칙은 v3.3에서 개정했습니다.

7. 참고 문헌

  1. Ouyang, L., et al. (2022). Training language models to follow instructions with human feedback. Advances in Neural Information Processing Systems, 35, 27730–27744.
  2. Shah, C., & Bender, E. M. (2024). Envisioning Information Access Systems: What Makes for Good Tools and a Healthy Web? ACM Transactions on the Web.
  3. Järvelin, K., & Kekäläinen, J. (2002). Cumulated gain-based evaluation of IR techniques. ACM Transactions on Information Systems, 20(4), 422–446.
  4. Wilkinson, M. D., et al. (2016). The FAIR Guiding Principles for scientific data management and stewardship. Scientific Data, 3, 160018.
  5. Menlo Ventures. (2025). 2025 Mid-Year LLM Market Update: Foundation Model Landscape + Economics.
  6. OpenRouter. (2025). LLM Rankings: Model Usage Statistics.
  7. Statcounter. (2025). AI Chatbot Market Share Worldwide.

이 문서는 주기적으로 개정합니다. 이 한국어 문서는 영문 방법론의 번역본이며, 두 문서의 내용이 다르게 읽히면 영문 문서를 기준으로 합니다.
최신 버전: GenRank.com/methodology