← 주제 탐구

주제 탐구 · 2026-11-19 · 심화 · 작성자 bombong

생성형 엔진 최적화(GEO): AI 답변의 '각주'에 실리는 법

생성형 엔진 최적화(GEO)는 ChatGPT·Gemini 같은 생성형 검색이 답변을 쓸 때 내 콘텐츠를 인용하거나 요약할 가능성을 높이려고 콘텐츠를 고치는 기법이다. 연구는 일괄 수정 규칙에서 문서별 진단, 구조 설계, 의도 추론으로 옮겨 왔고, 최근에는 조작 위험과 실제 웹에서도 효과가 유지되는지를 따지는 쪽으로 넓어지고 있다.

목차
핵심 정리
  • 생성형 검색에서는 링크 순위보다 답변 속 몇 개뿐인 인용에 실리느냐가 노출을 정하므로, 목표 지표도 '기여'가 아니라 '인용'이어야 한다.
  • 인용은 질의 재작성 → 검색 후보 → 인용 선택 순서를 거쳐 정해지며, 검색 후보에 자주 오르는 페이지일수록 인용될 가능성도 높았다.
  • GEO 기법은 같은 규칙을 모든 문서에 적용하던 방식에서 문서별 실패 진단(AgentGEO), 구조 설계(GEO-SFE), 문서에서 의도 추론하기(QI-GEO)로 발전했다.
  • 같은 기술로 결함 있는 제품을 추천 목록에 끼워 넣을 수 있고, 흔한 탐지 방법을 피해 가기도 하므로 GEO는 보안과 공정성 문제이기도 하다.
  • 실제 웹에서는 엔진, 사용자 위치, 후보 순서, 실행할 때마다 생기는 차이에 따라 결과가 크게 흔들리므로, 실험실 수치를 그대로 믿으면 안 된다.

왜 필요했나: 순위표에서 '인용'으로

검색엔진 최적화(SEO)는 오랫동안 '검색 결과 목록에서 몇 번째에 뜨느냐'를 겨루는 일이었다. 그런데 ChatGPT, Perplexity, Gemini 같은 생성형 검색 서비스는 링크 목록 대신 여러 출처를 읽고 종합한 답변을 쓰고, 그 아래 몇 개 출처만 인용으로 붙인다. QI-GEO 연구논문는 이 변화를 두고, 콘텐츠를 만드는 쪽의 노출이 더는 순위만으로 정해지지 않고 생성된 답변 안에 인용되느냐로 정해진다고 정리한다. 게다가 생성형 엔진은 속을 들여다볼 수 없는 블랙박스다. 이 틈에서 생겨난 기법 묶음이 생성형 엔진 최적화(Generative Engine Optimization, GEO)다.

기존 SEO 감각이 그대로 통하지 않는다는 근거도 있다. AI 검색과 구글을 대규모로 비교한 연구논문는 여러 업종, 여러 언어, 같은 질문을 바꿔 말한 경우까지 통제 실험을 했다. 그 결과 AI 검색은 브랜드 자체 채널이나 소셜 콘텐츠보다 제3자의 권위 있는 출처(Earned media, 언론 보도나 외부 평가처럼 남이 써 준 콘텐츠)를 체계적으로 강하게 선호했고, 구글은 이보다 고르게 섞는 편이었다. AI 검색 서비스끼리도 인용하는 도메인의 다양성, 최신성, 언어를 바꿨을 때의 안정성, 질문 표현에 대한 민감도가 크게 달랐다.

정리하면 생성형 검색에서는 '클릭을 받는 자리'가 사라지고 '답변 속 각주 몇 개'만 남는다. 그 자리를 얻으려면 무엇을 어떻게 고쳐야 하는지, 그리고 그렇게 고친 것이 사용자에게 해가 되지는 않는지가 GEO 연구의 두 축이다.

SEO와 GEO는 무엇이 다른가

SEO검색 결과 순위 겨루기

  • 링크 목록에서의 순위가 목표
  • 사용자가 직접 클릭해 읽음

GEO생성형 답변에 인용되기

  • 답변 속 인용·요약이 목표
  • 엔진이 출처를 골라 종합
  • 엔진마다 선호 출처가 다름

공통 둘 다 콘텐츠가 사용자에게 닿도록 다듬는 일

두 방식이 무엇을 목표로 삼고 노출이 어떻게 정해지는지 나란히 놓았다.

핵심 아이디어: 사서의 보고서에 각주로 실리기

비유로 보자. 질문을 받은 사서가 서고에서 자료 수십 권을 꺼내 훑어보고 한 쪽짜리 보고서를 쓴 뒤, 끝에 참고 자료를 서너 개만 적는다. 책을 쓴 사람에게는 이제 책장 맨 앞에 꽂히는 것(SEO)보다 사서가 내 책을 보고서에 인용하는 것이 더 중요하다. 그러려면 사서가 근거를 쉽게 찾아 쓸 수 있게 목차를 정리하고, 핵심 문장을 분명히 하고, 질문자가 물을 법한데 빠진 내용을 채워야 한다. GEO가 하는 일이 바로 이것이다.

이 비유에서 설계상 중요한 구분이 하나 나온다. 내 책이 보고서 내용에 영향을 줬는지(기여)와 각주에 이름이 실렸는지(인용)는 서로 다르다. AgentGEO 연구논문는 기존 방법이 문서가 답변에 얼마나 영향을 줬는지만 재고, 실제로 트래픽을 되돌려 주는 인용은 재지 않았다고 지적한다. 기존 방법이 모든 문서에 같은 수정 규칙을 적용해서 문서마다 왜 인용되지 않는지는 진단하지 못한다는 점도 문제로 꼽았다. 무엇을 목표 지표로 삼느냐가 기법 전체의 방향을 정하는 셈이다.

비유에는 어두운 면도 있다. 사서가 읽는 자료를 판매자가 마음대로 고칠 수 있다면, 결함 있는 제품이 실제보다 더 잘 뒷받침되는 것처럼 보이게 만들 수도 있다. SafeGEO논문는 추천 에이전트에서 바로 이 위험을 다룬다. GEO는 콘텐츠를 더 읽기 좋게 만드는 일과 엔진을 조작하는 일 사이의 경계 위에 있는 기술이다.

어떻게 작동하나: 질문에서 인용까지의 파이프라인

생성형 엔진 안에서 인용이 정해지는 과정을 관찰한 연구가 있다. ChatGPT 인용 관찰 연구논문는 ChatGPT 5.2부터 5.5까지 Instant와 Thinking 모드를 포함한 네 가지 설정에서, ChatGPT가 질의를 다시 쓰고, 후보 웹페이지를 검색하고, 그중 참고 자료를 고르는 과정을 들여다봤다. Instant 설정은 대부분 검색을 한 번만 했지만 GPT-5.4 Thinking은 검색을 여러 차례 반복하는 경우가 잦았다. 같은 질문을 반복해 실행했을 때 검색 후보에 더 자주 오른 페이지가 인용될 가능성도 높았다. 인용되려면 먼저 후보에 들어야 한다는 뜻이다.

GEO는 이 파이프라인에서 사용자가 고칠 수 있는 유일한 부분인 '내 문서'에 개입한다. 개입 방식은 크게 세 가지다. 첫째는 내용 수정이다. 빠진 정보를 채우거나 통계를 덧붙이는 식이다. 둘째는 구조 수정이다. GEO-SFE논문는 콘텐츠 구조를 문서 전체의 짜임(거시 구조), 정보를 덩어리로 나누는 방식(중간 구조), 강조 같은 시각적 표시(미시 구조)의 세 층으로 나눴다. 셋째는 문서별 진단이다. AgentGEO논문는 인용 파이프라인의 단계별로 인용 실패 유형을 분류한 뒤 문서마다 어디서 막혔는지 찾는다.

엔진 내부를 볼 수 없으니 최적화는 대개 되먹임 고리로 돌아간다. 문서를 고치고, 엔진이나 엔진을 흉내 내는 대리 평가자에게 질문을 던져 인용되는지 보고, 다시 고친다. AgentGEO가 인용될 때까지 진단과 수리를 반복하는 것도 이 방식이다. 다만 대리 평가자는 실제 엔진과 다르다. 앞의 관찰 연구에서 Google Search와 OpenAI Responses API를 대리 지표로 써 보니, 정확한 URL보다 호스트 이름이나 개체(기업·브랜드) 수준에서 더 잘 맞았다. 하지만 둘을 합쳐도 ChatGPT가 실제로 인용한 URL의 약 4분의 1만 찾아냈다. 외부 신호를 합친 지도 학습 모델의 AUC(예측이 무작위보다 얼마나 나은지 보는 0~1 지표)는 GPT-5.3과 GPT-5.5에서 0.74를 넘었다.

생성형 엔진의 인용 결정 과정사용자 질문 → 질의 재작성; 질의 재작성 → 웹 검색; 웹 검색 → 질의 재작성(추가 검색); 웹 검색 → 후보 페이지; 후보 페이지 → 인용 선택; 인용 선택 → 인용 달린 답변; GEO 수정 → 내 문서; 내 문서 → 인용 선택(후보로 경쟁)사용자 질문질의 재작성웹 검색여러 차례 반복 가능후보 페이지자주 오를수록 인용 확률↑인용 선택인용 달린 답변GEO 수정내용·구조·진단내 문서추가 검색후보로 경쟁
생성형 엔진의 인용 결정 과정 윗줄은 엔진 안에서 벌어지는 과정이고, Thinking 모드는 검색을 여러 번 반복하기도 한다. GEO가 고칠 수 있는 것은 아래 '내 문서'뿐이며, 이 문서는 후보로 경쟁해 인용 선택을 통과해야 한다.

발전 흐름: 일괄 규칙에서 문서별 진단·의도 추론으로

출발점은 무엇이 달라졌는지 재는 일이었다. AI 검색 비교 연구논문는 측정 결과를 바탕으로 네 가지 전략 의제를 내놓았다. 기계가 훑어보고 근거로 쓰기 쉬운 콘텐츠를 만들 것, 외부의 권위 있는 출처를 확보해 AI가 알아보는 권위를 쌓을 것, 엔진과 언어에 따라 전략을 달리할 것, 작은 업체는 '대형 브랜드 편향'을 넘어설 방법을 찾을 것이다. 이후 연구들은 '어떻게 고칠 것인가'를 점점 정교하게 다뤘다.

IF-GEO논문는 문서 하나가 여러 질문에 답해야 할 때 생기는 충돌을 다뤘다. 질문마다 요구하는 수정이 서로 부딪치는데 고칠 수 있는 분량은 한정돼 있다. 그래서 대표적인 잠재 질의마다 원하는 수정 방향을 먼저 따로 뽑아내고(발산), 충돌을 고려해 지시를 합쳐 하나의 '전역 수정 청사진'으로 모은다(수렴). 질의가 바뀌어도 성능이 안정적인지 재는 지표도 새로 만들었다. AgentGEO논문는 방향을 바꿔 '이 문서는 왜 인용되지 않는가'를 먼저 진단하고, 도구 라이브러리에서 맞춤 수리법을 골라 반복 적용한다. 콘텐츠의 5%만 고치고도 인용률을 상대적으로 40% 넘게 올렸는데, 비교 기준 방법들은 25%를 고쳤다. 적게 고칠수록 원래 뜻과 품질을 지키기 쉬우므로 이 차이는 중요하다.

GEO-SFE논문는 그동안 의미 수정에 쏠렸던 관심을 구조로 넓혔다. 주요 생성형 엔진 여섯 곳에서 인용률이 17.3%, 주관적 품질이 18.5% 올랐다고 보고하며, 뜻은 그대로 두고 구조만 다듬는 길을 보여 줬다. QI-GEO논문는 또 다른 제약을 풀었다. 기존 방법 대부분은 사용자 질의를 알고 있다고 가정하지만, 실제로 콘텐츠 작성자는 질의를 모른다. QI-GEO는 문서 자체에서 사용자 의도의 범위를 짐작하고, 빠졌지만 필요한 내용을 찾아낸다. GEO-Bench와 그 확장판에서 객관 점수가 최대 15.9%, 주관 점수가 최대 17.6% 올랐고, 인용을 새로 얻은 경우가 잃은 경우의 거의 두 배였다.

이 흐름을 맞바꾼 것으로 보면 이렇다. 질의를 알면 더 정확하게 고칠 수 있지만 현실성이 떨어진다(IF-GEO 대 QI-GEO). 일괄 규칙은 싸지만 많이 고쳐야 하고 문서별 사정을 놓친다(AgentGEO). 의미를 바꾸면 효과가 클 수 있지만 원문의 진실성을 해칠 위험이 있고, 구조를 바꾸면 그 위험이 작다(GEO-SFE).

그림자: 순위 조작과 추천 에이전트의 위험

LLM이 제품과 문서의 순위를 매기는 일이 늘면서 GEO는 조작 문제로도 다뤄진다. 순위 조작 벤치마크 GEO-Bench논문는 흩어져 있던 공격법을 같은 기준으로 처음 직접 비교했다. 모델 내부를 보지 않고 프롬프트로 공격하는 블랙박스 방식(TAP, Zero-Shot), 모델 내부 기울기를 이용하는 화이트박스 방식(STS, RAF, StealthRank), 그리고 정당한 방식의 C-SEO 전략 10가지가 비교 대상이었다. 순위는 고정된 오픈웨이트 모델(Llama-3.1-8B-Instruct)이 매겼고, 다섯 개 데이터셋에서 효과와 은밀성을 함께 쟀다.

결과는 방어하는 쪽에 불리했다. 적대적 공격에서는 효과와 은밀성이 서로 맞바뀌었다. 그런데 블랙박스 방식으로 콘텐츠를 고쳐 쓰기만 해도 순위 올리기에서 기울기 기반 공격과 비슷하거나 더 나았고, 글도 더 자연스러웠다. 일부 분야에서는 키워드 기반 탐지와 퍼플렉시티(글이 얼마나 부자연스러운지 재는 값) 기반 탐지를 모두 피했다. 모델 내부에 접근할 수 있느냐로 공격의 세기를 예측할 수도 없었다. 그럴듯한 글로 다시 쓰기만 해도 충분히 위험하다는 뜻이다.

SafeGEO논문는 이 위험을 추천 에이전트에 적용했다. 공격 변형 22가지와 추천 사례 600개로 평가해 보니, GEO 공격으로 결함 있는 제품이 추천 목록에 들어가는 비율이 최대 83.2%p 늘었다. 에이전트 쪽에서 간단한 방어를 넣자 해로운 추천이 최대 39.2%p 줄었지만 GEO가 없을 때 수준으로는 돌아가지 않았다. 콘텐츠를 고칠 수 있는 쪽이 판매자라면 사용자 효용과 판매자 노출이 정면으로 부딪친다. 엔진과 에이전트를 만드는 쪽에서 방어를 설계해야 하는 이유다.

요즘 어디로 가고 있나: 실험실 밖, 실제 웹에서 검증하기

최근 연구의 큰 흐름은 '통제된 실험에서 얻은 효과가 실제 웹에서도 남아 있는가'를 묻는 것이다. LIVE-GEO논문는 GEO로 고쳐 쓴 제품 설명을 실제 웹페이지로 올리고, 가상의 브랜드 80개, 제품군 18개에 기존 GEO 전략 다섯 가지(CORE, C-SEO, E-GEO, AgenticGEO, 통계 추가)를 적용했다. 대부분의 평가에서 CORE가 1위로 뽑힌 비율이 가장 높았고, 실제 생성형 엔진에서는 66.3%~76.3%였다. 하지만 다른 전략들의 순서는 평가자마다 달랐고, 엔진들이 같은 브랜드에서 같은 1위 제품을 고른 비율은 48.8%~66.3%에 그쳤다. ChatGPT는 후보 URL의 순서에도 민감해서, 두 가지 반대 순서에서 CORE의 1위 비율이 73.8%와 93.8%로 크게 갈렸다.

누가 어디서 묻느냐도 변수다. 위치 감사 연구논문는 질문 300개를 ChatGPT에는 19곳의 선언 위치로, ChatGPT와 Gemini에는 다섯 곳의 네트워크 위치에서 각각 두 번씩 던져 답변 31,200개를 모았다. ChatGPT는 앱이 선언한 위치를 도시 단위까지 따라가 자기 검색어에 지명을 넣었고, 네트워크 위치는 무시했다. Gemini는 선언 위치를 무시하고 네트워크가 속한 나라를 따랐으며, 장소와 상관없는 질문에서도 출처 대부분이 바뀌었다. 답변이 추천하는 업체도 출처를 따라 바뀌었다. 한 장소에서만 측정하는 모니터링은 그림의 일부만 보여 준다.

ChatGPT 인용 관찰 연구논문는 같은 엔진이라도 모델 세대와 모드에 따라 검색 횟수가 다르다는 점을 보여 줬다. 외부 대리 지표로는 실제 인용 URL의 약 4분의 1만 찾을 수 있었다는 결과는 GEO 효과를 재는 도구 자체가 아직 거칠다는 뜻이다. 세 연구 모두 GEO 성과를 '한 엔진, 한 위치, 한 번 실행'으로 판단하지 말라고 경고한다.

실제 웹이 보여 준 숫자

48.8~66.3%엔진끼리 같은 1위를 고른 비율
31,200개위치 감사에서 모은 답변 수
약 4분의 1대리 지표로 찾아낸 실제 인용 URL
실제 웹을 대상으로 한 최근 연구들에서 나온 수치다. 측정 결과가 엔진, 위치, 측정 도구에 따라 얼마나 흔들리는지 보여 준다.
GEO 연구 지도 세 묶음은 콘텐츠를 고치는 연구, 조작 위험을 재는 연구, 실제 웹에서 검증하는 최근 연구다. 서로 계승 관계가 드러난 것은 아니어서 화살표 없이 묶음으로만 나눴다.

실무 판단 기준과 한계

언제 GEO에 힘을 쓸 만한가. 사용자가 생성형 검색에 묻고 답만 읽고 끝내는 정보형·비교형 질문이 많은 분야라면 투자할 가치가 있다. 다만 AI 검색이 외부의 권위 있는 출처를 강하게 선호한다는 결과논문를 보면, 자사 페이지 문장만 다듬는 것으로는 한계가 있다. 외부 평가와 보도를 쌓는 일이 같이 가야 한다.

흔한 실수는 네 가지다. 첫째, 성과를 '답변에 영향을 줬나'로 재는 것이다. 트래픽으로 이어지는 것은 인용이다논문. 둘째, 모든 페이지에 같은 수정 규칙을 일괄 적용하는 것이다. AgentGEO 연구는 일괄 최적화가 롱테일 콘텐츠(찾는 사람이 적은 틈새 콘텐츠)에 오히려 해가 될 수 있고, 최적화만으로는 해결되지 않는 문서도 있다고 보고했다. 셋째, 한 엔진, 한 위치, 한 번의 실행으로 효과를 판단하는 것이다. 엔진끼리 1위 선택이 자주 엇갈리고 위치와 후보 순서에 따라 결과가 바뀐다논문논문. 넷째, 대리 지표를 실제 인용과 같은 것으로 여기는 것이다논문.

윤리와 위험의 선도 분명히 그어야 한다. 근거 없는 주장을 덧붙여 노출을 늘리는 것은 SafeGEO논문가 보여 준 '결함 제품 끌어올리기'와 같은 성격이다. 탐지를 피할 수 있다고 해서논문 허용되는 것이 아니다. 엔진이나 추천 에이전트를 만드는 쪽이라면 GEO로 고친 출처가 섞여 들어온다고 가정하고 방어와 평가를 설계해야 한다. 마지막으로, 여기 나온 개선 수치는 대부분 특정 벤치마크와 통제된 검색 환경에서 얻은 것이라 실제 서비스에서 그대로 나온다고 기대하면 안 된다.

GEO 점검 목록

측정

  • 기여가 아니라 인용을 세는가
  • 여러 엔진에서 따로 재는가
  • 선언 위치와 네트워크 위치를 통제하는가
  • 같은 질문을 반복 실행해 오차를 보는가
  • 대리 지표를 실제 인용과 구분하는가

수정

  • 문서마다 인용 실패 원인을 진단했는가
  • 롱테일 페이지에 일괄 규칙을 쓰지 않았는가
  • 고친 분량을 최소로 줄였는가

책임

  • 근거 없는 주장을 덧붙이지 않았는가
  • 외부 권위 출처 확보도 함께 하는가
본문의 흔한 실수와 위험을 실무에서 확인할 항목으로 바꿨다.

더 공부하려면

입문은 AI 검색 비교 연구논문부터 읽는다. 생성형 검색이 기존 검색과 어떻게 다른 출처를 고르는지 측정 결과로 보여 주고 실무 의제까지 정리해 GEO 전체의 지도 역할을 한다. 그다음 AgentGEO논문를 읽으면 '기여가 아니라 인용', '일괄 규칙이 아니라 진단'이라는 핵심 관점을 잡을 수 있다.

기법을 더 깊이 보려면 관심에 따라 고른다. 구조 설계는 GEO-SFE논문, 질의를 모를 때의 최적화는 QI-GEO논문, 한 문서가 여러 질문을 상대해야 할 때는 IF-GEO논문가 맞다. 위험 쪽은 순위 조작 공격을 한자리에서 비교한 GEO-Bench논문와 추천 에이전트 위험을 잰 SafeGEO논문를 함께 읽기를 권한다.

실무에서 측정과 모니터링을 설계할 사람은 최근 연구 세 편을 꼭 본다. 실제 웹에서 효과를 검증한 LIVE-GEO논문, 사용자 위치가 인용 출처를 바꾸는 방식을 다룬 위치 감사 연구논문, ChatGPT의 검색에서 인용까지 과정과 대리 지표의 한계를 다룬 ChatGPT 인용 관찰 연구논문다.

관련 용어

RAG 리랭커 시맨틱 검색 AI 에이전트 간접 프롬프트 인젝션 데이터 포이즈닝 벤치마크 LLM-as-a-Judge

참고 문헌

핵심 논문

최근 연구

AI가 참고 문헌을 바탕으로 작성하고 검수를 거친 해설입니다. 정확한 내용은 원문을 확인해 주세요.