LLM으로 바뀌는 추천 시스템: 상품 설명을 읽는 추천기

왜 LLM이 추천에 들어왔나

추천 시스템(Recommender System)은 오랫동안 '이 상품을 산 사람은 저 상품도 샀다'는 패턴을 학습해 왔다. 이런 패턴을 협업 신호(collaborative signal)라고 부른다. 상품은 대개 고유 번호(ID)로만 표현되고, 모델은 번호끼리 함께 등장하는 빈도에서 취향을 읽어 낸다. 데이터가 많으면 강하지만, 번호에는 '왜' 그 상품을 좋아했는지가 담기지 않는다.

CURec논문은 이 문제를 '의미-협업 간극'이라고 불렀다. ID 기반 표현이나 상품 쪽 속성 정보만으로는 사용자 취향과 맞닿은 의미, 예를 들어 그 상품을 추천할 이유를 잡아내지 못한다는 것이다. IADSR논문은 다른 쪽에서 같은 약점을 보여 준다. 실수로 누른 클릭 같은 노이즈를 걸러 낼 때 협업 정보에만 의존하면 지나치게 많이 지워 버리는 문제가 생기고, 기록이 적은 상품(콜드 아이템)에서 특히 심하다고 보고했다.

LLM(대규모 언어 모델)은 상품 설명을 읽고 세상 지식으로 의미를 이해할 수 있다. 위치 편향 연구논문가 지적하듯, LLM은 과제별 학습 없이도 지시만으로 추천을 시도할 수 있다는 점(zero-shot) 때문에 범용 추천 도구로 주목받았다. 다만 같은 연구는 LLM을 그대로 추천에 가져다 쓰면 중요한 함정이 있다고 경고한다. 이 함정은 뒤에서 다룬다.

핵심 아이디어: 기록을 보는 점원과 설명을 읽는 점원

비유하면 기존 추천 모델은 계산대 기록만 보는 점원이다. '이 손님 같은 사람들은 이걸 많이 샀다'는 통계는 정확하지만, 처음 들어온 신상품은 기록이 없어 권하지 못한다. LLM은 상품 설명서를 다 읽은 점원이다. 신상품도 설명만 보고 '등산을 좋아하시면 이것도 맞겠다'고 말할 수 있지만, 이 가게 손님들이 실제로 무엇을 함께 사는지는 잘 모른다.

그래서 설계의 핵심 질문은 '두 점원을 어떻게 함께 일하게 하나'다. 크게 두 갈래가 있다. 하나는 LLM을 보조로 두는 방식이다. LLM이 상품의 의미를 담은 임베딩(숫자 벡터)이나 추천 이유 같은 특징을 만들고, 최종 판단은 기존 추천 모델이 한다. 다른 하나는 LLM을 주역으로 세우는 방식이다. 사용자 이력과 후보를 프롬프트로 넣고 LLM이 다음 상품을 직접 고르거나 생성한다.

둘은 맞바꾸는 것이 다르다. 보조 방식은 기존 시스템의 속도와 협업 신호를 지키면서 의미를 더하지만, LLM의 추론 능력을 다 쓰지는 못한다. 주역 방식은 LLM의 추론을 판단에 직접 쓰지만, 협업 신호를 잘 못 잡고 비용이 크며 출력이 불안정해질 수 있다. 최근 연구 상당수는 이 둘 사이의 어딘가를 찾는 작업이다.

어떻게 작동하나

보조 방식부터 보자. IADSR논문은 두 단계로 움직인다. 먼저 같은 상품에 대해 기존 순차 추천 모델이 만든 협업 임베딩과 LLM이 만든 의미 임베딩을 따로 얻는다. 다음으로 둘을 맞춰 정렬(Alignment)한 뒤, 장기 관심사와 단기 관심사에 비춰 사용자 행동 이력 속 노이즈를 찾아낸다. 기록만으로 판단하면 지워 버렸을 콜드 아이템을 의미 정보가 지켜 주는 구조다.

CURec논문은 한 걸음 더 나간다. 먼저 사후 학습(Post-training)으로 LLM에 추천 목표를 가르쳐 지시를 따르고 CoT(Chain-of-Thought, 단계적 사고)로 추론하게 만든다. LLM이 만든 특징으로 추천 모델을 학습시키고, 그 추천 모델이 낸 사용자-상품 예측 점수를 다시 보상으로 삼아 강화학습으로 LLM을 다듬는다. 기록을 보는 점원이 설명을 읽는 점원의 답을 채점해 주는 고리다.

주역 방식에서는 상품을 어떻게 LLM 언어로 표현할지가 첫 관문이다. PauseRec 연구논문에 따르면 LLM 기반 생성형 추천은 흔히 상품을 Semantic ID(상품을 짧은 코드 토큰 묶음으로 바꾼 것)로 표현하는데, 이 토큰은 사전학습 때 본 적이 없어 LLM의 자연어 추론 통로를 방해한다. DICE논문는 아예 텍스트를 생성하지 않고, 주어진 후보 각각에 점수를 매겨 가장 높은 하나를 확신도와 함께 고르는 방식을 택했다.

발전 흐름: 각 연구가 새로 한 것

위치 편향 연구논문는 LLM 추천의 기본 약점을 실제 데이터로 드러냈다. 프롬프트 안 후보의 순서만 바꿔도 추천 결과가 크게 달라졌다. 저자들은 RISE(Ranking via Iterative SElection)라는 프롬프트 전략을 제안해, 파인튜닝이나 후처리 없이 입력 순서에 대한 민감도를 줄이고 안정성을 높였다고 보고했다.

CURec논문과 IADSR논문은 보조 방식을 다듬었다. CURec은 추천 모델의 점수를 보상으로 LLM이 생성하는 이유의 질을 높였고, IADSR은 의미 임베딩으로 노이즈 제거를 보완하며 여러 순차 추천 모델과 함께 쓸 수 있음을 네 개 공개 데이터셋에서 확인했다. 비용 쪽에서는 OD-LLM논문이 특잇값 분해(SVD)를 이용한 저랭크 압축과 토큰화 정규화, 층별 점진 정렬을 묶어, 모델 크기를 절반으로 줄여도 원래 추천 모델과 비교해 효과 손실이 없었다고 보고했다. 지연·개인정보·불안정한 인터넷 연결이 문제인 기기 위 추천을 겨냥한 연구다.

PauseRec논문은 명시적 추론을 다시 따졌다. 추론 문장을 생성하게 하는 다단계 학습을 분해해 보니 세상 지식 표현력이 약해지고, Semantic ID와 자연어 토큰의 임베딩 공간이 어긋나며, 추론 문장 품질에 민감하다는 세 가지 한계가 드러났다. 그래서 문장으로 생각을 쓰지 않는 암묵적 추론을 제안했고, 명시적 CoT보다 최대 6.22% 더 좋은 성능, 학습 GPU 시간 최대 65% 절감, 추론 속도 최대 71.3% 향상을 보고했다.

DICE논문는 생성형 추천의 세 문제, 즉 후보 하나를 특정하지 못할 수 있음, 후보 순서에 좌우됨, 확신도가 없음을 한꺼번에 겨냥했다. 빠른 선택과 명시적 확신도를 내는 의사결정 모델 Jev에서 영감을 받아 '결정 중심(decision-native) 추천'을 제안했다. 트리 구조 어텐션으로 사용자 이력 계산을 모든 후보 가지가 공유하게 해 한 번의 순전파로 순서에 흔들리지 않는 점수를 낸다. 세 데이터셋에서 비교한 모든 기준선보다 1순위 정확도가 높았고, 시험한 순서 바꾸기에서 선택이 그대로였으며, 생성형 방식보다 최대 약 6배 빨랐다고 보고했다.

요즘 어디로 가고 있나

첫째 흐름은 협업 신호를 LLM 안으로 직접 들이는 것이다. GALLM논문은 LLM이 언어 중심으로 사전학습돼 사용자-상품 상호작용 속 협업 신호를 잘 잡지 못한다고 보고, 텍스트 토큰과 상품 토큰 위에 그래프를 만들었다. 텍스트-텍스트, 상품-텍스트, 상품 동시 등장에서 나온 상품-상품 관계를 가벼운 어텐션 편향으로 바꿔 넣어, 별도 그래프 인코더 없이 LLM이 협업 신호를 보게 했다. 네 벤치마크에서 가장 강한 기준선보다 HR@5가 평균 9.76% 높았다고 보고했다. '설명을 읽는 점원'에게 계산대 기록을 직접 보여 주는 셈이다.

둘째 흐름은 비싼 추론을 매번 반복하지 않는 것이다. rEDMRec논문은 Teacher LLM의 추론을 장기 선호, 단기 맥락, 상품 인식, 반사실적 오답 비교라는 네 가지 편집 가능한 경험 메모리로 Distill한다. 이후에는 가벼운 Student LLM이 Teacher를 다시 부르지 않고 이 메모리에서 꺼내 쓰기만 하며 후보를 순위 매긴다. 온라인 추론 비용을 추론 깊이에서 떼어 놓은 설계이고, 메모리를 사람이 들여다보고 고칠 수 있다는 점도 장점이다. ML-1M에서 두 번째로 좋은 기준선보다 최대 13.3% 개선을 보고했다.

셋째 흐름은 LLM 추천을 사회적 영향의 관점에서 감사하는 것이다. 의사 추천 감사 연구논문는 일곱 개 모델에 가상 의사 다섯 명 중 하나를 고르게 하는 실험으로 40,068개 응답을 분석했다. 평점을 3.9에서 4.7로 올리면 선택 확률이 31.4%p 오르는 등 평판 신호가 가장 컸다. 그런데 이름으로 드러난 성별·인종에 따른 기울기도 있었고, 아무 내용 없이 첫 번째로 놓인 자리만으로도 진료비 11달러 상당의 효과가 있었다. 모델이 밝힌 이유에서 성별이나 인종을 언급한 비율은 최대 0.03%에 그쳐, 이런 효과는 모델 스스로의 설명에서는 보이지 않았다.

한계와 쟁점, 실무 판단 기준

가장 먼저 챙길 문제는 순서와 형식이다. 위치 편향 연구논문와 의사 추천 감사논문가 보여 주듯 후보 나열 순서만으로 결과가 바뀐다. 생성형 출력은 후보에 없는 상품을 말하거나 확신도를 주지 않을 수 있다논문. 실무에서는 후보 순서를 섞어 여러 번 돌려 보고 결과가 유지되는지 확인하는 것이 최소한의 점검이고, 순서에 흔들리지 않는 구조(DICE처럼 후보별 점수화)를 쓰는 편이 근본 대책이다.

두 번째는 비용이다. LLM이 모든 요청마다 추론하면 지연과 비용이 커진다. 압축논문, 암묵적 추론논문, 추론 결과 메모리화논문는 모두 이 문제에 대한 답이다. 수백만 후보를 실시간으로 거르는 첫 단계까지 LLM에 맡기기보다, 후보를 줄인 뒤 순위를 매기거나 의미 특징을 미리 만들어 두는 자리에 쓰는 것이 일반적인 판단이다.

세 번째는 설명의 신뢰성이다. LLM 추천의 매력 중 하나가 '이유를 말해 준다'는 점이지만, 의사 추천 감사논문는 실제로 결정을 움직인 요인이 모델이 밝힌 이유에 거의 나타나지 않음을 보였다. 저자들은 모델의 자기 설명에 기대는 투명성 의무는 이런 효과를 놓칠 수 있다고 지적한다. 의료·금융처럼 사람에게 영향이 큰 추천에서는 설명 문구가 아니라 속성을 체계적으로 바꿔 보는 감사로 편향을 측정해야 하고, 최종 판단에 사람이 개입하는 구조가 필요하다.

언제 쓰나로 정리하면, 상품 텍스트가 풍부하고 기록이 적은 신상품이 많을 때, 추천 이유를 보여 줘야 할 때 LLM의 가치가 크다. 반대로 상호작용 데이터가 충분하고 지연 요구가 엄격한 대규모 랭킹에서는 LLM을 보조로 두고 협업 신호 기반 모델을 중심에 두는 편이 안전하다. 흔한 실수는 한 번 돌린 결과로 품질을 판단하는 것, 후보 순서를 고정한 채 평가하는 것, 생성된 설명을 검증 없이 사용자에게 그대로 보여 주는 것이다.

더 공부하려면

문제의식부터 잡으려면 위치 편향 연구논문를 먼저 읽는다. LLM에게 추천을 그대로 맡겼을 때 무엇이 흔들리는지 가장 직관적으로 보여 준다. 그다음 DICE논문를 읽으면 그 문제를 프롬프트 요령이 아니라 모델 구조로 푸는 방법을 볼 수 있다.

보조 방식이 궁금하면 IADSR논문과 CURec논문을 함께 읽는다. 앞의 것은 의미 임베딩을 기존 모델에 붙이는 단순한 형태, 뒤의 것은 LLM과 추천 모델이 서로 가르치는 고리 형태다. 생성형 추천과 Semantic ID의 한계는 PauseRec논문이 잘 정리했다.

최근 방향은 GALLM논문으로 협업 신호 주입을, rEDMRec논문으로 추론 비용 줄이기를 본다. 실제 서비스에 넣기 전에는 의사 추천 감사논문를 읽고, 우리 서비스의 추천이 누구를 보이게 하고 누구를 가리는지 어떻게 측정할지 먼저 생각해 두기를 권한다.