Cohere, 재정렬 모델 'Rerank 5' 공개…Pro·Fast 두 종, 문서 속 필요한 구절을 골라내는 'Context Focus' 추가(커뮤니티 전언)

확인된 내용 (사실)

국내 커뮤니티 GeekNews에 따르면 Cohere가 검색 결과를 질문과 얼마나 관련 있는지에 따라 다시 정렬하는 Rerank 5를 내놨다. 품질을 우선하는 Pro와 속도·비용을 고려한 Fast, 두 모델로 나뉜다. 새로 들어간 Context Focus는 문서 순위를 매기는 데 그치지 않고, 문서 안에서 질문에 답하는 데 필요한 부분을 뽑아낸다고 한다. 성능 수치와 가격은 수집된 발췌에 나오지 않는다.

의미 (해석)

RAG 파이프라인에서 Reranker가 문서 순위뿐 아니라 핵심 구절까지 골라 주면, LLM에 넘기는 컨텍스트가 줄어 토큰 비용과 답변 정확도에 함께 영향을 줄 수 있다. 기업 검색 시스템에서 재정렬 단계를 다시 설계할지 검토할 만하다.

출처

• 커뮤니티 Cohere, Rerank 5 공개 - 검색 결과 재정렬부터 문서 속 핵심 구절 추출까지 GeekNews