Shaivpidadi/refrag
📦 오픈 소스 프로젝트Shaivpidadi
LLM 기반 의미론적 표현을 활용하여 RAG 검색 정확도를 높이고 컨텍스트 크기를 최적화합니다.
REFRAG는 현대 RAG 아키텍처의 핵심 병목 현상인 '검색 범위와 컨텍스트 관련성 사이의 트레이드오프' 문제를 해결합니다. 기존 RAG 시스템은 종종 관련 없는 청크로 인해 '중간 정보 유실(lost in the middle)' 현상이나 컨텍스트 오염을 겪습니다. REFRAG는 최종 생성 단계에 도달하기 전 임베딩을 처리하고 정제하는 고도화된 표현 계층을 도입합니다. LLM의 지능을 활용해 검색된 데이터를 재평가하고 압축함으로써, 모델에 제공되는 컨텍스트의 밀도를 높이고 작업 특화형 정보를 보장합니다. 이러한 접근 방식은 프로덕션급 애플리케이션에 필요한 저지연 성능을 유지하면서도 검색 정확도를 크게 향상시킵니다. Python으로 구축되었으며 기존 OpenAI 기반 워크플로우와 원활하게 통합되어, 더욱 견고하고 정확하며 비용 효율적인 AI 에이전트를 구축하려는 엔지니어들에게 매우 유용한 도구입니다.