Builder.shin
RAG 시스템
38개의 게시물
RAG 시스템
RAG 시스템 청크 크기 최적화 실험 결과
사내 문서 검색 RAG 시스템의 응답 품질을 개선하기 위해 청크 크기와 오버랩 설정을 실험했다. 512 토큰에서 256 토큰으로 변경하고 오버랩을 50으로 설정한 결과 정확도가 23% 향상되었다.
2025년 11월 19일
RAG 시스템
RAG 시스템의 컨텍스트 윈도우 최적화 전략
프로덕션 RAG 시스템에서 컨텍스트 윈도우 제한으로 인한 성능 저하 문제를 겪었다. 청크 우선순위 재정렬과 동적 컨텍스트 압축을 통해 응답 품질을 개선한 과정을 정리했다.
2025년 10월 18일
RAG 시스템
RAG 시스템에서 청크 크기에 따른 검색 정확도 비교
사내 문서 검색 시스템 개선 중 청크 크기를 256, 512, 1024 토큰으로 나눠 테스트했다. 도메인 특성에 따라 최적 크기가 다르며, 오버랩 전략도 중요하다는 걸 확인했다.
2025년 9월 12일
RAG 시스템
프로덕션 RAG 시스템의 청크 크기 최적화 과정
사내 문서 검색 RAG 시스템에서 청크 크기에 따른 검색 품질 저하 문제를 겪었다. 512 토큰 고정 청크에서 semantic chunking으로 전환하며 recall@5가 23% 개선되었고, 이 과정에서 배운 실용적인 청킹 전략을 정리했다.
2025년 8월 8일
RAG 시스템
프로덕션 RAG 시스템의 컨텍스트 윈도우 최적화
서비스 중인 RAG 시스템에서 컨텍스트 윈도우 관리 문제를 겪었다. 청크 크기와 검색 개수를 조정하며 응답 품질과 비용 사이의 균형점을 찾은 과정을 정리했다.
2025년 7월 16일
RAG 시스템
RAG 시스템의 Context Window 최적화 - 청크 크기와 검색 정확도 트레이드오프
프로덕션 RAG 시스템에서 청크 크기를 조정하며 검색 정확도와 응답 품질의 상관관계를 분석했다. 512 토큰에서 256 토큰으로 변경 후 정확도가 15% 상승했지만, 검색 오버헤드가 증가하는 트레이드오프가 발생했다.
2025년 7월 11일
RAG 시스템
운영 중인 RAG 시스템 청크 크기 재조정 회고
사내 문서 검색 RAG 시스템의 응답 품질 저하 문제를 청크 크기와 오버랩 조정으로 해결한 과정을 정리했다. 512토큰에서 256토큰으로 변경하고 오버랩을 50으로 늘린 결과 검색 정확도가 개선됐다.
2025년 6월 15일
RAG 시스템
프로덕션 RAG 시스템의 컨텍스트 윈도우 최적화
사내 문서 검색 RAG 시스템을 운영하면서 컨텍스트 윈도우 한계로 인한 성능 저하를 경험했다. 청크 사이즈와 검색 전략을 개선해 응답 품질을 40% 향상시킨 과정을 기록한다.
2025년 3월 16일
RAG 시스템
RAG 시스템 청크 크기 최적화 실험 기록
사내 문서 검색 RAG 시스템의 검색 정확도를 개선하기 위해 청크 크기와 오버랩 전략을 실험했다. 512토큰 청크에 128토큰 오버랩 조합이 가장 좋은 결과를 보였다.
2025년 3월 13일
RAG 시스템
RAG 시스템 청크 크기 최적화 실험
프로덕션 RAG 시스템에서 청크 크기를 조정하며 검색 정확도와 응답 품질을 측정했다. 512토큰 기준으로 오버랩 50토큰을 적용했을 때 가장 좋은 결과를 얻었다.
2025년 3월 7일
Previous
1
2
3
4
Next
카테고리
Builder.shin