AI & API

프로덕션 RAG 시스템에서 컨텍스트 윈도우 제한으로 인한 성능 저하 문제를 겪었다. 청크 우선순위 재정렬과 동적 컨텍스트 압축을 통해 응답 품질을 개선한 과정을 정리했다.

AI 기반 기능이 늘어나면서 프롬프트 관리가 코드만큼 중요해졌다. Git으로는 부족한 프롬프트 특유의 버전 관리 요구사항을 해결하기 위해 자체 시스템을 구축했다.

2년 전 작성된 REST API를 GraphQL로 마이그레이션하는 작업을 Claude Code를 활용해 진행했다. 반복적인 스키마 변환 작업을 자동화하면서 느낀 점들을 정리한다.

OpenAI의 Realtime API를 활용해 음성 기반 상담 봇을 구축했다. WebSocket 기반 스트리밍과 음성 인식/합성이 통합되어 있어 구현이 간결했지만, 레이턴시와 비용 관리가 핵심이었다.

3년간 방치된 내부 API 문서화 작업을 Claude Code와 MCP를 활용해 자동화했다. 코드베이스를 분석하고 OpenAPI 스펙을 생성하는 과정에서 MCP 서버를 직접 구현해 컨텍스트를 확장했다.

Cursor의 Composer 모드로 대규모 리팩토링을 시도했다가 예상치 못한 문제들을 마주쳤다. 10개 이상의 파일을 동시에 수정하는 과정에서 발생한 컨텍스트 손실과 불완전한 변경 사항을 정리했다.

단일 프롬프트로 처리하기 어려운 대량 문서 분석 작업을 체이닝 기법으로 해결했다. 각 단계의 출력을 다음 입력으로 연결하면서 정확도와 안정성을 모두 개선할 수 있었다.

사내 문서 검색 시스템 개선 중 청크 크기를 256, 512, 1024 토큰으로 나눠 테스트했다. 도메인 특성에 따라 최적 크기가 다르며, 오버랩 전략도 중요하다는 걸 확인했다.

대규모 레거시 코드베이스 리팩토링 작업에서 Cursor의 멀티파일 편집 기능을 활용한 경험을 정리했다. Composer 모드와 MCP 연동을 통해 작업 효율을 크게 높일 수 있었다.

프로젝트마다 반복되는 Cursor 프롬프트를 .cursorrules 파일로 관리하면서 팀 전체의 AI 코딩 품질이 개선됐다. 컨텍스트 설정부터 코딩 스타일까지 일관성 있게 유지하는 방법을 정리했다.