AI & API

GPT-4o를 활용한 코드 리뷰 자동화 과정에서 프롬프트 구조 개선을 통해 리뷰 품질을 높인 경험을 정리했다. 컨텍스트 제공 방식과 출력 형식 지정만으로도 실용성이 크게 달라졌다.

최근 3년간 방치된 레거시 프로젝트 리팩토링 작업에 Cursor를 투입했다. AI 컨텍스트 이해 능력을 활용하니 예상보다 훨씬 빠르게 진행됐고, 특히 반복 작업에서 큰 효율을 봤다.

GPT-4와 Claude를 활용한 코드 생성 작업에서 프롬프트 구조화를 통해 응답 품질을 크게 개선했다. Few-shot 예시와 명확한 제약 조건 명시가 가장 효과적이었다.

VSCode 기반 AI 에디터인 Cursor를 팀에 도입한 지 2주가 지났다. Copilot과 비교했을 때 코드 생성 품질과 컨텍스트 이해도가 확실히 높았지만, 몇 가지 예상치 못한 문제도 있었다.

Codeium에서 출시한 AI 네이티브 IDE Windsurf를 일주일간 사용해봤다. Cursor와 비교하며 실제 프로덕션 코드 작성에 적용한 경험을 정리했다.

OpenAI Realtime API를 활용해 음성 기반 고객 상담 챗봇을 구현하는 과정에서 WebSocket 연결 끊김 문제를 마주쳤다. 재연결 로직과 버퍼 관리로 해결한 과정을 정리했다.

사내 문서 검색 RAG 시스템을 구축하면서 청크 크기에 따른 검색 품질 차이를 실험했다. 512 토큰과 1024 토큰 청크를 비교 테스트한 결과, 문서 특성에 따라 적절한 크기가 달랐다.

사내 문서 검색 시스템에 RAG를 도입하면서 청크 크기와 오버랩 설정으로 고생했던 경험을 정리했다. 512 토큰에서 시작해 결국 256 토큰 + 50 오버랩으로 정착했다.

사내 문서 검색 RAG 시스템을 운영하면서 검색 정확도가 떨어지는 문제를 겪었다. 청크 크기 조정과 하이브리드 검색을 도입해 정확도를 개선한 과정을 정리했다.

사내 문서 검색 RAG 시스템의 정확도가 낮아 Cohere Rerank API를 도입했다. 초기 retrieval 결과를 재정렬하여 top-k 정확도를 30% 개선했고, 레이턴시는 200ms 증가에 그쳤다.