전체

사내 문서 검색 RAG 시스템의 정확도가 낮아 Cohere Rerank API를 도입했다. 초기 retrieval 결과를 재정렬하여 top-k 정확도를 30% 개선했고, 레이턴시는 200ms 증가에 그쳤다.

5GB 크기의 CSV 파일을 메모리 오버플로우 없이 처리해야 했다. fs.readFile 대신 스트림을 활용해 메모리 사용량을 95% 줄인 경험을 기록한다.

React 19 RC가 공개되면서 새로운 use 훅을 프로젝트에 적용해봤다. Promise를 직접 전달할 수 있는 구조가 기존 data fetching 패턴을 크게 단순화시킬 수 있었다.

사내 문서 검색 시스템에 RAG를 도입하면서 청크 사이즈 설정이 검색 품질에 미치는 영향을 확인했다. 512 토큰에서 256 토큰으로 조정하니 정확도가 눈에 띄게 개선됐다.

GPT-4 API를 스트리밍 방식으로 사용하는 채팅 서비스에서 메모리 누수가 발생했다. EventSource 연결 해제가 제대로 되지 않아 발생한 문제였고, AbortController를 활용해 해결했다.

GitHub Copilot을 2년간 사용하다가 Cursor로 전환했다. AI 코딩 도구의 새로운 패러다임이라는 평가가 많았지만, 실제 업무에 적용했을 때 체감되는 차이와 한계를 기록한다.

React 19 RC를 테스트하던 중 ref 콜백에서 cleanup 함수를 반환할 수 있게 변경된 것을 발견했다. 기존 코드에서 예상치 못한 동작이 발생해 마이그레이션 작업을 진행했다.

FastAPI의 BackgroundTasks를 사용하다가 예외가 발생해도 로그에 남지 않는 문제를 겪었다. 백그라운드 태스크는 응답 반환 후 실행되기 때문에 별도의 예외 처리가 필요했다.

TypeScript 5.6에서 개선된 satisfies 연산자를 실무에 적용하면서 타입 추론과 안전성을 동시에 확보하는 방법을 정리했다. 기존 as const와의 차이점과 실제 API 응답 처리 케이스를 다뤘다.

여러 API를 병렬로 호출하는 작업에서 일부가 실패해도 나머지 결과를 받아야 하는 요구사항이 있었다. asyncio.gather의 return_exceptions 옵션을 활용해 안정적인 병렬 처리를 구현했다.