전체

GPT-4o API로 스트리밍 응답 구현 중 랜덤하게 발생하는 청크 유실 문제를 겪었다. SSE 파싱 로직의 버퍼 처리 문제였고, ReadableStream을 직접 다루는 방식으로 해결했다.

사내 문서 검색 시스템에 RAG를 도입하면서 청크 사이즈 설정에 어려움을 겪었다. 512 토큰에서 시작해 여러 실험을 거쳐 256 토큰과 오버랩 20%로 안착한 과정을 정리했다.

사내 문서 요약 기능을 GPT-4 API로 구현하면서 프롬프트 설계의 중요성을 체감했다. Few-shot 예시와 구조화된 출력 지시를 통해 응답 일관성을 크게 개선했다.

GPT-4o API를 스트리밍 방식으로 사용하던 중 긴 응답에서 connection timeout이 발생했다. Next.js API Route의 응답 타임아웃 설정과 keep-alive 처리로 해결했다.

레거시 배치 작업에서 순차적으로 처리하던 외부 API 호출을 asyncio로 전환했다. 약 300개의 API 호출 시간이 15분에서 2분으로 단축되었고, 코드 변경은 생각보다 간단했다.

React 19 RC가 공개되면서 Actions, useOptimistic 등 새로운 기능들이 추가되었다. 프로젝트에 적용하기 전에 주요 변경사항을 정리해두었다.

Copilot을 2년간 사용하다가 Cursor로 갈아탔다. AI 네이티브 에디터라는 컨셉이 궁금해서 시작했는데, 실제 업무에 적용하면서 느낀 장단점을 정리했다.

레거시 코드베이스에 Go 제네릭을 적용하면서 겪은 시행착오를 정리했다. 타입 안정성은 높아졌지만 컴파일 타임이 늘어나는 트레이드오프가 있었다.

Node.js 22가 LTS 준비 단계에 들어가면서 프로덕션 환경 적용을 위한 성능 테스트를 진행했다. V8 12.4 업그레이드로 인한 성능 개선과 주의할 점들을 정리했다.

TypeScript 5.4에서 추가된 NoInfer 유틸리티 타입을 실제 프로젝트에 적용해봤다. 제네릭 타입 추론 시 발생하던 예상치 못한 타입 확장 문제를 해결할 수 있었다.