전체

ChatGPT 출시 이후 사내에서 프롬프트 엔지니어링 수요가 급증했다. 반복적인 프롬프트 작성을 자동화하기 위해 템플릿 시스템을 구축한 과정을 정리했다.

복잡한 작업을 여러 단계로 나눠 GPT-4에게 순차적으로 처리시키는 프롬프트 체이닝 패턴을 도입했다. 단일 프롬프트 대비 정확도가 크게 개선됐고, 중간 결과를 검증할 수 있어 안정성도 높아졌다.

GPT-4 API를 프로덕션에 적용하면서 효과적인 프롬프트 작성법을 실험했다. Few-shot 예시, 구조화된 출력, 그리고 온도 파라미터 조정이 핵심이었다.

FastAPI 프로젝트에서 asyncpg를 사용하면서 커넥션 풀 관리 문제를 겪었다. 요청이 많아지면서 커넥션이 고갈되는 이슈를 해결한 과정을 정리했다.

Next.js 13 App Router에서 Server Components를 실제 프로젝트에 적용해봤다. 클라이언트 번들 사이즈를 30% 줄이는 데 성공했지만, 러닝 커브와 제약사항도 만만치 않았다.

Go 1.21로 업그레이드하면서 defer의 성능이 크게 개선된 것을 확인했다. 기존에 성능 문제로 피했던 패턴들을 다시 도입할 수 있게 되었고, 코드 가독성도 함께 개선되었다.

Node.js 프로젝트에서 try-catch 중첩 지옥을 겪으며 Rust의 Result 패턴을 TypeScript로 구현해봤다. 명시적인 에러 처리로 코드 가독성이 크게 개선됐다.

API 서버에서 여러 외부 서비스를 호출할 때 asyncio.gather와 as_completed 중 어떤 것을 선택해야 할지 고민했다. 실제 프로젝트에 적용하면서 각각의 적합한 사용 사례를 정리했다.

GPT-4 API를 스트리밍 모드로 사용하던 중 장시간 운영 시 메모리가 계속 증가하는 문제를 발견했다. EventSource 객체를 제대로 정리하지 않아 발생한 이슈였고, 명시적인 cleanup 로직으로 해결했다.

사내 문서 검색 시스템에 RAG를 도입하면서 OpenAI Embedding API와 벡터 DB 간 차원 불일치 문제를 겪었다. Pinecone 인덱스 설정을 잘못 이해한 것이 원인이었고, 재생성으로 해결했다.