AI & API

GPT-4 API를 활용해 사내 기술 문서 검색 시스템을 만들었다. 단순 키워드 검색의 한계를 임베딩 기반 유사도 검색으로 해결하고, LangChain으로 컨텍스트를 주입해 답변 품질을 높였다.

GitHub Actions에 GPT-4 API를 연동해 PR 코드 리뷰를 자동화하는 실험을 진행했다. 완벽하진 않지만 명백한 버그나 컨벤션 위반을 찾아내는 데는 유용했다.

회사에서 GPT-4 API를 사용할 기회가 생겨 프롬프트 엔지니어링을 본격적으로 실험해봤다. Few-shot learning과 Chain-of-Thought 기법을 적용하며 배운 점들을 정리했다.

GPT-4 API를 프로덕션에 적용하면서 타임아웃과 Rate Limit 에러를 자주 마주쳤다. 안정적인 서비스를 위해 재시도 로직과 폴백 전략을 구현한 과정을 기록한다.

최근 GPT-4 API가 공개되면서 VSCode용 ChatGPT 확장 프로그램들이 쏟아지고 있다. Copilot과 함께 사용하며 느낀 장단점과 워크플로우를 정리했다.

GPT-4 API를 프로덕션에 적용하면서 스트리밍 응답 처리가 필요했다. Server-Sent Events 방식으로 구현한 과정을 기록한다.

GPT-4가 출시된 이후 AI 기반 코드 에디터들이 많이 나오고 있다. Cursor를 2주간 사용해보고 느낀 점을 정리했다.

GPT-4 API가 공개되면서 코드 리뷰 자동화를 시도해봤다. GitHub PR에 자동으로 리뷰 코멘트를 다는 봇을 만들어 팀에 적용한 과정을 정리했다.

GPT-4에 새로 추가된 Function Calling 기능을 실무에 적용해봤다. 기존 프롬프트 파싱 방식보다 훨씬 안정적으로 구조화된 데이터를 추출할 수 있었다.

GPT-4 API가 공개되어 기존 GPT-3.5와 비교하며 프롬프트 엔지니어링 기법들을 테스트했다. Few-shot 예시 개수, 시스템 메시지 구조화, 출력 형식 제약 등을 실험하며 얻은 몇 가지 인사이트를 정리했다.