OpenAI API

GPT-4의 Function Calling 기능을 활용해 외부 API와 연동하는 챗봇을 구현했다. 단순 텍스트 응답을 넘어 실시간 데이터 조회가 가능해졌다.

GPT-3.5/4 모델에 추가된 Function Calling 기능을 실무에 적용해봤다. 날씨 API와 사내 데이터베이스 조회를 자연어로 처리하는 챗봇을 구현하면서 겪은 시행착오를 정리한다.

GPT-4 API를 프로덕션에 적용하면서 타임아웃과 Rate Limit 에러를 자주 마주쳤다. 안정적인 서비스를 위해 재시도 로직과 폴백 전략을 구현한 과정을 기록한다.

GPT-4 API를 프로덕션에 적용하면서 스트리밍 응답 처리가 필요했다. Server-Sent Events 방식으로 구현한 과정을 기록한다.

GPT-4에 새로 추가된 Function Calling 기능을 실무에 적용해봤다. 기존 프롬프트 파싱 방식보다 훨씬 안정적으로 구조화된 데이터를 추출할 수 있었다.

ChatGPT API를 프로덕션에 적용하면서 스트리밍 응답 처리가 필요했다. Server-Sent Events 방식으로 구현한 과정을 정리했다.

ChatGPT API를 프로덕션에 적용하면서 429 에러를 빈번하게 마주쳤다. exponential backoff를 구현해 안정적으로 처리한 방법을 기록한다.

ChatGPT API가 아직 공개되지 않은 시점에서 GPT-3 API를 사용해 JSON 형식의 구조화된 응답을 안정적으로 받아내는 방법을 정리했다. 프롬프트 엔지니어링과 파싱 전략을 통해 해결했다.

ChatGPT 출시 이후 OpenAI API를 활용해 사내 문서 자동 요약 시스템을 구축했다. GPT-3.5-turbo 모델을 사용해 긴 회의록과 기술 문서를 요약하는 과정에서 마주친 토큰 제한과 비용 문제를 해결한 경험을 정리했다.

ChatGPT 출시 이후 OpenAI API를 활용해 사내 기술 문서 요약 봇을 만들었다. gpt-3.5-turbo 모델로 긴 문서를 자동 요약하고, 슬랙 봇으로 연동하는 과정을 정리했다.