AI & API

GPT-4 API 접근 권한을 받아서 며칠간 프롬프트 패턴을 테스트했다. Few-shot 예시 개수, 시스템 메시지 구조화, 출력 형식 지정 등을 비교하며 실용적인 패턴을 정리했다.

ChatGPT API를 프로덕션에 적용하면서 스트리밍 응답 처리가 필요했다. Server-Sent Events 방식으로 구현한 과정을 정리했다.

GPT-4 API 대기자 명단에서 액세스를 받아 첫 프롬프트 실험을 진행했다. GPT-3.5 대비 컨텍스트 이해도와 지시사항 준수율이 확실히 개선되었다. 실무 적용 전 몇 가지 패턴을 테스트한 결과를 정리한다.

ChatGPT API를 프로덕션에 적용하면서 429 에러를 빈번하게 마주쳤다. exponential backoff를 구현해 안정적으로 처리한 방법을 기록한다.

ChatGPT API를 사내 도구에 적용하면서 정리한 프롬프트 작성 패턴. Few-shot learning과 role-based prompting으로 응답 품질을 개선했다.

ChatGPT API가 아직 공개되지 않은 시점에서 GPT-3 API를 사용해 JSON 형식의 구조화된 응답을 안정적으로 받아내는 방법을 정리했다. 프롬프트 엔지니어링과 파싱 전략을 통해 해결했다.

ChatGPT가 출시된 지 두 달이 지났지만 아직 API는 제공되지 않는다. 웹 인터페이스로 프롬프트 패턴을 실험하며 얻은 몇 가지 인사이트를 정리했다.

ChatGPT 출시 이후 OpenAI API를 활용해 사내 문서 자동 요약 시스템을 구축했다. GPT-3.5-turbo 모델을 사용해 긴 회의록과 기술 문서를 요약하는 과정에서 마주친 토큰 제한과 비용 문제를 해결한 경험을 정리했다.

ChatGPT 출시 이후 OpenAI API를 활용해 사내 기술 문서 요약 봇을 만들었다. gpt-3.5-turbo 모델로 긴 문서를 자동 요약하고, 슬랙 봇으로 연동하는 과정을 정리했다.

ChatGPT가 공개된 지 한 달이 지났다. API는 아직 제공되지 않지만, 웹 인터페이스로 테스트하며 프롬프트 작성 패턴을 정리했다. 향후 서비스 통합을 대비한 기초 작업이다.