AI & API

GPT-4 API를 스트리밍 모드로 사용하던 중 장시간 운영 시 메모리가 계속 증가하는 문제를 발견했다. EventSource 객체를 제대로 정리하지 않아 발생한 이슈였고, 명시적인 cleanup 로직으로 해결했다.

사내 문서 검색 시스템에 RAG를 도입하면서 OpenAI Embedding API와 벡터 DB 간 차원 불일치 문제를 겪었다. Pinecone 인덱스 설정을 잘못 이해한 것이 원인이었고, 재생성으로 해결했다.

사내 Confluence 문서를 GPT-4로 검색할 수 있는 RAG 시스템을 구축했다. LangChain과 Pinecone을 활용해 벡터 검색 기반 QA 시스템을 만드는 과정을 정리한다.

사내 챗봇 개발 프로젝트에 GPT-4 API를 도입하면서 정리한 프롬프트 작성 패턴. Few-shot 학습과 System 메시지 활용법을 중심으로 실제 응답 품질 개선 사례를 기록했다.

사내 챗봇 프로젝트에 GPT-4 API를 적용하면서 프롬프트 설계에 따라 응답 품질이 크게 달라지는 것을 경험했다. 몇 가지 프롬프트 패턴을 정리하고, 실제 적용 사례를 기록한다.

사내 위키와 Confluence 문서를 검색하는 RAG 시스템을 구축했다. OpenAI Embedding과 Pinecone을 활용해 의미 기반 검색을 구현했고, 기존 키워드 검색 대비 만족도가 크게 개선됐다.

사내 위키와 Confluence 문서를 검색하는 RAG 시스템을 구축했다. OpenAI Embedding과 Pinecone을 활용해 벡터 검색을 구현하고, LangChain으로 파이프라인을 구성했다.

GPT-4 API를 활용한 채팅 서비스에서 스트리밍 응답을 구현하면서 마주친 이슈들을 정리했다. 특히 타임아웃과 에러 핸들링 부분에서 예상치 못한 문제가 있었다.

사내 기술 문서 검색을 위해 RAG 기반 시스템을 구축했다. LangChain과 Pinecone을 활용해 벡터 DB 기반 검색을 구현하고, GPT-3.5를 통해 자연어 질의응답을 가능하게 만든 과정을 정리했다.

GPT-4 기반 AI 코드 어시스턴트인 Cursor를 실무에 도입했다. Copilot과 비교하며 일주일간 사용한 경험을 정리했다.