공개 LLM API 선택 가이드
"LLM API 비교" · "쇼핑몰 ChatGPT API" — 교육 ② · 벤더 선택 체크리스트.
평가 축 (가중치 예: 운영 40 · 비용 30 · 규정 30)
| 벤더 | 강점 | 쇼핑몰 주의 |
|---|---|---|
| OpenAI | 생태계·함수호출·Assistants | 데이터 정책·리전 |
| Anthropic | 긴 컨텍스트·안전 | Tool use 문서화 |
| Google Gemini | 멀티모달·GCP 연동 | Workspace 경계 |
| Azure OpenAI | 엔터프라이즈 SLA·VNet | 모델명·지역 제한 |실무 선택 트리
- 개인정보·주문 PII가 프롬프트에 들어감 → Azure OpenAI 또는 Zero Data Retention 옵션 확인
- 한국어 CS 90% → golden set 50문항으로 2개 모델 A/B(⑦)
- 이미지(상품·AS) → Gemini·GPT-4o 비전 검토
- 예산 고정 → 소형 모델 + RAG (큰 모델은 검수·에스컬레이션만)
API 키 운영 (필수)
- 키는 서버 환경변수 — 프론트·앱 번들 금지
- 프로젝트별 키 — CS봇 / 내부도구 / 마케팅 분리
- 월 한도·알림 — Slack webhook
Lab 2-1 · RFP 10문항 (벤더에 이메일)
- 학습 데이터 opt-out 가능 여부
- SOC2·ISO27001 보고서
- 한국 리전 또는 데이터 거주지
- Rate limit 기본·상향 절차
- 장애 SLA·상태 페이지
다음 ③ 상품 데이터 모델링
| Use case | 추천 tier | 비고 |
|---|---|---|
| FAQ 단발 | 소형 + temperature 0 | 캐시 |
| RAG CS | 중형 + citations | ⑦ eval |
| 상품카피 | 중형 + human review | ⑤ |
| 에이전트 | 대형 + tools | ⑥⑧ |
실습 2-2 · 환경변수 템플릿 (.env.example)
```
LLM_PROVIDER=openai
OPENAI_API_KEY=sk-...
LLM_MODEL_CS=gpt-4o-mini
LLM_MODEL_COPY=gpt-4o
LLM_MAX_TOKENS=1024
LOG_REDACT_PII=true
```→ Git에 절대 커밋하지 않음. CI에서 secret scan.
핵심 키워드
· 벤더
· SLA
· API키
· RFP
추천 링크