가드레일 · 권한 · 승인

가드레일 · 권한 · 승인

프롬프트는 뚫린다 — 코드가 막는다.

Guardrails — 해서는 안 되는 일, 사람 승인이 필요한 일의 경계입니다.

원칙

프롬프트는 뚫린다고 가정한다.
유일한 실효 방어선은 코드 (tool-gate, 권한 검사).

실무 패턴

• effectOf — 도구별 read/write/destructive 분류
• Quota — 호출·토큰·비용 상한
• Approval bus — destructive 전 SSE round-trip
• Role — owner/editor/viewer 보드 권한

Human-in-the-loop

• “Humans on the loop” — 설계·유지보수
• “Humans in the loop” — 위험 작업 승인

하네스 엔지니어는 모델이 착하게 말할 것에 기대지 않고, 호출 직전에 막습니다.

"가드레일은 AI에게 하는 말이 아니라, 시스템에 거는 잠금이다."

In-memory 승인·quota는 분산 환경에서 정확도 한계가 있습니다. 프로덕션에서는 Redis 등 공유 상태 검토가 필요합니다.

이번 호 키워드

· 가드레일
· 권한
· 승인
· 안전