GLOSSARY
관측성
돌아가는 LLM 앱 내부를 보는 것 — 트레이스, 비용, 실패 — 서비스를 디버깅하듯 에이전트를 디버깅하기 위해.
고전 관측성은 로그, 메트릭, 트레이스입니다. LLM 관측성은 페이로드를 더합니다. 들어간 프롬프트, 중간의 도구 호출, 나온 토큰과 달러, 답이 좋았는지. 이 루프가 없으면 프로덕션 에이전트는 사용자에게 보이는 오류 세 단계 전에 조용히 실패합니다.
LangSmith, Langfuse, Helicone이 흔한 계층입니다. 요점은 대시보드가 하나 더 있는 것이 아니라 프롬프트 변경을 테스트 가능하게 하고 퇴보를 보이게 하는 것. 건너뛰는 팀은 감으로 출시하고, 트레이스를 남기는 팀은 화요일 답이 왜 나빠졌는지 말할 수 있습니다.