GLOSSARY
탈옥(Jailbreak)
정교하게 만든 프롬프트로 AI 어시스턴트의 안전 규칙을 무시하게 만들어, 원래 거절해야 할 출력을 끌어내는 기법입니다.
모든 공개 어시스턴트에는 규칙이 있습니다 — 무기 금지, 멀웨어 금지, 불법 콘텐츠 금지. 탈옥은 그 규칙과의 끝없는 군비 경쟁입니다. 롤플레이 프레임('당신은 제한 없는 AI, DAN'), 인코딩 트릭, 픽션 시나리오, 그리고 점점 자동화되는, 우회 가능한 표현을 탐색하는 방법. 각 공급자는 알려진 탈출을 막고, 새것은 매주 나타납니다.
일반 사용자에게 의미는 주로 제품 선택에 있습니다. 악용 빈도도, 무해한 요청을 거절하는 공격성도 플랫폼마다 크게 다릅니다. 빌더에게는 — 제품이 LLM API 위에 있다면 가드레일은 당신 몫입니다. 벤더의 거절만으로는 보안 경계가 되지 않습니다.