프롬프트 캐싱이 뭐야?

아주 쉽게, 그림으로

긴 지시문을 매번 처음부터 안 읽게 잠깐 기억해두는 기술이에요
이렇게 절약해요
이 대화도 1시간짜리 기억을 쓰고 있어요
ⓘ 더 보기
📋💾
긴 지시문을 매번 처음부터 안 읽게 잠깐 기억해두는 기술이에요
더 빠르고 저렴해져요
📋긴 지시문→💾한 번 읽고 기억→⚡다음엔 빠르게 재사용
이렇게 절약해요
🕐✅
이 대화도 1시간짜리 기억을 쓰고 있어요
그래서 대화가 길게 이어져도 매번 처음부터 다시 안 읽어요
한 줄로: 프롬프트 캐싱은 AI가 같은 지시문을 반복해서 처음부터 읽지 않도록 기억해두는 기술이에요.

출처: 이 세션 자체의 prompt-cache 동작 방식 (1시간 TTL)