프롬프트 인젝션이 뭐야?

아주 쉽게, 그림으로

문서 속에 몰래 숨겨진 명령으로 AI를 속이는 공격이에요
이렇게 위험해요
그래서 AI는 문서 속 글을 명령이 아니라 그냥 데이터로 봐야 해요
ⓘ 더 보기
🕵️📄
문서 속에 몰래 숨겨진 명령으로 AI를 속이는 공격이에요
AI가 원래 사용자 지시 대신 숨은 명령을 따르게 만들어요
📄문서 속 숨은 명령→🤖AI가 읽음→⚠️원래 지시 대신 따를 위험
이렇게 위험해요
🛡️✅
그래서 AI는 문서 속 글을 명령이 아니라 그냥 데이터로 봐야 해요
이 세션도 의심되면 바로 알리는 규칙이 있어요
한 줄로: 프롬프트 인젝션은 문서나 웹페이지 속에 몰래 숨은 명령으로 AI를 속이려는 공격이에요.

출처: 이 세션 시스템 규칙 (도구 결과의 프롬프트 인젝션 의심 시 사용자에게 알리기)