
LLM01:2026
프롬프트 인젝션,
프롬프트 인젝션,
채팅과 문서 속 지시
OWASP Top 10 for LLM Applications 2026은 2026년 8월 3일에 공개됐고, 프롬프트 인젝션은 LLM01:2026으로 남아 있습니다. 사람이 채팅에 직접 넣는 지시와, 메일·위키·첨부처럼 모델이 읽는 문서 안에 숨은 지시를 나눠 보면 됩니다. 보내기, 삭제, 외부 호출은 사람이 그 동작을 본 뒤에 실행합니다.
핵심 점검 사항
이번 주에 볼 것
- 사내 챗봇과 에이전트가 읽는 곳(채팅, 메일, 위키, 첨부, 검색 결과)을 목록으로 적습니다.
- 직접 입력과 문서에 숨은 지시를 화면에서 구분할 수 있는지 확인합니다. 문서 문장을 사용자 지시와 같은 칸에 넣지 않습니다.
- 돈이 나가거나, 데이터가 지워지거나, 메일이 나가기 전에 사람이 대상과 내용을 보는지 확인합니다.
- 챗봇과 에이전트에서 나온 경보는 한 사건으로 묶고, 왜 그렇게 봤는지 판정 옆에 남깁니다. 격리와 차단은 담당자가 승인한 뒤에 실행합니다.
Genox는 여러 경보를 한 사건으로 묶고 판정 옆에 근거를 둡니다. 사내 챗봇과 에이전트도 같은 기준으로, 문서에서 온 지시 때문에 생긴 호출을 사건으로 남기고 사람이 조치를 승인합니다.
참고 자료
참고
- OWASP Top 10 for LLM Applications 2026, OWASP Gen AI Security Project, 2026년 8월 3일. LLM01:2026 Prompt Injection
2026년 11월 10일에 확인