3분 제품 투어 침해사고 긴급 문의
LLM01:2026

프롬프트 인젝션,
채팅과 문서 속 지시

OWASP Top 10 for LLM Applications 2026은 2026년 8월 3일에 공개됐고, 프롬프트 인젝션은 LLM01:2026으로 남아 있습니다. 사람이 채팅에 직접 넣는 지시와, 메일·위키·첨부처럼 모델이 읽는 문서 안에 숨은 지시를 나눠 보면 됩니다. 보내기, 삭제, 외부 호출은 사람이 그 동작을 본 뒤에 실행합니다.

핵심 점검 사항

이번 주에 볼 것

  • 사내 챗봇과 에이전트가 읽는 곳(채팅, 메일, 위키, 첨부, 검색 결과)을 목록으로 적습니다.
  • 직접 입력과 문서에 숨은 지시를 화면에서 구분할 수 있는지 확인합니다. 문서 문장을 사용자 지시와 같은 칸에 넣지 않습니다.
  • 돈이 나가거나, 데이터가 지워지거나, 메일이 나가기 전에 사람이 대상과 내용을 보는지 확인합니다.
  • 챗봇과 에이전트에서 나온 경보는 한 사건으로 묶고, 왜 그렇게 봤는지 판정 옆에 남깁니다. 격리와 차단은 담당자가 승인한 뒤에 실행합니다.

Genox는 여러 경보를 한 사건으로 묶고 판정 옆에 근거를 둡니다. 사내 챗봇과 에이전트도 같은 기준으로, 문서에서 온 지시 때문에 생긴 호출을 사건으로 남기고 사람이 조치를 승인합니다.

참고 자료

참고

2026년 11월 10일에 확인

도입·보안 상담

도입 문의