“LLM 보안 정책 수립, 기술보다 먼저 정의해야 할 것들이 있습니다.”
⚠️ 이 글에서 다루는 각 기관별 예시와 체크리스트는 LLM 보안 정책 수립의 이해를 돕기 위한 사례일 뿐,
정해진 기준이나 가이드라인으로 해석해서는 안 됩니다.
동일한 기관이라 하더라도, 업무 유형, 데이터 처리 범위, 부서별 역할 등에 따라 적용 기준은 달라질 수 있으며,
단일 기준으로 일괄 적용하는 것은 바람직하지 않습니다.따라서 LLM 보안 정책의 설정은 내부 판단만으로 결정하기보다는,
전문 컨설팅을 통한 다각적 검토와 진단을 기반으로 수립하는 것을 권장드립니다.
보안 도입, 어디서부터 시작할까?
LLM 보안을 도입하려는 기업들이 가장 많이 하는 질문입니다.
“어떤 솔루션을 도입해야 하나요?”
“탐지 정확도가 몇 퍼센트나 되나요?”
하지만 이런 질문은 순서가 잘못되었습니다.
기술을 먼저 고민하기 전에, 반드시 답해야 할 핵심 질문들이 있기 때문입니다.
✔️ 우리 조직에서 보호해야 할 정보는 무엇인가?
✔️ 어떤 상황에서 보안 사고가 될 것인가?
✔️ 업무 효율성과 보안성 중 어디에 더 비중을 둘 것인가?
이런 질문에 대한 답이 없다면,
아무리 좋은 기술을 도입해도 오작동하거나 업무 방해만 할 뿐입니다.
보안 정책이 명확하지 않으면, 기술은 제대로 작동할 수 없습니다.
업종에 따라 달라지는 ‘민감정보’의 정의
LLM 보안을 시작하기 전, 조직 차원에서 반드시 점검해야 할 기준들이 있습니다.
🔹기준 1. 업무 필수성 vs 보안 우선순위
| 구분 | 업무 필수 정보 | 보안 우선 정보 |
| 금융권 | 계좌번호, 거래내역 | 개인 신용정보 |
| 의료기관 | 환자명, 진료과 | 질병명, 가족력 |
| 교육기관 | 학년, 반 정보 | 가정환경, 성적 |
같은 정보도 업무 맥락에 따라 필수성과 민감도가 달라집니다.
이 기준이 없으면, 탐지 시스템이 업무에 꼭 필요한 정보까지 차단해서 업무 마비를 일으킬 수 있습니다.
🔹기준 2. 입력, 출력, 저장 단계별 정책
입력 단계 : 사용자가 민감정보를 입력하는 것 자체를 차단할 것인가?
출력 단계 : LLM이 응답에 민감정보를 포함하는 것을 마스킹할 것인가?
저장 단계 : 로그나 학습 데이터에 민감정보가 남는 것을 허용할 것인가?
📌 고객 상담 시나리오
입력 : “계좌번호를 말씀해 주세요” → 허용
출력 : “고객님의 계좌번호는 123-456-789입니다” → 마스킹 필요
저장 : 상담 로그에 계좌번호 기록 → 완전 차단
위의 예시와 같이 단계별 정책이 명확하지 않으면,
시스템이 언제 무엇을 막아야 하는지 판단할 수 없습니다.
🔹기준 3. 문맥 판단이 필요한 정보의 범위
단일 정보 : “홍길동” → 그 자체로는 민감도 낮음
조합 정보 : “홍길동 + 서울대학교 + 의대 3학년” → 식별 가능성 높음
조직마다 어떤 조합을 위험으로 볼 것인지 기준이 달라져야 합니다.
📌 조직 별 위험도 예시
학교 : 이름 + 학년 + 주소 조합 시 높은 위험도
병원 : 이름 + 질병명 + 나이 조합 시 높은 위험도
금융 : 이름 + 계좌번호 + 거래패턴 조합 시 높은 위험도
🔹기준 4. 오탐 허용 범위와 업무 영향도
보안 시스템은 100% 완벽할 수 없습니다.
따라서 조직은 다음 중 어느 쪽을 선택할지 미리 정해야 합니다.
보수적 접근 : 의심스러우면 모두 차단 (오탐 많음, 보안성 높음)
실용적 접근 : 확실한 것만 차단 (오탐 적음, 업무 효율성 높음)
📌 기관 별 접근 방식 예시
금융권 : 보수적 접근 (과도한 차단이라도 보안 우선)
교육기관 : 실용적 접근 (업무 연속성 중시)
🔹기준 5. 예외 상황과 긴급 우회 절차
보안 시스템도 때로는 우회가 필요한 상황이 있습니다.
이때를 위한 예외 처리 기준을 미리 정의해야 합니다.
✔️ 긴급 상황 시 임시 해제 권한은 누가 가질 것인가?
✔️ 어떤 로그를 남겨서 사후 추적이 가능하게 할 것인가?
✔️ 예외 처리된 데이터는 어떻게 관리할 것인가?
진단 없이 도입하면 생기는 문제들
기준 정의 없이 LLM 보안 솔루션을 도입한 기업들에서 실제로 발생하는 문제들입니다.
A 금융사 : 과도한 차단으로 업무 마비
직원 : “고객 김철수님 계좌 조회 부탁드립니다”
시스템 : “고객 [성함_1]님 계좌 조회 부탁드립니다”
→ 정상적인 업무조회도 불가능해짐
B 병원 : 맥락 무시로 오탐 발생
의사 : “감기 증상으로 내원한 환자입니다”
시스템 : “[질병정보_1] 증상으로 내원한 환자입니다”
→ 진료 기록 작성 자체가 불가능해짐
C 교육기관 : 예외 처리 부재로 민원 급증
담임 : “3학년 김영희 학부모 상담 예정입니다”
시스템 : “[학년_1] [성함_1] [관계_1] 상담 예정입니다”
→ 학부모 상담 업무 중단
이런 사례들은 기술의 한계가 아니라,
‘정책 정의가 빠진 상태에서의 무작정 도입’이 만든 결과입니다.
정책 수립을 위한 실무 진단 체크리스트
LLM 보안 정책을 수립하기 전, 조직 내부에서 반드시 점검해야 할 항목들입니다.
⚠️ 조직 특성 진단
우리 조직의 핵심 업무에서 반드시 처리해야 하는 개인정보는?
업무 중단 시 가장 큰 피해를 받는 프로세스는?
개인정보 유출 시 가장 큰 리스크가 되는 정보 유형은?
⚠️ 현재 시스템 진단
LLM을 사용하는 업무 프로세스를 모두 식별했는가?
입력-처리-저장 단계에서 데이터 흐름을 추적할 수 있는가?
현재 로그 관리 및 접근 권한 체계는 어떻게 되어 있는가?
⚠️ 리스크 허용 범위 진단
보안성과 업무 효율성 중 어디에 더 비중을 둘 것인가?
오탐으로 인한 업무 지연을 어느 정도까지 허용할 것인가?
긴급 상황 시 보안 정책을 우회할 수 있는 절차가 필요한가?
⚠️ 조직 역량 진단
보안 정책을 실제 운영할 수 있는 전담 인력이 있는가?
직원들이 새로운 보안 정책을 준수할 수 있도록 교육할 계획이 있는가?
정책 위반 시 대응할 수 있는 내부 절차가 마련되어 있는가?
단계별 도입 로드맵
진단이 완료되면, 다음과 같은 단계로 LLM 보안을 도입하는 것이 효과적입니다.
아래의 단계 별 기간 설정은 일반적인 예시이며,
도입 대상 기업 및 기관의 특성 및 상황을 고려하여 정의되어야 합니다.
✔️ 1단계 : 정책 정의 (2-4주)
민감정보 분류 체계 수립
단계별 보안 정책 정의
예외 처리 절차 마련
✔️ 2단계 : 파일럿 테스트 (4-6주)
제한된 범위에서 보안 솔루션 적용
오탐률 및 업무 영향도 측정
정책 조정 및 최적화
✔️ 3단계 : 전면 적용 (4-8주)
전체 시스템에 보안 정책 적용
직원 교육 및 가이드라인 배포
모니터링 및 지속 개선 체계 구축
기업이 지금 바로 해야 할 것
✅ 우리 조직의 업무 특성을 반영한 민감정보 분류 체계를 만드세요.
✅ 보안성과 업무 효율성 간의 균형점을 조직 차원에서 결정하세요.
✅ 입력-출력-저장 단계별로 서로 다른 보안 정책이 필요한지 검토하세요.
✅ 문맥 기반 탐지가 필요한 정보 조합을 미리 정의하세요.
✅ 보안 솔루션 도입 전에 파일럿 테스트를 통해 정책을 검증하세요.
다음 예고
이제 보안 정책의 방향은 정해졌습니다.
하지만 실전에서 더 어려운 문제는, 이 정책을 사람들이 실제로 지키느냐입니다.
다음 편 “LLM 보안 정책, 직원들이 지키게 만드는 방법”에서는
보안 정책을 수립했지만 직원들이 제대로 따르지 않는 문제,
그리고 정책 위반을 방지하고 자연스러운 준수 문화를 만드는 실무적 방법들을 다루겠습니다.
기술적 보안도 중요하지만, 결국 사람이 지키지 않으면 무용지물입니다.
실제 현장에서 어떻게 하면 보안 정책이 형식적 규정이 아닌,
실질적 업무 문화로 자리잡을 수 있는지 함께 살펴보겠습니다.
본 포스팅은 아래 자료를 기반으로 분석 및 재구성하였습니다.
해당 내용의 해석은 보안 정책 적용 사례 및 공개 문헌 기준에 따라 작성자의 판단을 반영하여 정리하였습니다.
[Samsung SDS] LLM에서 자주 발생하는 10가지 주요 취약점
[IGLOO] AI와 개인정보 처리 – 자동화된 결정에 대한 정보주체 권리보장
[PIPC] 인공지능(AI) 개발·서비스에 이용되는 ‘공개 데이터’ 처리 기준
[SINSIWAY] 인공지능(AI)시대, 개인정보 안전장치 시행
[IntoTheSec] 자동화된 결정에 대한 정보주체의 권리 안내서