이 문서의 목적
앞선 개별 주제(RAG, 프롬프트 인젝션, MCP, 거버넌스 등)를 실무 흐름으로 엮은 요약. 면접에서 “우리 회사가 AI 기능을 새로 도입한다면 보안팀으로서 어떻게 접근하겠는가” 같은 종합 질문이 나왔을 때 바로 구조화해서 답할 수 있도록 체크리스트 형태로 정리했다.
도입 전 (Pre-deployment)
| 항목 | 확인 내용 |
|---|---|
| 데이터 분류 | 이 AI 기능이 다루는 데이터가 민감정보/PII/영업비밀을 포함하는가 |
| 법적 검토 | 고영향 AI 해당 여부(AI 기본법), 개인정보 처리방침 반영 필요 여부 |
| 벤더 실사 | 외부 AI API 사용 시 데이터 처리 조항, 로그 보관 정책, 학습 재사용 여부 계약서 확인 |
| 아키텍처 리뷰 | RAG라면 권한 모델 설계, 에이전트라면 도구 권한 범위 설계 |
| 위협 모델링 | OWASP Top 10 for LLM 기준으로 우리 시스템에 적용 가능한 리스크 매핑 |
도입 중 (Deployment)
| 항목 | 확인 내용 |
|---|---|
| 접근 통제 | 검색·도구 실행 시점에 사용자 권한이 실시간 반영되는가 |
| 최소 권한 | 에이전트/서비스 계정에 필요 이상의 권한이 부여되지 않았는가 |
| 가드레일 | 입력·출력 필터링(프롬프트 인젝션, 민감정보 마스킹)이 적용됐는가 |
| 사람 승인 게이트 | 되돌릴 수 없는 작업에 대해 자동 실행이 아닌 승인 절차가 있는가 |
| 로깅 | 요청-검색-응답 전 과정이 감사 가능한 형태로 기록되는가 (단, PII는 마스킹) |
도입 후 (Post-deployment)
| 항목 | 확인 내용 |
|---|---|
| 모니터링 | 이상 사용 패턴(비정상적 대량 호출, 반복적 우회 시도) 탐지 체계 |
| 정기 레드팀 | 주기적으로 탈옥·인젝션 시나리오 테스트 |
| Shadow AI 점검 | 미승인 외부 AI 도구 사용 현황 정기 점검 |
| 인시던트 대응 | AI 관련 사고(오답으로 인한 피해, 민감정보 유출) 대응 플레이북이 별도로 있는가 |
| 규제 변화 추적 | AI 기본법 시행령, 해외 규제 개정 사항을 정기적으로 반영 |
종합 질문에 대한 답변 구조
“도입 전-중-후 3단계로 나눠서, 각 단계마다 데이터/권한/모니터링 관점을 겹쳐서 본다”는 식으로 구조를 먼저 제시하고 세부 항목을 채우면, 즉흥적으로 나열하는 것보다 훨씬 체계적으로 들린다.
조직 구조 관점 고민거리
- AI 보안을 기존 애플리케이션 보안팀이 흡수할 것인가, 별도 전담 조직을 만들 것인가
- 데이터 사이언스/ML팀과 보안팀의 책임 경계를 어디에 그을 것인가 (모델 성능 vs 보안 트레이드오프 결정권)
- 빠르게 변하는 영역이라 정책을 얼마나 자주 갱신할 것인가 — 분기 단위로는 이미 뒤처질 수 있다는 우려가 실무에서 자주 나온다
면접에서 나올 법한 질문
- 신규 AI 기능 출시 전 보안 검토 프로세스를 어떻게 설계하겠는가
- AI 보안 조직을 어디에 둘 것인지에 대한 본인 생각은
- 빠르게 변하는 AI 위협에 대응하기 위해 보안팀 프로세스를 어떻게 바꾸겠는가