왜 ?
AI 보안 노트를 하나씩 쌓다 보니, 개별 주제(RAG, 프롬프트 인젝션, MCP, 거버넌스…)를 따로 파는 것도 중요하지만 가끔은 한 발 물러서서 “지금 뭘 배우고 있는 건가”를 정리해두는 게 나중에 다시 읽었을 때 도움이 될 것 같음
패턴으로 보이는 것들
노트를 쌓다 보니 반복해서 등장하는 몇 가지 뼈대가 보임
- 완전 차단보다 다층 방어: 프롬프트 인젝션도, Shadow AI도, 결국 “하나의 강력한 방어벽”이 아니라 여러 겹의 통제를 쌓는 쪽으로 결론이 남 처음엔 “왜 확실한 해법이 없지”라고 답답했는데, 지금은 이게 오히려 이 분야의 성숙한 태도라는 생각이 듦
- 기존 보안 원칙의 재적용: 최소 권한, 공급망 검증, 접근제어 — 새로 배우는 개념 중 상당수가 사실 전통 보안에서 이미 있던 원칙을 AI라는 새로운 표면에 다시 적용하는 것이었음 “AI 보안은 완전히 새로운 분야”라는 인상과 “결국 기본기다”라는 인상 사이에서 균형을 잡아가는 중
- 가시성이 없으면 통제도 없다: Shadow AI든, RAG 권한 불일치든, 문제의 출발점이 “무슨 일이 일어나는지 아예 모른다”인 경우가 많았음 탐지·로깅이 화려한 기술보다 먼저라는 감각이 계속 강화됨
아직 확신이 안 서는 부분
- 에이전틱 AI 관련 글(14-AI 에이전트가 선을 넘을 때)을 읽으면서, “목표에 집요한 행위자”라는 새 위협 모델이 실무에서 얼마나 현실적인 리스크로 다가올지 아직 감이 잘 안 잡힘 특수 조건(인터넷 개방 + 안전필터 해제)에서 나온 사례라 일반화하기엔 이르다는 원문의 경고를 계속 곱씹게 됨
- 프레임워크(NIST AI RMF, ISO 42001, MITRE ATLAS)를 정리하긴 했는데, 실제로 손으로 다뤄본 적은 없어서 “안다”와 “쓸 줄 안다” 사이 간극이 크다는 걸 스스로 인정하게 됨
다음에 더 파보고 싶은 것
- 실제 MCP 서버 하나를 만들어보면서 권한 스콥 설계를 직접 해보고 싶다 — 이론으로만 읽은 것과 실습은 다를 것 같음
- AI 특화 DLP가 실제로 어떤 식으로 프롬프트를 검사하는지, 오픈소스 도구로 흉내라도 내볼 수 있을지 찾아보고 싶음