왜 프레임워크를 알아야 하나
법(AI 기본법, EU AI Act)이 “무엇을 해야 하는가”를 정한다면, 프레임워크는 “어떻게 체계적으로 실행하는가”를 알려줌 실무 경험이 적어도 프레임워크를 알고 있으면 즉흥적으로 대응하지 않고 표준화된 방식으로 접근할 수 있다는 게 핵심임
NIST AI RMF (AI 위험관리 프레임워크)
미국 NIST가 만든, 인증이 아닌 자율 적용형 위험관리 가이드 4가지 기능으로 구성됨
| 기능 | 내용 |
|---|---|
| Govern | 조직 차원의 AI 위험관리 문화·정책·역할 수립 |
| Map | AI 시스템의 맥락·이해관계자·잠재 위험 식별 |
| Measure | 위험을 정량·정성적으로 평가·측정 |
| Manage | 식별된 위험에 대응(완화/수용/이전) |
특징은 유연함 — 특정 산업·규모에 맞게 조정해서 쓰라고 설계됐음 인증서가 나오는 체계가 아님
ISO/IEC 42001 (AI 관리시스템, AIMS)
ISO 27001(정보보안 관리체계)의 AI 버전이라고 이해하면 빠름 인증 가능한 관리체계 표준으로, PDCA(Plan-Do-Check-Act) 사이클을 따름
- AI 시스템의 전체 생명주기(기획→개발→배포→운영→폐기)에 걸친 관리 요구사항을 규정
- 인증 심사를 통과하면 공식 인증서 발급 — 고객사·파트너사에 신뢰를 보여주는 용도로 활용
- 조직 전체의 AI 거버넌스 “체계”를 요구한다는 점에서 ISO 27001과 결이 비슷함
두 프레임워크 비교
| 구분 | NIST AI RMF | ISO/IEC 42001 |
|---|---|---|
| 성격 | 위험 중심, 유연한 가이드 | 표준 지향, 규범적 |
| 인증 여부 | 인증 불가(자율 참고) | 인증 가능 |
| 적합한 상황 | 빠르게 위험 평가 체계를 만들고 싶을 때 | 대외적으로 공식 인증이 필요할 때 (조달, 파트너십) |
| 관계 | 상호 보완적 — 같이 쓰는 조직이 많음 |
MITRE ATLAS — 보안팀 특화 프레임워크
앞의 두 개가 “거버넌스”라면, MITRE ATLAS(Adversarial Threat Landscape for AI Systems)는 공격자 관점의 프레임워크임 MITRE ATT&CK가 전통 IT 시스템에 대한 공격 전술·기법을 매핑하듯, ATLAS는 AI/ML 시스템에 대한 실제 공격 사례를 전술(Tactics)·기법(Techniques) 단위로 정리해둠 레드팀·위협 모델링을 할 때 “우리 AI 시스템에 어떤 전술이 적용 가능한가”를 점검하는 체크리스트로 쓰기 좋음
세 프레임워크를 엮어서 보는 법
“거버넌스는 NIST AI RMF나 ISO 42001로 조직 체계를 잡고, 실제 위협 모델링·레드팀은 MITRE ATLAS 같은 공격자 관점 프레임워크로 보완한다”는 식으로 세 개를 엮어서 생각하면 각 프레임워크의 역할 구분이 훨씬 명확해짐
더 생각해볼 것들
- NIST AI RMF와 ISO 42001의 차이를 내 말로 설명할 수 있을까
- 조직에 AI 거버넌스 체계를 처음 만든다면 어떤 프레임워크부터 참고하는 게 좋을까
- MITRE ATT&CK와 MITRE ATLAS는 어떤 관계일까
Sources: