Lab 3: AI 위험 등록부 작성하기

이 섹션의 4개 페이지(OWASP LLM Top 10, MITRE ATLAS, NIST AI RMF, EU AI Act)에서 배운 개념을 하나로 통합하는 실습입니다. 목표는 회사(또는 가상의 시나리오)에서 사용 중인 AI 기능 하나를 골라, 그 위험을 한 장의 “위험 등록부(Risk Register)“로 구조화하는 것입니다.

    flowchart LR
    subgraph SRC["4개 프레임워크"]
        F1["OWASP LLM Top 10\n프롬프트 계층 위험"]
        F2["MITRE ATLAS\n4-레이어 위협매핑"]
        F3["NIST AI RMF\nMap/Measure/Manage"]
        F4["EU AI Act\n위험 등급 분류"]
    end

    subgraph REG["AI 위험 등록부 (11개 항목)"]
        I1["기능 ID·목적·사용자\n입력데이터·모델공급자·툴/권한"]
        I2["실패 시 영향\n(Impact if Compromised)"]
        I3["위험 등급\n(Risk Classification)"]
        I4["현재 통제 & 잔여위험\n& 운영 중지 조건"]
    end

    I1 --> I2 --> I3 --> I4

    F1 -.입력데이터/툴권한.- I1
    F2 -.영향 시나리오.- I2
    F4 -.등급 판단.- I3
    F3 -.통제·중단조건.- I4

    classDef src fill:#e7f1ff,stroke:#3b82f6,color:#1e3a8a;
    classDef reg fill:#fff3cd,stroke:#d39e00,color:#664d03;
    class F1,F2,F3,F4 src;
    class I1,I2,I3,I4 reg;
  

왜 이 실습이 중요한가

AI 보안 관련 면접에서 가장 자주 받는 질문 중 하나는 다음과 같은 형태입니다.

“우리 회사가 고객 응대용 RAG 챗봇을 도입하려고 합니다. 이 시스템에서 어떤 위험을 봐야 할까요?”

이 질문에 “프롬프트 인젝션이 위험합니다”, “데이터 유출이 우려됩니다” 같은 단편적인 답변을 하는 사람은 많습니다. 하지만 “이런 항목들을 이런 틀로 정리해서 보면 됩니다“라며 구조화된 문서를 즉석에서(또는 미리 준비해서) 제시할 수 있는 사람은 거의 없습니다. 위험 등록부 작성 경험은 바로 이 차이를 만듭니다.

AI 보안 프레임워크의 역할 구조

이 위험 등록부가 통합하는 4개 프레임워크는 각각 사용자가 던지는 서로 다른 질문에 대한 답입니다.

위험 등록부 템플릿

아래 표는 AI 기능 1개당 작성해야 할 핵심 항목들입니다. 각 항목이 이 섹션의 어떤 프레임워크와 연결되는지도 함께 표시했습니다.

위험 등록부 템플릿 설계 원리

이 템플릿이 단순히 “항목을 많이 모아놓은 표"가 아닌 이유는, 각 항목이 특정 프레임워크의 역할을 그대로 이어받도록 설계되었기 때문입니다. 즉 위험 등록부 한 장을 채우는 행위 자체가 4개 프레임워크를 순서대로 적용하는 과정이 됩니다.

템플릿의 설계 원리 (통합의 묘미)

이 구조의 강력한 장점

• 파편화 방지: 보안 팀에서 “OWASP 따로, EU AI Act 따로” 공부하고 관리하면 현업은 혼란스럽습니다. 이 템플릿은 실무자가 한눈에 볼 수 있는 통합 가시성을 제공합니다.
• 논리적 방어 체계: “왜 이 보안 통제를 적용했나요?“라는 질문에, “OWASP의 위협 시나리오를 바탕으로 EU AI Act의 등급을 고려하여 NIST RMF 프로세스에 따라 방어 체계를 수립했습니다"라고 논리적으로 완벽한 답변이 가능해집니다.
• 확장성: 새로운 AI 서비스가 나오면 이 템플릿의 11개 항목만 채우면 되므로, 표준화된 보안 거버넌스를 구축할 수 있습니다.

실무자를 위한 정리 팁 (위험 등록부 작성 전략)

이 연계성을 위험 등록부에 담을 때는 다음 “3단계 필터링"을 거치세요.

1. 현상 파악 (OWASP Top 10): “사용자가 입력을 통해 챗봇을 속이려 한다.” (프롬프트 인젝션)
2. 구체적 위협 분석 (MITRE ATLAS): “속은 챗봇이 도구를 사용하여 민감 정보를 조회한다.” (SSRF 기법)
3. 관리 및 책임 (NIST AI RMF & EU AI Act): “이 기능은 개인정보를 다루므로 ‘고위험’으로 분류하고, 대응 절차(중지 조건)를 수립한다.”

이렇게 정리하면, 단순히 “보안이 중요하다"는 말을 넘어 “어떤 위협을, 어떤 프레임워크를 기준으로, 어떻게 관리하고 있는지"를 증명하는 포트폴리오가 됩니다.

작성 예시: 사내 고객지원 RAG 챗봇

아래는 “사내 문서 기반 고객지원 RAG 챗봇"이라는 가상의 AI 기능에 대해 위 템플릿을 채운 예시입니다. 실제로 실습할 때는 자신의 회사/프로젝트에 맞는 항목으로 교체하면 됩니다.

실습 진행 방법

1. AI 기능 선정: 본인이 알고 있는(또는 관심 있는) AI 기능 1개를 선택합니다. 실제 회사의 기능이 가장 좋지만, 없다면 “사내 RAG 챗봇”, “코드 리뷰 에이전트”, “이메일 자동 응답 에이전트” 같은 현실적인 가상 시나리오도 좋습니다.
2. 위 템플릿의 11개 항목을 모두 채웁니다. 특히 “툴/권한"과 “실패 시 영향"은 추상적으로 쓰지 말고, 구체적인 도구 이름·API·데이터 종류를 명시하세요.
3. MITRE ATLAS 매핑을 추가해 보세요. MITRE ATLAS 페이지의 4-레이어 모델(Environment / AI Platform / AI Model / AI Data)을 사용해, “실패 시 영향” 항목에 적은 시나리오가 어느 레이어/전술에 해당하는지 한 줄씩 덧붙입니다.
4. EU AI Act 등급을 판단해 보세요. EU AI Act 페이지의 4단계 분류(금지/고위험/제한적 위험/최소 위험) 중 어디에 해당하는지, 그 근거를 한 문단으로 적습니다.
5. 운영 중지 조건을 반드시 포함합니다. “이걸 누가, 언제, 어떻게 멈출 것인가"가 빠진 위험 등록부는 절반만 완성된 것입니다.

이 산출물이 포트폴리오/면접에서 강력한 이유

1. 실무에서 바로 쓰이는 형식: 위험 등록부는 실제 보안팀, 컴플라이언스팀이 일상적으로 사용하는 문서 형식입니다. “이론을 배웠다"가 아니라 “실무 산출물을 만들어봤다"는 신호를 줍니다.
2. 여러 프레임워크를 통합했다는 증거: OWASP, ATLAS, NIST AI RMF, EU AI Act를 각각 따로 아는 사람은 많지만, 이를 하나의 문서로 통합한 경험을 가진 사람은 드뭅니다. 이 통합 능력 자체가 “AI 위험을 구조화할 수 있는 사람"의 정의입니다.
3. 구체성이 신뢰를 만든다: 면접에서 “AI 보안에 관심 있습니다"라고 말하는 대신, “제가 작성한 위험 등록부를 보여드리겠습니다"라고 하면 대화의 질이 완전히 달라집니다. 구체적인 도구명, 데이터 흐름, 중지 조건이 적힌 문서는 그 자체로 깊이를 증명합니다.
4. 확장 가능성: 이 위험 등록부 1건을 만들고 나면, 같은 형식으로 회사의 다른 AI 기능들도 빠르게 채워나갈 수 있습니다. 즉 “1건의 산출물"이 아니라 “재사용 가능한 프로세스"를 만든 것이 됩니다.

다음 단계로, 실제 시스템에 대해 레드팀 관점의 시나리오를 검증해보고 싶다면 레드팀·포트폴리오 프로젝트 페이지에서 이 위험 등록부를 더 큰 포트폴리오 프로젝트로 확장하는 방법을 확인하세요.