AI Security 학습 로드맵 사이트를 시작하며

AI 보안을 체계적으로 학습하기 위한 지식베이스를 시작합니다. 이 사이트는 다섯 개의 지식 축(기반 지식, 공격 기법, 방어 기법, 인프라·공급망 보안, 거버넌스·리스크 관리)과 하나의 실전 축(레드팀·실전 경험)으로 구성되어 있습니다.

왜 이렇게 구성했는가

AI 보안은 “모델만” 공부해서는 충분하지 않습니다. 일반 보안과 ML/DL 기초가 함께 갖춰져야 공격과 방어를 맥락 있게 이해할 수 있고, 여기에 인프라·공급망 보안과 거버넌스·규제 흐름까지 더해야 실무에서 쓸모 있는 사람이 됩니다.

실무적으로는 학습 로드맵 페이지에서 제안하는 순서대로 LLM 애플리케이션 보안 → 거버넌스 → 인프라/공급망 → 방어 기법 → 기반 지식 → 레드팀을 따라가는 것을 권장합니다. 지금 시장에서 가장 빨리 부딫히는 문제는 “모델 자체를 깨는 일"보다 “LLM이 들어간 앱과 에이전트를 안전하게 운영하는 일"이기 때문입니다.

새로 추가된 메뉴

• 실습 — ART/Foolbox 적대적 공격, RAG 챗봇 레드팀 등 단계별로 직접 따라 할 수 있는 핸즈온 가이드.
• 도구 — 적대적 ML, LLM 레드팀, 거버넌스 영역에서 자주 쓰이는 오픈소스 도구와 표준 문서 모음.
• 용어집 — 사이트 전반에서 사용하는 핵심 용어 정리.

앞으로 새로운 공격/방어 기법, 규제 업데이트(NIST AI RMF, EU AI Act 등), 실습 도구의 변화가 있을 때마다 이 블로그를 통해 업데이트할 예정입니다.