블로그
AI 보안 동향, 규제·표준 업데이트, 공격/방어 기법 관련 소식을 정리합니다.
익스플로잇 난이도가 '어셈블리'에서 '작문'으로 떨어진 1년 — 2025~2026 AI 보안 사건 13건의 동작 분석
메모리 손상 취약점으로 서버를 장악하려면 무엇이 필요할까요? 힙 레이아웃을 읽고, 해제 타이밍을 맞추고, 기계어 바이트열을 정확한 위치에 배치해야 합니다. 그래서 어렵고, 그래서 할 수 있는 사람이 적었습니다. 2025년부터 2026년 사이, 같은 결과를 내는 데 필요한 것이 “이메일 본문에 흰 글씨로 문장 하나 적기” 로 바뀐 사건들이 연달아 발생했습니다. 이 글은 그 13건을 같은 틀로 뜯어본 기록입니다.
2026년 10월 22일
Shift Left의 종말? 아니, '생성형 보안(Generative Security)'으로의 진화
“Shift Left가 죽었다.” 최근 보안 커뮤니티에서 가장 뜨거운 논쟁거리입니다. 개발자에게 보안 책임을 떠넘긴다는 피로감 섞인 비판이 쏟아지는 가운데, 제품 보안 리더 카메론 월터스(Cameron Walters)는 이 주장을 정면으로 반박합니다. Shift Left는 실패한 것이 아니라, AI 코딩 에이전트의 등장과 함께 ‘검사(Inspect)‘에서 ‘생성(Generate)‘으로 진화하고 있다는 것입니다.
2026년 7월 1일
AI와 협업할 때 '가이드라인'이 왜 필수일까? — 안전한 개발을 위한 AI 행동 강령
최근 소프트웨어 개발 현장에서 AI 코딩 에이전트는 없어서는 안 될 ‘천재적인 동료’가 되었습니다. 하지만 이 동료는 때때로 우리가 의도하지 않은 위험한 실수를 저지르기도 합니다. 프로젝트에 치명적인 보안 사고를 예방하고, 인간과 AI가 안전하게 협업하기 위해 반드시 필요한 ‘AI 행동 강령(Context rules)‘의 중요성과 그 구조를 쉽게 풀어드립니다.
2026년 6월 19일
중국의 새로운 AI 안전 기구 'CNAISDA'는 무엇인가?
글로벌 AI 거버넌스 지형에 새로운 변화가 생겼습니다. 미국, 영국 등 주요국이 각자의 AI 안전 연구소(AI Safety Institute, AISI)를 세우고 ‘AI 안전 연구소 국제 네트워크(INAISI)‘로 묶이는 동안, 그 흐름에서 비어 있던 한 자리, 바로 중국이 자체적인 대응 기구를 내놓았습니다. 스탠퍼드 대학 DigiChina의 분석을 바탕으로, 중국의 중국 인공지능 발전 및 안전 연구 네트워크(CNAISDA)가 어떤 배경에서 등장했고 무엇을 의미하는지 정리해 보겠습니다.
2026년 6월 19일
AI 에이전트의 안전한 코드 실행: 코드 실행 샌드박스 인프라 동향
최근 Devin, Claude Code 등 AI 에이전트가 인간의 개입 없이 직접 코드를 작성하고 실행하는 ‘에이전틱 AI(Agentic AI)’ 시대가 도래했습니다. 이에 따라 AI 안전(AI Safety) 분야에서 가장 핵심적인 인프라로 ‘AI 에이전트 전용 코드 실행 샌드박스(Code Execution Sandbox)’ 플랫폼이 떠오르고 있습니다.
2026년 6월 19일
우리 집 ‘안전 문지기’를 소개합니다: 보안 게이트웨이의 비밀
인터넷 서비스를 개발하고 배포할 때, 누구나 한 번쯤은 이런 두려움 섞인 고민을 하게 됩니다. “내가 공들여 만든 AI 모델 API를 세상에 공개하고 싶은데, 혹시 해커나 이상한 사람이 들어와서 서버를 통째로 마비시키면 어떡하지?” 코딩하고 모델 튜닝하기에도 벅찬데 네트워크 보안과 인증, 암호화까지 챙기려니 눈앞이 캄캄해지기 마련입니다. 오늘은 이러한 고민을 한 방에 해결해 주는 고마운 존재, 보안 게이트웨이(리버스 프록시, Reverse Proxy)에 대해 아주 쉽고 흥미로운 비유와 시각적인 다이어그램을 곁들여 설명해 드리겠습니다.
2026년 6월 19일
전통 소프트웨어 vs. AI 모델의 차이와 AI 거버넌스·정책·입법 완벽 정리
AI 기술이 전례 없는 속도로 발전함에 따라, 이를 안전하고 유익하게 통제하기 위한 ‘AI 거버넌스’의 중요성이 그 어느 때보다 커지고 있습니다. 전통적인 소프트웨어와 AI 모델의 근본적인 차이점부터 시작해, AI 거버넌스(Governance)·정책(Policy)·입법(Legislation)의 명확한 위계와 경계, 그리고 미래 초지능(ASI)이 가져올 위험과 혜택, 다양한 국가/주 단위의 최신 규제 법안 사례까지 한눈에 비교 정리해 드립니다.
2026년 6월 19일
사이트 점검: 깨진 링크와 LaTeX 수식 렌더링 수정
사이트 전반의 내부 링크 404와 LaTeX 수식이 렌더링되지 않던 문제를 점검하고 수정했습니다. 같은 구조(Hugo + Hextra)로 사이트를 만들 때 반복될 수 있는 문제라서, 원인과 해결 방법을 정리해 둡니다.
2026년 6월 15일
AI Security 학습 로드맵 사이트를 시작하며
AI 보안을 체계적으로 학습하기 위한 지식베이스를 시작합니다. 이 사이트는 다섯 개의 지식 축(기반 지식, 공격 기법, 방어 기법, 인프라·공급망 보안, 거버넌스·리스크 관리)과 하나의 실전 축(레드팀·실전 경험)으로 구성되어 있습니다.
2026년 6월 14일