중국의 새로운 AI 안전 기구 'CNAISDA'는 무엇인가?

글로벌 AI 거버넌스 지형에 새로운 변화가 생겼습니다. 미국, 영국 등 주요국이 각자의 AI 안전 연구소(AI Safety Institute, AISI)를 세우고 ‘AI 안전 연구소 국제 네트워크(INAISI)‘로 묶이는 동안, 그 흐름에서 비어 있던 한 자리, 바로 중국이 자체적인 대응 기구를 내놓았습니다. 스탠퍼드 대학 DigiChina의 분석을 바탕으로, 중국의 중국 인공지능 발전 및 안전 연구 네트워크(CNAISDA)가 어떤 배경에서 등장했고 무엇을 의미하는지 정리해 보겠습니다.

1. 배경: 왜 중국은 ‘자기만의 AISI’가 필요했나

2023년 영국 블레츨리 파크 AI 안전 서밋을 기점으로 미국, 영국을 비롯한 주요국들은 각자의 정부 산하 AI 안전 연구소를 설립하고, 이들을 다시 ‘AI 안전 연구소 국제 네트워크(INAISI)‘라는 협의체로 연결했습니다. 이 네트워크는 AI 모델의 위험성을 공동으로 평가하고, 안전 기준을 논의하는 사실상의 국제 AI 안전 거버넌스 허브 역할을 해왔습니다.

문제는 중국이 이 네트워크에서 배제되어 있었다는 점입니다. 세계 최대 AI 개발국 중 하나인 중국이 정작 국제 안전 표준을 논의하는 자리에는 발을 들이지 못한 셈입니다. 이는 중국 입장에서 두 가지 위기로 읽힐 수 있습니다.

• 발언권의 부재: 자국에서 만들어지는 AI 모델에 적용될 국제 규범이, 중국 없이 서구 국가들 중심으로 결정될 위험
• 균형 전략과의 충돌: 중국 정부가 견지해 온 ‘안보(安全)와 발전(發展)의 균형’ 기조를 국제 무대에 투영할 통로의 부재

이러한 공백을 메우기 위해 등장한 것이 바로 CNAISDA입니다.

2. 경과: 컨소시엄 형태로 등장한 CNAISDA

CNAISDA가 흥미로운 지점은 그 조직 형태에 있습니다. 미국이나 영국의 AISI가 정부 산하의 단일 사무국 형태인 것과 달리, CNAISDA는 처음부터 다음과 같은 학술·연구 기관들의 연합(컨소시엄) 형태로 출범했습니다.

• 칭화대학교(Tsinghua University)
• 북경대학교(Peking University)
• 중국과학원 자동화연구소(CASIA, Institute of Automation, Chinese Academy of Sciences)

정부 부처가 전면에 나서는 대신 권위 있는 학술 기관들을 앞세운 이 구조는, 국제 학계 및 연구 커뮤니티와 보다 유연하게 소통하면서도 중국을 대표하는 공식 창구 역할을 동시에 수행하려는 의도로 해석됩니다. 다만 DigiChina의 분석에 따르면, 현재 CNAISDA의 웹사이트 정보는 매우 제한적이며 구체적인 운영 주체나 의사결정 구조, 예산 출처 등은 명확히 공개되어 있지 않습니다.

3. 핵심: 명칭 속에 숨은 ‘안전’과 ‘발전’의 결합

CNAISDA를 이해하는 데 가장 중요한 단서는 바로 이름 자체입니다. 단순히 ‘AI 안전 연구소’가 아니라 ‘AI 발전 및 안전(Development And Safety)’을 함께 명시했다는 점에서, 서구권의 AISI 모델과는 출발점이 다릅니다.

① ‘안전(安全)‘이라는 단어의 중의성

중국어 ‘안전(安全)‘은 영어로 옮길 때 Safety와 Security 두 의미를 모두 포괄합니다. 서구의 AI 안전 논의가 주로 모델의 오작동, 편향, 정렬(alignment) 문제 등 Safety 관점에 초점을 맞춰온 반면, 중국식 ‘안전’에는 국가 안보 차원의 Security 함의가 자연스럽게 섞여 들어갑니다. 같은 단어를 쓰더라도 양측이 떠올리는 위험의 종류와 우선순위가 다를 수 있다는 뜻입니다.

② ‘발전’을 안전과 동급으로 명시

명칭에 ‘발전’을 나란히 새겨 넣은 것은 중국 정부가 오랫동안 강조해 온 안보와 발전의 균형 기조와 정확히 맞닿아 있습니다. 즉 CNAISDA는 AI의 위험을 통제하는 기구이면서, 동시에 AI 기술 발전을 저해하지 않는다는 전제를 분명히 못박은 기구이기도 합니다. 이는 안전을 발전의 제약 조건이 아닌 발전과 병렬적인 목표로 위치시키는 접근입니다.

③ 여전한 불확실성

운영 실체와 정보가 충분히 공개되지 않은 현재로서는, CNAISDA가 실제로 어떤 평가 방법론을 쓰고 누구와 어떤 수준의 협력을 할지는 단정하기 어렵습니다. 형식만 갖춘 외교적 제스처에 그칠지, 실질적인 연구·평가 역량을 갖춘 기구로 발전할지는 향후 행보를 지켜봐야 하는 대목입니다.

4. 시사점

CNAISDA의 등장은 단순한 기구 하나의 신설을 넘어, 글로벌 AI 거버넌스 구도에 다음과 같은 함의를 던집니다.

• 다극화하는 AI 안전 거버넌스: INAISI 중심의 단일 네트워크 바깥에 또 하나의 축이 생겨났다는 것은, AI 안전 논의가 더 이상 서구 주도의 단일 트랙으로만 진행되지 않을 수 있음을 보여줍니다.
• 용어 합의의 중요성 부각: ‘안전’이라는 같은 단어 아래 Safety와 Security가 혼재될 경우, 향후 국제 공동 평가나 표준 논의에서 개념적 마찰이 발생할 가능성이 있습니다. 실질적인 협력을 위해서는 용어와 평가 기준에 대한 사전 정렬이 선행되어야 할 것입니다.
• 참여 허용 수준이 관전 포인트: 미·중 AI 기술 경쟁이 격화되는 가운데, 서구 국가들이 CNAISDA를 INAISI와 같은 신뢰 수준의 파트너로 받아들일지, 혹은 제한적인 정보 교류 채널 정도로만 취급할지는 여전히 미지수입니다.
• 투명성이 신뢰의 전제 조건: 운영 주체와 방법론이 명확히 공개되지 않는 한, CNAISDA가 국제 사회에서 실질적인 협력 파트너로 인정받기는 쉽지 않을 것입니다.

한 줄로 정리하면, 중국은 글로벌 AI 안전 규범 논의에서 소외되지 않기 위해 주요 학술 기관들을 묶어 CNAISDA를 출범시켰고, 이를 통해 ‘AI 안전’과 ‘AI 발전’을 동시에 대변하는 공식 창구를 마련했습니다. 다만 그 실질적 영향력은 운영 투명성 확보와 서구 국가들의 수용 여부에 따라 결정될 것으로 보입니다.