□ 문제제기

ㅇ 2026년 9월 미·중 정상회담에서 양국은 AI 경쟁에 따른 사고와 오판 위험을 관리하기 위해 초지능(SI) 대화와 사고 대응 소통 채널을 신설하기로 합의하였으며, 이는 AI 위험관리가 양국 간 전략적 안정성의 주요 의제로 부상했음을 보여줌

ㅇ 미·중은 AI 위험관리 협력에 합의했지만, 중국은 인간의 통제와 오남용 방지를, 미국은 기술혁신과 경쟁력 유지를 중시해 규범적 접근에 차이를 보여줌

ㅇ 특히 미국이 공식적으로 ‘AI(Artificial Intelligence)’에서 ‘SI(Super Intelligence)’로 변경된 명칭을 사용하기 시작했다는 사실은 AI를 규제 대상보다 대중 전략경쟁의 핵심 국가역량으로 인식하는 변화를 보여준다는 점에서 주목해야 함

ㅇ 이 보고서는 미·중 AI 위험관리와 전략경쟁의 전개 양상을 분석하고, 한국의 AI 안전·안보 협력 의제를 제시하고자 함

□ 미국의 ‘Super Intelligence’ 용어 변경과 전략적 의도

ㅇ 미국이 ‘AI’ 대신 ‘SI’라는 명칭을 사용하는 것은 단순한 용어 변경이 아니라 정책 담론의 방향 전환을 위한 미국의 전략으로 이해해야 함

ㅇ 이러한 명칭 변경은 2026년 7월 미국 Open AI의 이른바 ‘허깅페이스(Hugging Face)’ 사건을 계기로 국제적으로 AI에 대한 위험 담론이 확산되는 시점에서 이루어졌다는 점에서 흥미로움

ㅇ 허깅페이스 사건은 인간의 통제를 벗어난 AI의 불법적인 자율적 행동으로 본격화된 사건으로 고도화된 AI 시스템에 대한 안전관리와 통제 강화의 필요성을 제기함

ㅇ 미국 입장에서 이 사건은 AI의 위험성만이 아니라 그 막대한 전략적 잠재성을 보여주는 사건으로 인식할 수 있으며, 이러한 맥락에서 ‘SI’로의 명칭 변경은 AI를 규제 대상이 아닌 기술·군사·경제적 우위를 좌우하는 전략적 국가역량의 맥락으로 재구성(reframing)하려는 시도라는 점에서 의미를 가질 수 있음

ㅇ ‘SI’라는 개념 등장은 향후 미·중 간 AI 위험관리 협의에서 규제와 통제의 대상, 사고의 범위 및 통보 기준 등을 둘러싼 논의에 영향을 미칠 수 있음

□ 미국의 ‘전략적 안정성’의 핵심 변수로 부상한 AI 위험관리

ㅇ 지금까지 기술 패권 경쟁의 성격이 강했던 미·중의 AI 경쟁은 AI의 고도화에 따른 사고·오판·통제이탈 및 우발적 확전 위험을 관리해야 하는 안보 문제로 확대되고 있음

ㅇ AI는 군사적 상황인식과 판단의 정확성을 높여 억제력을 강화할 수 있지만, 의사결정 시간 단축과 자동화된 오판은 위기 불안정성과 우발적 확전 위험을 높일 수 있음

   - 따라서 이번 미·중 정상회담에서의 AI 위험관리 담론은 단순한 규범적 협력의 문제가 아닌 양국이 실제 직면하기 시작한 공통의 기술적 위험을 관리한다는 의미를 가짐

ㅇ 미·중의 AI 규제는 그 강도를 단순 비교하기보다는 각각의 전략적·정치적 목적을 고려해 분석해야 함

   - 이러한 점에서 양국은 향후 AI 관련 사고 통보, 위험평가, 위기 시 소통채널 가동 등에서 협력할 가능성도 있지만, 구체적 운영 기준은 아직 불분명함

ㅇ 이번 회담은 미국의 기술우위 유지와 중국의 경쟁 제한·협력 확대라는 접근 차이 속에서, 전략경쟁을 지속하는 한편 AI 위험에 대한 제한적인 관리와 협력을 모색한 시도로 평가할 수 있음

□ 함의 및 전망

① 미·중의 AI 경쟁 속 위험관리 구조 심화

  - 한·미 AI 안보 협력 제도화 및 군사 AI 통제·공동 안전평가·사고 정보공유를 통한 동맹 차원의 위험관리 체계 구축이 필요함

② 국제적 AI 규제보다 ‘미국 주도의 AI 통제’ 강화

  - 미국은 AI에 대한 포괄적 국제 규제보다 기업 자율규제와 안전성 평가를 통해 기술적 우위를 유지하는 한편, 자국 주도의 AI 규칙과 통제 기준을 국제적으로 확산하려는 전략을 추구하고 있음

□ 고려사항 및 정책 조언

❶ 한·미 간 AI 안보 및 위험관리 협력의 제도화

❷ 한·중 간 ‘AI Risk Reduction Dialogue’ 추진

❸ ‘SI’ 용어의 성급한 수용보다 개념 변화에 대한 전략적 대응