국가전략정보포털

□ 보고서는 군사 인공지능(AI) 시스템의 투명성 문제를 중심으로, 관련 기술적 이해와 국제 안보 거버넌스 차원에서의 논의를 종합적으로 고찰한 것임. 투명성은 단순한 정보 공개를 넘어 설명 가능성, 이해 가능성, 예측 가능성 등 복합적 요소를 포함하는 개념으로, 다양한 국가와 군사 조직에서 상이하게 해석되고 있음. 특히 군사 AI는 기술의 불투명성과 보안상의 민감성으로 인해 외부 평가와 감시가 제한되는 구조적 한계를 가짐

□ 보고서는 AI 시스템의 내부 작동 원리를 인간이 이해하거나 설명할 수 있어야 한다는 기술적 투명성과, 이를 군 조직 내부에서 어느 수준까지 확보해야 하는지를 중심으로 논의함. 설명 가능성과 예측 가능성은 특히 무력 사용이나 표적 선정 등 고위험 군사 활동에서 더욱 중요하며, 인간의 책임성을 유지하기 위한 핵심 요소로 간주됨. 그러나 현실적으로는 군사 지휘관이 시스템의 모든 과정을 이해하기보다는, 시스템의 한계와 작동 조건을 충분히 예측하고 판단할 수 있어야 함

□ 운용상 투명성 확보는 다양한 도전 과제에 직면해 있음. AI 시스템이 훈련된 조건과 다른 환경에 배치될 경우 예측 불가능한 결과가 발생할 수 있으며, 이러한 위험을 줄이기 위해 시스템의 도메인별 인증, 지속적 모니터링, 반복적인 성능 검증이 필요함. 또한, AI 시스템이 적대 세력에 의해 교란될 가능성이나 업데이트 과정에서의 오류 등도 투명성과 책임성 확보를 어렵게 만드는 요인임

□ 이에 따라 보고서는 기술적 대응뿐 아니라 제도적 투명성 메커니즘도 병행되어야 한다고 주장함. 예를 들어, 유엔이나 다자 협의체를 통한 규범화 노력, 국제 회의와 선언을 통한 신뢰 구축 조치, 이해당사국 간 정보 공유 체계 등이 필요함. 특히 고위험 무기 체계에 대한 최소한의 외부 평가 기준과 법적 규제 장치 마련이 중요하다고 강조함

□ 결론적으로 투명성은 군사 AI의 책임 있는 사용을 위한 전제 조건이며, 기술적 진보만으로는 충분하지 않음. 각국은 공통된 기준 아래 투명성과 책임성을 담보할 수 있는 법적·윤리적 장치를 갖춰야 하며, 이는 국제 안보의 안정성과 신뢰 구축에도 기여할 것임


🔍보고서가 국회에 주는 시사점(AI제안)

1. 군사 AI의 법적·제도적 관리 기반 구축 필요

군사 AI는 전투력 향상 수단일 뿐 아니라 국제 안보와 인권에 중대한 영향을 미치는 기술임. 보고서는 설명 가능성, 예측 가능성, 책임 추적이 어려운 AI 시스템이 무력 충돌에서 이미 사용되고 있음을 지적함. 한국 국회는 AI 기반 무기 체계 도입 시 법적 책임 소재, 인간 통제 기준, 윤리 기준 등을 명확히 규정하는 법·제도 정비가 시급함

2. 국방 분야 AI의 투명성 확보와 외부 감시 장치 마련

군사 AI는 높은 기밀성을 갖지만, 일정 수준의 투명성 없이는 오남용과 오작동에 대한 국민적 우려가 커질 수 있음. 한국 국회는 국방위원회 또는 국방 관련 독립기구 등을 통해 AI 시스템 도입 및 운용 현황에 대한 정기적 검토와 감시 체계를 구축할 필요가 있음

3. 국제 논의 참여 및 다자 협력 강화

보고서는 유엔 CCW 회의, REAIM(Responsible AI in the Military Domain) 정상회의 등에서 군사 AI 투명성 확보를 위한 국제 논의가 활발히 진행되고 있음을 소개함. 한국 국회는 외교·국방 분야에서 이러한 국제 협력에 적극 참여하도록 정부에 외교적 방향을 제시하고, 관련 조약이나 선언에 대한 검토 및 비준도 함께 논의해야 함

4. AI 윤리 및 인권 기준 수립에 국회가 선도적 역할 수행

군사 AI가 실제 전장에서 사용되기 시작하면서 민간인의 피해와 인권 침해 우려도 커지고 있음. 국회는 AI 기술의 군사적 사용이 국제 인권 및 국제인도법을 준수하도록 기본법 또는 국방 AI 윤리 가이드라인을 제정해 선제적으로 대응할 수 있음