국회도서관 국가전략정보포털

□ 배경과 목적: 국방혁신 4.0 달성과 AI 확산의 기반이 되는 신뢰할 수 있는 국방 AI 구현 필요

   ◎ AI 기술의 불확실성으로 인해 다양한 문제 발생

     － 데이터의 불완전성과 알고리즘의 블랙박스화로 인해 예상하지 못한 결과 발생 가능

     － 인권 침해, 정치적 혼란, 사회적 편견과 같이 사회에 심각한 영향을 미칠 수 있음

   ◎ AI 기술 활용의 활성화를 저해하는 결과 초래

     － 잠재적이며 의도하지 않은 결과의 발생으로 인해 AI 체계의 성능 저하 우려

     － 이해관계자와 사용자의 AI 체계에 대한 신뢰 저하로 이어짐

   ◎ AI의 이점 극대화와 위험/부작용 최소화를 위해 신뢰할 수 있는 국방 AI 구현방안이 필요

□ 수행 결과: 신뢰할 수 있는 국방 AI 구현을 위한 발전방안 제시

   ◎ 국방 AI의 수명주기 개념 및 단계(기획, 계획, 개발, 운영유지) 설정

   ◎ 국방 AI 수명주기 단계별 점검항목의 제시를 위한 ‘신뢰할 수 있는 국방 AI 프레임워크’ 수립

     － 국방 AI 원칙/기준(책임성, 공정성, 추적성, 견고성, 안전성) 제시

     － 국방 AI 원칙/기준 구현을 위한 핵심요소(거버넌스, 요구사항, 성능, 위험관리) 제시

     － 국방 AI 수명주기 단계별로 핵심요소에 대한 점검항목 제시

   ◎ AI 개발 정보의 체계적 관리를 위한 ‘AI 모델 개발 계획’과 ‘데이터 확보 및 구축 계획’ 작성

   ◎ 국방 AI 수명주기 단계별 검토/확인과 성능, 데이터, 위험 등에 대한 평가 수행

   ◎ 운영유지단계에서 AI 체계에 대한 지속적인 모니터링과 개선 수행


(출처: 한국국방연구원(KIDA))