인공지능 기술은 일반적으로 복잡한 알고리즘을 기반으로 하여 분석의 근거를 제시하기 어렵다는 한계로 인해, 중요한 의사결정을 다루는 국방 분야에 활용되기에 제한적이었다. 그러나 인공지능 분석 결과의 타당성을 사용자 수준에서 이해할 수 있도록 제시하는 설명가능 인공지능 (XAI: Explainable Artificial Inteligence)의 등장으로, 국방 군수분야의 인공지능 활용 가능성이 증대되고 있다. 본고에서는 XAI의 개념 및 필요성과 함께, XAI 모델을 국방 군수분야에 적용할 수 있는 예시를 소개하고, 우리 군이 이를 효율적으로 도입하기 위한 시사점 및 발전방향을 다음과 같이 제안하였다. 첫째, 우리 군도 적극적으로 XAI 기술을 도입해야 한다. 둘째, 인공지능 기술의 평가 기준으로 설명가능성을 고려하여야 한다. 셋째, 국방 분야에 특화된 XAI 플랫폼 개발이 필요하다.
(출처: 한국국방연구원(KIDA))
(출처: 한국국방연구원(KIDA))
목차
표제지
목차
설명가능 인공지능이란? 2
인공지능 모델의 한계를 극복하기 위한 설명가능 인공지능 5
설명가능 인공지능 모델의 군수분야 적용 예시 7
우리 군의 효율적 XAI 기술 도입을 위한 시사점 및 발전방향 10
맺음말 12
〈표 1〉 세 가지 관점에 따른 XAI의 분류 3
〈표 2〉 우리 군의 국방 군수분야 인공지능 기술 주요 활용 현황 및 계획 4
〈그림 1〉 XAI와 기존 기술의 차이 3
〈그림 2〉 수리부속 수요예측 모델의 전역적 설명을 위한 SHAP 적용 예 7
〈그림 3〉 수리부속 수요예측 모델의 국소적 설명을 위한 CAM 적용 예 8
〈그림 4〉 정비수요 예측 모델의 예측결과 설명을 위한 LIME 적용 예 9
〈그림 5〉 유지비 유사함정 그룹 판단을 위한 무지개박스 적용 예 10
해시태그
관련자료
AI 요약·번역·분석 서비스
AI를 활용한 보고서 요약·번역과 실시간 질의응답 서비스입니다.
국방 군수분야 설명가능 인공지능 도입 방안
국가전략포털에서 실시간 AI 질의응답 서비스를 시작합니다. 4가지 유형의 요약과 번역을 이용해보시고, 보고서에 대해 추가로 알고 싶은 내용이 있으면 채팅창을 통해 자유롭게 AI에게 물어볼 수 있습니다.
※ 제공하는 정보는 참고용이며, 정확한 사실 확인이 필요할 수 있습니다. 민감한 개인정보는 입력하지 마십시오.
