최근 생성형 인공지능, 특히 대규모 언어모델(LLM)의 발전에 따라 국방 분야에서의 인공지능 활용 가능성이 확대되고 있다. 그러나 우리 군이 ChatGPT, Claude, Gemini와 같은 외부 범용 LLM 서비스를 직접 도입-운용하기에는 전문인력과 컴퓨팅 자원의 한계뿐만 아니라 보안 및 폐쇄망 운용에 따른 제약이 존재한다. 이에 본고는 외부 범용 LLM 서비스에 의존하거나 대규모 데이터셋을 활용하여 모델을 재학습하는 방식보다 소-중형 언어모델과 검색증강생성(RAG)을 결합하는 방식이 현재 우리 군의 운용 및 보안 환경에서 더욱 실현 가능한 대안이 될 수 있음을 제시한다. 이를 위해 RAG의 기본 개념과 구조적 발전 과정을 살펴보고, 질의 유형에 따른 Naive RAG, Advanced RAG, Agentic RAG 및 GraphRAG의 특성과 적용 적합성을 비교하였다. 또한 데이터 구축 및 품질관리 체계, 폐쇄망 인프라, 보안 거버넌스, 성능평가 체계 및 단계적 도입 로드맵을 중심으로 국방 분야의 RAG 기반 인공지능 시스템 구축 방향을 제안하였다.

(출처: 한국국방연구원)