I. 의의

 전 세계적으로 볼 때, 우리나라는 유럽연합(EU)에 이어 두 번째로 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 인공지능기본법)」을 제정하였다.¹⁾ 그러다 보니 산업진흥에 초점을 두고 산업계의 준비기간 보장과 혼란 최소화를 고려하여 최소 1년이상 규제 적용을 유예하기로 하였다.²⁾ 다시 말해서, 1년간 사실조사 및 과태료 관련 계도기간을 운영하며, 사실조사는 인명사고, 인권훼손 등 중대한 문제 발생시에만 실시하기로 하였다.³⁾

「인공지능기본법」은 국외에서 이루어진 행위라도 국내 시장 또는 이용자에게 영향을 미치는 경우에는 적용한다(제4조 제1항). 다만, 「인공지능기본법」은 국방 또는 국가안보 목적으로만 개발ㆍ이용되는 인공지능으로서 대통령령으로 정하는 인공지능에 대하여는 적용하지 아니한다(제4조 제2항). 따라서 「인공지능기본법」은 입법관할(jurisdiction to prescribe)의 문제로서 역외적용의 원칙을 가지고 있다. 인공지능산업의 육성 측면에서 볼 때, 생성형 인공지능과 관련하여 인공지능사업자에게 인공지능 학습용 데이터의 출처를 표시할 의무를 부과하지 않았다. 국외 인공지능사업자에게 이 법이 역외적용됨에도 불구하고 인공지능 학습용 데이터의 출처를 밝힐 의무를 부과하지 않은 것이 충분히 이해가 된다(제31조).

「인공지능기본법」은 일반법의 성격을 지니고 있으므로 인공지능, 인공지능기술, 인공지능산업 및 인공지능사회에 관하여 특별법상 다른 규정이 있는 경우를 제외하고는 「인공지능기본법」에서 정하는 바에 따른다(제5조 제1항).

아래에서는 「인공지능기본법」을 비교법적으로 분석한 다음, 우리 「인공지능기본법」의 정의 및 주요내용을 살펴보고, 결론 부분에서 우리 「인공지능기본법」의 규제방향에 대하여 평가하고자 한다.

1) 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 (약칭: 「인공지능기본법」) {[시행 2026. 1. 22.] [법률 제20676호, 2025. 1. 21., 제정]};

「인공지능기본법」 {[시행 2026. 7. 21.] [법률 제21311호, 2026. 1. 20., 일부개정]}.

2) 장세민, AI 기본법, 22일부터 시행... “1년간 규제 유예”, 2026. 1. 21., AI TIMES(최종방문일: 2026. 3. 12.).

3) 위의 기사.

II. 비교법적 분석

 EU는 2024년 5월 인공지능법(AI Act, Regulation (EU) 2024/1689)을 승인하여 2025년 2월부터 이를 단계적으로 시행하고 있고, 교통, 교육, 금융, 사법 등 ‘고위험 인공지능(high-risk AI)’으로 정의된 범위에 관해서는 2026년 8월부터 시행할 예정이다.

일본은 「인공지능 관련 기술의 연구개발 및 활용 추진에 관한 법률」(人工知能関連技術の研究開発及び活用の推進に関する法律)을 2025년 5월 28일 제정하여 2025년 6월 4일 공포하였다. 일본의 해당 법률은 유연한 자율적 규제에 초점을 두고 있다.

EU의 인공지능법은 인공지능을 위험도에 따라 전면금지ㆍ고위험ㆍ제한적 위험ㆍ최소 위험으로 분류하고, 위험 수준에 따라 차등적인 규제와 처벌을 명시함으로써 기본권 침해 가능성에 대응하고 있다. 반면, 우리나라 「인공지능기본법」은 ‘위험’ 대신 ‘영향’이라는 개념을 도입하여 규제의 수위를 낮추고, 영향평가 및 자율적 책임 강화 방식에 초점을 두고 있는 점에서 산업 진흥 중심의 정책 방향을 반영하고 있다.⁴⁾

한편, 고영향 AI의 안전성, 신뢰성을 확보하기 위해 필요한 사항은 국가인공지능위원회(제7조는 대통령이 위원장인 AI 기본법상 최고의 심의, 의결기관으로 정의)의 심의, 의결을 통해 추가할 수 있도록 하고 있다. 의무를 부담하는 사업자 또한 제34조는 AI 개발사업자와 이용사업자 모두를 포괄하여 규정하고 있고, 기본권영향평가를 받아야 하는 사업자 역시 EU AI 법과 같이 '이용사업자'로 규정하고 (제35조) 있다.

EU는 인공지능법상 ‘범용 인공지능(general-purpose AI model)’(EU 인공지능법 제3조 제63항)을 정의하여 별도로 규제하고 있다. 구체적으로, 데이터연산능력을 기준으로 누적연산량이 10의 25승 부동소수점연산(floating-point operations, FLOPs) 이상의 인공지능 모델은 고영향 역량(high-impact capabilities) 모델로 추정하여 체계적으로 위험한 것으로 분류한다. 이 경우에는 해당 모델 제공자는 인공지능 모델의 출시 이전부터 모델 자체의 취약함 및 위험을 기술한 문서 작성, EU 저작권법 준수, 모델 학습에 사용된 콘텐츠에 대한 충분한 요약본 공개, 위험 평가 및 관리 시스템 구축, 사이버 보안 확보 등의 의무를 부담한다(EU 인공지능법 제55조). 반면에 일반 범용 인공지능의 경우에는 해당 모델 제공자는 모델 자체에 대한 기술적 공개 및 저작권준수 등의 의무(EU 인공지능법 제53조)만을 부담한다.

우리 「인공지능기본법」 및 그 시행령은 고성능 인공지능을 규정하고 있는데, 국내 인공지능사업자 중 이에 해당하는 자는 없는 상태다. 그리고 우리 「인공지능기본법」은 범용 인공지능에 대한 정의를 별도로 두고 있지 않다. 이러한 점에서 볼 때, 우리 「인공지능기본법」은 누적연산량이 10의 26승 부동소수점연산 이상인 고성능 인공지능만을 규제하고자 하는 것으로 판단된다.

4) 백수원, 「인공지능기본법」상 “고영향 인공지능”과 관련된 기본권 논의-EU의 AI규제법과 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법( 「인공지능기본법」)’ 비교를 겸하여-, 『유럽헌법연구』, 제48호, 2025년, 189-228면.

5) Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act) (Text with EEA relevance).

6) 일본 정부는 동법이 제정되기 전부터 법적 구속력 없는 AI 사업자 가이드라인 및 인간중심의 AI사회원칙(「AI事業者ガイドライン」, 「⼈間中⼼のAI社会原則」)을 배포하여 기업의 자율 규제를 장려해왔다. 한국인터넷진흥원, “일본, 「인공지능 관련 기술의 연구개발 및 활용 촉진에 관한 법률」 공포 (2025. 6. 4.)”, 『인터넷・정보보호 법제동향』, 2025년 6월, 3면.

III. 우리나라 「인공지능기본법」의 의의 및 주요 내용

1. 정의

 「인공지능기본법」⁷⁾에 따르면, 인공지능이란 “학습, 추론, 지각, 판단, 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것”을 의미한다(제2조 제1호).

고영향 인공지능⁸⁾이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 (i) 에너지의 공급, (ii) 먹는 물의 생산 공정, (iii) 보건의료의 제공 및 이용체계구축〮운영, (iv) 의료기기 및 디지털의료기기의 개발 및 이용, (v) 핵물질과 원자력시설의 안전한 관리 및 운영, (vi) 범죄 수사나 체포 업무를 위한 생체인식정보의 분석〮활용, (vii) 채용, 대출 심사 등 개인의 권리ㆍ의무 관계에 중대한 영향을 미치는 판단 또는 평가, (viii) 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영, (ix) 공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용징수 등 국민에게 영향을 미치는 국가, 지방자치단체, 공공기관 등의 의사결정, (x) 유아교육, 초등교육 및 중등교육에서의 학생 평가, (xi) 그 밖에 사람의 생명, 신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로서 대통령령으로 정하는 영역에 활용되는 인공지능시스템을 의미한다(제2조 제4호).

생성형 인공지능이란 입력한 데이터(「데이터 산업진흥 및 이용촉진에 관한 기본법」 제2조제1호에 따른 데이터를 말한다.)의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템을 뜻한다(제2조 제5호).

고성능 인공지능이란 (i) 학습에 사용된 누적 연산량이 10의 26승 부동소수점연산 이상인 인공지능시스템으로서 (ii) 인공지능기술의 발전 수준을 고려할 때 현재 인공지능시스템에 활용되는 인공지능기술 중 최첨단의 인공지능기술을 적용하여 구성ㆍ운영되고 있고, (iii) 인공지능시스템의 위험도가 사람의 생명, 신체의 안전 및 기본권에 광범위하고 중대한 영향을 미칠 우려가 있을 것의 요건을 충족하는 인공지능시스템을 의미한다(제32조 제1항; 「인공지능기본법 시행령」 제24조 제1항).

인공지능사업자란 인공지능산업과 관련된 사업을 하는 자로서 인공지능개발사업자 또는 인공지능이용사업자 중 어느 하나에 해당하는 법인, 단체, 개인 및 국가기관등을 말한다(제2조 제7호). 여기에서 ‘인공지능개발사업자’는 인공지능을 개발하여 제공하는 자이고, ‘인공지능이용사업자’는 인공지능개발사업자가 제공한 인공지능을 이용하여 인공지능제품 또는 인공지능서비스를 제공하는 자를 의미한다.

7) [시행 2026. 7. 21.] [법률 제21311호, 2026. 1. 20., 일부개정].

8) 우리 「인공지능기본법」상 고영향 인공지능의 정의는 유럽연합의 인공지능법상 고위험 인공지능과 같은 개념으로 정의되어 있고, 고영향 인공지능사업자에 대한 안전성확보의무 규정의 해당 고시는 적용대상을 ‘위험도가 사람의 생명, 신체의 안전, 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우’라고 명시하여 고영향 인공지능은 유럽연합 인공지능법상 ‘고위험 인공지능’과 같은 개념이라고 주장한다. 「인공지능기본법」 시행과 사업자의 의무, 법률신문, 2025.12.9.(최종방문일: 2026. 3. 11.).

2. 인공지능사업자의 의무 및 행정적 규제책

 고영향 인공지능사업자는 고영향 인공지능에 해당하는지 여부를 사전에 검토하여야 하며, 필요한 경우 과학기술정보통신부(이하 과기정통부) 장관에게 확인을 요청할 수 있다(제33조)(사전검토의무). 그리고 고영향 인공지능을 이용한 제품이나 서비스를 제공하는 경우 인공지능이용사업자에게 사전고지의무가 부과된다(제31조 제1항). 게다가 고영향 인공지능 또는 이를 이용한 제품이나 서비스를 제공하는 경우 일정한 안전성 및 신뢰성 확보조치 이행의무가 부과된다(제34조)(안전성·신뢰성 확보조치 이행의무). 그 밖에 고영향 인공지능과 관련하여 제30조 제3항에 따른 안전성·신뢰성 검·인증 노력의무 및 제35조에 따른 인공지능 영향평가 등 노력의무가 존재한다.

생성형 인공지능과 관련하여 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 인공지능이용사업자에게 사전고지의무가 부과된다(제31조 제1항). 그리고 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 인공지능개발사업자/인공지능이용사업자에게 표시의무가 부과된다(제31조 제2항). 그 밖에, 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물(이른 바, ‘딥페이크’)을 제공하는 경우, 인공지능이용사업자에게 고지·표시의무가 부과된다(제31조 제2항). 다만, 해당 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 해당 표현물의 전시 또는 향유 등을 저해하지 않는 방식으로 고지 또는 표시할 수 있다.

고성능 인공지능과 관련하여 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 인공지능시스템의 경우 관련 인공지능사업자에게 인공지능 수명주기 전반에 걸친 위험의 식별∙평가 및 완화, 위험관리체계 구축 의무가 부과된다(제32조 제1항).

행정적 규제책과 관련하여 과기정통부 장관은 일정한 의무 위반의 경우 사실조사를 통해 중지·시정명령을 할 수 있으며(제40조), 해당 중지·시정명령을 위반한 자는 과태료 부과의 대상이 될 수 있다(제43조).

Ⅳ. 규제방향 및 평가

 「인공지능기본법」은 각종 의무의 수범자를 ‘인공지능사업자’, ‘인공지능개발사업자’, ‘인공지능이용사업자’ 등으로 나누어 달리 규율하고 있다. 그리고 일부 의무 위반의 경우에는 과태료 부과의 대상이 되거나 과기정통부 장관의 사실조사 및 중지·시정명령의 대상이 될 수 있다.

이와 관련하여 「인공지능기본법」과 관련한 고시와 주요 가이드라인을 참고할 수 있다. 이에는 「인공지능 투명성 확보 가이드라인(안)」⁹⁾, 「인공지능 안전성 확보 의무의 이행방법 등에 관한 고시(안)」(과학기술정보통신부 고시 제2026-126호), 「인공지능 안전성 확보 가이드라인(안)」, 「고영향 인공지능 판단 가이드라인(안)」, 「사업자 책무 고시(안)」(과학기술정보통신부 고시 제2026-125호)¹⁰⁾, 「고영향 인공지능 사업자 책무 가이드라인(안)」¹¹⁾, 「인공지능 영향평가 가이드라인(안)」 등을 들 수 있다.

「인공지능 투명성 확보 가이드라인(안)」은 고영향 인공지능, 생성형 인공지능, 딥페이크 등에 적용되는 투명성확보 의무를 규정한 「인공지능기본법」 제31조 및 해당 의무의 이행방법 및 예외 관련 사항을 규정한 「인공지능기본법」 시행령 제22조를 뒷받침하기 위하여 수범자, 이행방법 및 예외에 대한 구체적인 해석과 사례를 제시한다.

「인공지능기본법」 제32조와 시행령 제23조에 따른 인공지능 안전성 확보 의무에 대하여 보다 상세하게 뒷받침하기 위해 안정성 확보 고시(안) 및 인공지능 안전성 확보 가이드라인(안)이 있다.

「인공지능 안전성 확보 의무의 이행방법 등에 관한 고시(안)」 및 「인공지능 안전성 확보 가이드라인(안)」은 고성능 인공지능의 구체적인 판단 기준, 안정성 확보를 위한 위험 식별·평가·완화 조치 및 안전사고 관리를 위한 위험관리체계 구축 및 운영방법, 이행결과 제출방법·절차 등을 안내하고 있다.

「고영향 인공지능 판단 가이드라인」은 「인공지능기본법」상 주요 용어의 정의 및 「인공지능기본법」의 물적·인적 적용 범위¹²⁾를 안내하고 있다.

과기정통부는 2025년 9월 17일에 고영향 인공지능의 안전성·신뢰성 확보의무에 따라 인공지능사업자가 부담해야 하는 책무(제34조)와 관련하여 사업자 책무 고시(안)」 및 「고영향 인공지능 사업자 책무 가이드라인(안)」을 공표하였다. 「사업자 책무 고시(안)」은 「인공지능기본법」상 고영향 인공지능사업자의 책무를 보다 구체적으로 규정하고 있고, 「고영향 인공지능 사업자 책무 가이드라인(안)」은 사업자 책무 고시의 조문별로 실무적 이행방안과 국내외 법과 표준을 반영한 예시를 제공하고 있다. 특히, 「고영향 인공지능 사업자 책무 가이드라인(안)」은 인공지능사업자별로 고영향 인공지능 사업자의 책무를 구분하여 안내하고 있다.

「인공지능 영향평가 가이드라인(안)」은 고영향 인공지능을 이용한 제품이나 서비스를 제공하는 인공지능사업자로 하여금 해당 제품 또는 서비스가 사람의 기본권에 미치는 영향을 사전에 평가하도록 노력할 것을 규정하고 있다.

사전준비단계에서는 평가필요성을 검토하고 평가대상을 정의한다. 그리고 본평가 수행단계에서는 피영향자를 식별하고, 제품이나 서비스에 이용한 인공지능 기술이 작동하는 방식과 이를 기반으로 제공되는 제품이나 서비스의 운영방식을 상세히 조사 및 기록한다. 위 분석자료를 기초로 실제 서비스 운영 과정에서 발생할 수 있는 다양한 상황 및 위협 요인과 그에 따른 위험 시나리오를 작성하고, 시나리오의 내용상 침해받을 수 있는 기본권 유형을 식별하며, 앞서 파악한 요소들을 종합하여 제품이나 서비스가 기본권에 미치는 영향을 구체적으로 판단하고, 위험 시나리오 별로 관련 기본권에 대한 구체적인 영향 내용 및 영향 수준(영향 규모, 기간 및 발생가능성)을 상세히 작성한다.

사후단계에서는 영향평가 완료 후에는 부정적 영향에 대한 개선·보완 계획 수립, 영향평가 과정상 수집된 피드백 반영 등 후속조치를 자율적으로 시행할 것을 권장하고, 영향평가의 결과 및 그 근거자료는 자율적으로 보관·관리할 것을 권장하며 사업자는 자율적으로 영향평가 결과 공개 여부를 결정할 수 있도록 하였다.

전반적으로 파악할 때, 우리나라 인공지능기본법은 과기정통부가 소관하는 법률인 만큼, 규제보다는 진흥에 초점을 두고 있다. 그리고 그 내용을 보더라도 규제를 최소화하는 노력을 경주하는데 방점을 두고 있음을 알 수 있다. 다만, 저작권 및 저작인접권은 헌법 및 저작권법상 보장되는 권리인 만큼, 이를 규제 완화의 관점에 바라보는 시각에 대해서는 경계할 필요성이 있다.

9) 과학기술정보통신부(이하 ‘과기정통부’)는 2026년 1월 22일 「인공지능기본법」상 투명성 확보 의무(인공지능기본법 제31조)의 구체적인 이행방안을 담은 「인공지능 투명성 확보 가이드라인」을 공개하였다.

10) 과기정통부는 「고영향 인공지능과 관련한 사업자의 책무 고시」 제정(안)(과학기술정보통신부 공고 제2026-125호)에 대하여 2026년 3월 12일 행정예고를 실시하였다.(최종방문일: 2026. 3. 12.).

11) 「인공지능기본법」 주요 가이드라인(투명성·안전성·판단·사업자 책무·영향평가)(최종방문일: 2026. 3. 17.).

12) 「인공지능기본법」의 물적 적용범위는 인공지능시스템이고, 같은 법의 인적 적용범위는 인공지능사업자다.

ㅣ관련자료 모아보기

 ▶ 최신동향

  • 일본, 첫 AI 활용·관리 법안 확정 (2025.03.04.)

  • EU, AI 규제 시행 16개월 연기…디지털 간소화·행정 효율 패키지 발표방안 발표 (2025.12.10.)

 ▶ 국가전략세미나

  • [국회인공지능포럼·국회도서관·한국법제연구원 공동세미나] 인공지능기본법의 현황과 과제 (2025.06.17.)

  • [제5차 AI 법제연구포럼 국회 세미나] 인공지능기본법의 발전방향 모색 : 혁신과 신뢰 사이의 균형적 해법 (2025.08.08.)

  • 인공지능 기본법 시행 이후의 인공지능 윤리 논의 (2026.03.20.)

 ▶ 국가전략보고서

  • 일본의 인공지능 관련 정부조직 입법례 (2025.09.23.) / 국회도서관

  • ＡＩ法案をめぐる国会論議(AI법안을 둘러싼 국회 논의) (2025.09.29.) / 日本參議院

  • One law sets South Korea’s AI policy—and one weak link could break it(하나의 법으로 규정된 한국의 인공지능 정책과 그 취약 요인) (2025.09.29.) / Information Technology & Innovation Foundation(ITIF)

  • AI regulation in the UK(영국의 AI 규제) (2026.03.31.) / House of Commons Library