국가전략정보포털

표제지

목차

정책건의 3

01. 서론 10

1. 연구의 배경 11

2. 연구의 목적 12

3. 연구의 범위 및 방법 13

02. 국외 인공지능 관련 법제화 현황 및 동향 14

1. EU, OECD 현황 및 동향 분석 15

1) EU 15

2) OECD 21

2. 미국, 영국 현황 및 동향 분석 26

1) 미국 26

2) 영국 31

3. 중국, 일본 현황 및 동향 분석 34

1) 중국 34

2) 일본 38

4. 시사점 40

03. 국내 인공지능 관련 법제화 현황 및 동향 42

1. 국회 입법 현황 및 동향 분석 43

1) 입법 동향 개요 43

2) 인공지능 기본법(AI 기본법) 추진 현황 45

3) 주요 5개 법안 및 대안 법안의 내용 및 분석 49

2. 자치 법규 현황 및 동향 분석 58

1) 일반 현황 및 경기도 인공지능 조례 58

2) 지역별 인공지능 관련 조례 수립 동향 분석 60

3. 시사점 63

04. AI 신뢰성 원칙 및 확보 방안 65

1. AI 신뢰성 원칙 국내외 사례 66

1) AI 신뢰성 원칙 해외 사례 66

2) AI 신뢰성 원칙 국내 사례 71

2. AI 신뢰성 검증 프레임워크 72

1) AI 신뢰성 검증 프레임워크 해외 사례 72

2) AI 신뢰성 검증 프레임워크 국내 사례 75

3. AI 신뢰성 확보 방안 77

1) AI 신뢰성 7대 원칙 77

2) AI 신뢰성 확보 방안 80

05. AI 법제(법ㆍ조례) 개선 방안 84

1. AI 법제화를 위한 기본 방향 및 목적 85

1) 정책 방향 85

2) AI 기본법의 입법 목적 87

3) AI 기본조례의 입법 목적 89

2. AI 기본법안의 구성 91

1) 법안 구성의 취지 91

2) 법안의 구성 92

3. AI 기본조례의 구성 및 조례안 99

1) 조례 구성의 취지 99

2) 조례의 구성 100

4. 시사점 104

06. 결론 및 정책 제안 106

1. 결론 107

2. 정책 제안 110

참고문헌 128

Abstract 131

[부록 1] EU AI 법 도입경과 134

[부록 2] 국가인공지능위원회 심의ㆍ조정 세부 사항 135

[부록 3] 인공지능 정점식의원안 中 일부 발췌 136

[부록 4] 제22대 국회인공지능 제정법안 체계 비교 137

[부록 5] 경기도 인공지능 기본조례 141

[부록 6] OECD AI 권고안 143

[부록 7] 인공지능(AI) 윤리기준 143

[부록 8] 인공지능 윤리기준 실천을 위한 자율점검표(안) 144

[부록 9] AI 관련 저작권 침해 사례 147

판권기 2

[표 2-1] 수용 불가 AI 시스템 사용 예시 16

[표 2-2] 고위험 AI 시스템 사례 17

[표 2-3] EU AI 법의 AI 구분 18

[표 2-4] 범용 AI 모델 공급자의 의무 19

[표 2-5] OECD AI 권고안 핵심 용어 21

[표 2-6] 신뢰할 수 있는 AI 구현을 위한 5가지 원칙 22

[표 2-7] OECD AI 시스템 정의 채택 및 수정 경과 23

[표 2-8] 2019년 및 2023년 AI 시스템 정의 비교 23

[표 2-9] OECD AI 시스템 재정의 주요 고려요소 24

[표 2-10] 미국 AI 안전연구소 컨소시엄의 워킹그룹 구성 28

[표 2-11] 개발자와 배포자의 의무 29

[표 2-12] 영국의 친혁신적 접근 방식의 네 가지 특성 31

[표 2-13] 영국의 친혁신적 프레임워크의 다섯 가지 원칙 32

[표 2-14] 영국 AI 안전연구소의 목표와 기능 33

[표 2-15] 영국 AI 안전연구소의 거대 언어 모델 평가 내용 33

[표 2-16] 생성형 AI 서비스 관리 잠정방법 주요 조항 34

[표 2-17] 생성형 AI 서비스 제공자의 의무와 책임 35

[표 2-18] 딥페이크 주요 규정 사항 36

[표 2-19] 딥페이크 표시 대상 서비스 36

[표 2-20] AI 제작 콘텐츠의 2가지 표시 방법 37

[표 2-21] 연도별 주요 이슈와 일본 AI 정책 38

[표 2-22] 제1회 일본 AI 전략회의 주요 이슈 38

[표 2-23] 일본 AI 사업자 가이드라인 39

[표 2-24] EU와 중국의 AI 규제 방식 비교 40

[표 3-1] 21대 국회에서 발의된 인공지능 관련 9건 법률안 주요내용 46

[표 3-2] 인공지능산업 육성 및 신뢰확보에 관한 법률안 47

[표 3-3] 제22대 국회 인공지능 관련 법률안 발의 현황('24.11.18 기준, 19건) 48

[표 3-4] 정점식의원안 50

[표 3-5] 인공지능 관련 제정안(5건) 비교(국회검토보고서, '24.8) 54

[표 3-6] 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안) 구성 57

[표 3-7] 지자체 및 교육청 인공지능 관련 법규 현황 62

[표 4-1] UNESCO AI 윤리 권고 10대 원칙 69

[표 4-2] AI 신뢰성 7대 원칙 제안 79

[부록-그림 1] OECD AI 권고안 143

[부록-그림 2] 국내 「인공지능(AI) 윤리기준」(2020) 143

[부록-그림 3] 생성형 AI로 생성한 울트라맨 캐릭터 147