국회도서관 국가전략정보포털

표제지

목차

요약 4

Ⅰ. 서론 12

1. 인공지능의 등장과 발전 12

2. 인공지능의 내재적 위험과 대응 필요성 13

Ⅱ. 인공지능의 내재적 위험 14

1. 인공지능의 내재적 위험 유형 14

2. 위험의 내용 16

가. 데이터 위험 16

나. 기술적 위험 19

다. 이용자 위험 21

Ⅲ. 인공지능의 내재적 위험에 대응하는 국내외 법제도 25

1. 외국 법제도 25

가. 미국 25

나. 유럽연합 30

2. 국내 법제도 38

가. 인공지능기본법안 38

나. 인공지능 윤리기준 46

3. 소결 48

Ⅳ. 입법ㆍ정책 과제 51

1. 데이터 위험 대응 51

가. 학습데이터에 대한 설명 강화 51

나. 개인정보 관련 법률 정비 51

다. 저작권 관련 법률 정비 54

라. 데이터 축적 지원 56

2. 기술적 위험 대응 57

가. AI 기술문서 대상 확대와 사용설명서 작성 57

나. AI 위험성 평가 확대 58

3. 이용자 위험 대응 58

가. 이용자 리터러시 개선 58

나. 악의적 이용과 사이버 공격의 규제 59

Ⅴ. 결론 62

참고문헌 65

[부록] 67

판권기 92

[표 1] 인공지능의 내재적 위험 유형 15

[표 2] 위험평가 한계의 주요 원인 20

[표 3] 프롬프트 공격의 주요 사례 24

[표 4] 미국 NIST의 신뢰할 수 있는 AI 시스템의 7가지 기준(AI RMF) 29

[표 5] EU 인공지능법의 구조 및 개관 31

[표 6] 고위험 AI 시스템에 대한 규제 34

[표 7] 범용 AI(GPAI)에 대한 규제 37

[표 8] 인공지능의 내재적 위험 유형 48

[그림 1] 인공지능 윤리기준 체계 47

[그림 2] 인공지능 윤리영향평가 프레임워크 시범 적용 결과 48