추천사 8

이 보고서에 대하여 10

의장 업데이트: 보고서 작성 후 AI 발전에 대한 최신 소식 11

이 보고서의 주요 발견 13

요약 보고서 15

서론 26

범용 AI 의 역량 29

1.1. 범용 AI 의 개발 방식 30

1.2. 현재 역량 37

1.3. 향후 역량 46

위험 61

2.1. 악의적 사용으로 인한 위험 62

　2.1.1. 가짜 콘텐츠로 인한 개인의 피해 62

　2.1.2. 여론 조작 67

　2.1.3. 사이버 범죄 72

　2.1.4. 생물학적 및 화학적 공격 79

2.2. 오작동 위험 88

　2.2.1. 신뢰성 문제 88

　2.2.2. 편향 92

　2.2.3. 통제력 상실 100

2.3. 시스템적 위험 109

　2.3.1. 노동 시장 위험 109

　2.3.2. 글로벌 AI R&D 격차 118

　2.3.3. 시장 집중과 단일 장애점 122

　2.3.4. 환경에 대한 위험 127

　2.3.5. 프라이버시 위험 136

　2.3.6. 저작권 침해 위험 141

2.4. 오픈 웨이트 범용 AI 모델이 AI 위험에 미치는 영향 146

위험 관리에 대한 기술적 접근 방식 154

3.1. 위험 관리 개요 155

3.2. 위험 관리 및 정책 입안을 위한 일반적 도전 과제 167

　3.2.1. 위험 관리 및 정책 입안을 위한 기술적 도전 과제 167

　3.2.2. 위험 관리 및 정책 입안을 위한 사회적 도전 과제 174

3.3. 위험 식별과 진단 178

3.4. 위험 완화 및 모니터링 188

　3.4.1. 더 신뢰할 수 있는 모델 훈련 188

　3.4.2. 모니터링과 개입 198

　3.4.3. 기술적인 프라이버시 보호 방법 206

결론 213

약어표 215

용어표 217

보고서 인용 방법 228

참고 문헌 230