□ 고도화된 인공지능은 인류가 만든 가장 강력한 기술 중 하나로, 경제 성장, 과학 혁신, 복지 향상 등의 혜택을 가져올 잠재력을 지님. 그러나 이러한 혜택은 각국의 개별 정책이나 시장 기능만으로는 충분히 실현되기 어려우며, 안전하고 공정한 AI의 확산을 위해서는 국제 협력이 필수적임
□ 보고서는 AI로 인한 세 가지 글로벌 도전과제를 제시함. 첫째, AI의 혜택을 전 세계에 공평하게 실현하고 공유하는 것임. 둘째, AI의 무기화, 통제 상실 등으로 인한 심각한 안전 위협을 예방하고 완화하는 것임. 셋째, 인류 전체의 미래에 영향을 미치는 AI 개발과 활용에 대해 정당하고 효과적인 글로벌 의사결정 체계를 구축하는 것임
□ 이러한 과제 해결을 위해 보고서는 글로벌 AI 도전 과제에 대한 국제 기본협약(Framework Convention)을 제안함. 이 협약은 포괄적이고 유연한 형태로, 국가들이 공통 목표와 원칙에 동의하고, 구체적이고 시급한 사안에 대해서는 별도의 부속 의정서를 통해 공동 대응하도록 설계됨. 초기 의정서로는 AI의 공공안전 및 보안 위협에 관한 의정서가 우선 제안됨
□ AI 위험 관리를 위해 글로벌 위험 허용 임계치에 따른 4단계 분류 체계도 제안됨. 위험이 낮은 AI는 규제 없이 운영되지만, 고위험 AI는 국제공동연구소에서만 개발이 허용되며, 극단적 위험을 지닌 AI는 개발이 전면 금지됨. 이를 실행하기 위해 정치, 과학, 규제, 기술, 분쟁조정 등 역할을 담당할 다섯 개의 국제 기관 설립이 제안됨
□ 결론적으로, 현재의 국제 협력 수준은 AI의 급속한 발전과 그에 따른 세계적 위험을 관리하기에 충분하지 않음. 따라서 지금이야말로 인류 공동의 이익을 위한 AI 국제 거버넌스 체계를 조속히 구축하고, 그 이행을 위한 제도적·기술적 기반을 마련해야 할 시점임
목차
Title page 1
Contents 3
Executive Summary 4
Introduction 6
Global Challenges from Advanced AI 8
Current International Cooperation Efforts Are Insufficient for Global AI Challenges 12
A Framework Convention on Global AI Challenges 14
A Protocol on Global Public Safety and Security Risks from AI ("Protocol on AI Safety") 17
Challenges, Opportunities and Next Steps 21
Conclusion 23
Appendix 1: Descriptions of AI Risks in Figure 3 24
Appendix 2: Summary of Proposed Institutions, Roles and Functions 26
Figures 6
Figure 1. Computing Power Used to Train Notable AI Models 6
Figure 2. A Hypothetical Graph of AI Capabilities over Time 7
Figure 3. Scope and Severity of AI Risks 10
Figure 4. International Framework Convention on Global AI Challenges 16
Figure 5. Protocol on Global Public Safety and Security Risks from AI 20
Boxes 13
Box 1. International Coordination Efforts on AI Issues 13
