□ 보고서는 AI 사고의 주요 구성 요소를 정의하고, 이를 의무 보고 체계에 적용할 것을 제안함. 주요 구성 요소에는 사고 유형, 피해 정도, 기술적 정보, 사건의 맥락 및 후속 조치 등이 포함됨
□ 기존 AI 사고 데이터베이스와 교통, 보건, 사이버보안 등 다른 산업의 사고 보고 시스템을 참고하여 AI 사고 보고의 필수 요소를 정리함. 일관된 보고 기준이 없으면 데이터 분석과 정책 수립이 어려워짐
□ AI 사고의 심각성을 평가하고 예방 조치를 강화하기 위해 독립적인 조사 기관을 설립할 것을 권장함. 사고 대응 및 안전성 강화를 위해 AI 시스템의 기술적 정보 공개도 필수적임
□ 보고서의 제안이 채택되면 AI 사고 데이터의 일관된 수집과 분석이 가능해지며, AI 기술의 안전성과 신뢰성을 높이는 데 기여할 수 있음
목차
Title page
Contents
Executive Summary 2
Introduction 4
Key Components of AI Incidents 7
Synthesizing Key Components of AI Incidents 10
Types of Events 10
AI Incidents and Near Misses 10
Harm Dimensions 11
Type of Harm 11
Mechanism of Harm 11
Severity Factor 12
Technical Data 14
Context, Circumstances, and Stakeholders 14
Post-incident Data 16
Policy Recommendations 17
Publish AI Incident Reporting Formats 17
Establish an Independent Investigation Agency 17
Conclusion 18
Appendix 19
Decomposing AI Incidents 19
AI Harm Events as a Spectrum 21
Documenting AI Harm: The Many Impacts of AI 22
Significant but Limited Information 23
Incident Components Reported in Other Sectors 24
Shared Incident Components 25
Additional Key Components 25
Measuring Severity: A First Glimpse 26
Authors 27
Acknowledgments 27
Endnotes 28
Table 1. Key Components of AI Incidents 8
Table 2. Key Component: Type of Event 10
Table 3. Key Components: Harm Dimensions 12
Table 4. Key Component: Technical Information 14
Table 5. Key Components: Context and Circumstances 15
Table 6. Key Components: Post-Incident 16
Table A1. List of Examined AI Initiatives 19
Table A2. List of Reporting Systems from Other Sectors 24
