ㅇ 생성형 AI는 학습 데이터의 통계적 패턴을 기반으로 새로운 콘텐츠를 생성하며, 이 과정에서 훈련 데이터의 영향을 구조적으로 기록하지 않아 생성 결과와 원본 데이터 간의 연결 고리를 추적하기 어려움
ㅇ 이로 인해, 생성형 AI를 통해 도출된 결과물이 원본의 파생물인지 아닌지 판단하기 어려우며, 기존의 저작권 체계와 충돌을 일으킬 수 있음
□ 보고서는 현재의 생성형 AI 모델이 특정 훈련 데이터에 얼마나 의존했는지, 해당 결과물이 독창적인 것인지 여부를 평가할 수 있는 기술적 수단이 부족함을 지적함
ㅇ 고차원 공간에서 생성형 AI가 콘텐츠를 만들어내는 방식은 본질적으로 우연적(stochastic)이며, 생성 과정이 일정하지 않고 다양한 가능성에 따라 유동적으로 결과를 도출하기 때문에 AI는 특정 입력 데이터를 받지 않더라도 과거에 학습한 데이터와 매우 유사한 콘텐츠를 생성 가능
- 이는 마치 학습 데이터를 반복적으로 따라하는 듯한 '통계적 복제(parroting)' 현상을 유발할 수 있음
ㅇ 이렇게 생성된 결과는 표면적으로 새로운 콘텐츠처럼 보일 수 있지만, 실제로는 기존 저작물을 구조적으로 재현하는 경우도 있어, 저작권 침해 소지가 있음에도 불구하고 명확하게 판단하기 어려운 상황이 발생
□ 이에 따라 보고서는 생성형 AI 모델의 투명성과 책임성을 강화하기 위한 기술적·정책적 권고사항을 제시함
ㅇ 권고사항에는 데이터 출처의 문서화, 영향력 평가 도구 개발, 추적 가능한 학습 아키텍처 설계, 원 저작권자에 대한 공정 보상을 위한 새로운 로열티 모델 등이 포함됨
ㅇ 특히 EU가 중심이 되어 생성형 AI의 책임 있는 개발과 저작권 보호 간 균형을 모색할 필요성이 강조되며, 기술 표준화 및 규제기관·저작권자·개발자 간 협력 체계 구축이 핵심 과제로 제시됨
목차
LIST OF ABBREVIATIONS 4
LIST OF FIGURES 5
EXECUTIVE SUMMARY 6
1. UNDERSTANDING GENAI SYSTEMS: FROM PREDICTION TO SAMPLING 7
1.1. From Human Learning to Statistical Approximation 7
1.2. Traditional Predictive Models: The Deterministic Case 8
1.3. Inversion and the Need for Generative Modelling 9
2. NOVELTY IN HIGH-DIMENSIONAL GENERATIVE SPACES: BETWEEN STATISTICAL EXPLORATION AND STOCHASTIC PARROTING 10
3. ATTRIBUTION, TRACEABILITY, AND THE RECOGNITION OF INFLUENCE IN GENAI 13
3.1. The Traceability Gap 13
3.2. Probabilistic Influence is Not Observable 14
3.3. Implications for Copyright Contexts 15
3.4. Current Initiatives and Outlook 15
4. TECHNICAL RECOMMENDATIONS TO ENHANCE TRANSPARENCY AND LEGAL COMPLIANCE IN GENAI 17
4.1. Responsibility Must Be Assumed by All the Stakeholders 17
4.2. From Literal Copying to Statistical Use: Rethinking Remuneration Models 18
4.3. Traceability Infrastructure: A Research and Governance Priority 18
4.4. Standardisation, Auditing, and Cooperation with Rightsholders 19
5. CONCLUSION 20
REFERENCES 21
