□ 보고서는 “각국 정부와 지역 기구도 중요하나 구조와 응용의 경계를 넘나드는 AI 기술의 특성상 글로벌한 접근방식이 필요하다”고 강조함
- “AI의 발전 속도, 자율성과 불투명성을 고려할 때 위협이 부상하기를 기다리면 대응이 지나치게 늦어질 수 있다”며, “지속적인 과학적 평가와 정책 대화”를 통해 AI에 따른 잠재적 피해를 막아야 한다고 촉구함
- 또한 “딥페이크, 음성복제, 자동화된 허위조작정보 캠페인은 민주주의 제도와 과정에 심각한 위협이 된다”며 “성을 매개로 한 딥페이크는 여성과 소녀들에게 특히 우려되는 사항이며 성별에 기반한 폭력의 한 형태”라고 경고함
□ 33국 출신의 기술, 법률 및 데이터 보호 분야 전문가 39명으로 구성된 자문기구는 AI 기술 발전에 따른 이러한 위협을 막고 인권을 보호하는 방향으로 AI를 개발하기 위해 7가지 권고사항을 제안함
🔍 UN 자문기구의 AI 위한 7가지 권고사항 내용
ㅇ AI에 대한 신뢰할 수 있는 과학적 지식을 제공하는 국제 과학 패널 설립
ㅇ UN에서 정부 간 및 다자 이해관계자 회의를 통해 AI 거버넌스에 대한 새로운 정책 대화 시작
ㅇ 표준화 기구, 기술 기업, 시민사회 대표들이 참여하는 AI 표준 교환
ㅇ AI 거버넌스 역량을 강화하기 위한 글로벌 AI 역량 개발 네트워크 설립
ㅇ 글로벌 AI 기금을 통한 역량 및 협력 격차 해소
ㅇ 데이터 관련 정의, 원칙, 관리 방식을 표준화해 AI 시스템의 투명성과 책임성을 보장하는 글로벌 AI 데이터 프레임워크
ㅇ UN 사무국 내 AI 사무국 설립
[출처]
유엔이 나섰다 “AI 위협, 기업은 해결 못해… 세계가 뭉치자” (2024.09.20.) / 조선일보
“AI, 시장에만 못맡겨”…유엔, 기후변화급 대응 등 7대과제 권고 (2024.09.19.) / 연합뉴스
목차
About the high-level advisory body on artificial intelligence 4
Executive summary 7
1. The need for global governance 7
2. Global AI governance gaps 8
3. Engancing global cooperation 9
A. Common understanding 9
B. Common ground 11
C. Common benefits 14
D. Coherent effort 19
E. Reflections on institutional models 21
4. A call to action 21
1. Introduction 23
A. Opportunities and enablers 24
B. Key enablers for harnessing AI for humanity 28
C. Governance as a key enabler 28
D. Risks and challenges 28
E. Risks of AI 28
F. Challenges to be addressed 33
2. The need for global governance 37
A. Guiding principles and functions for international governance of AI 38
B. Emerging international AI governance landscape 40
3. Global AI governance gaps 42
A. Representation gaps 42
B. Coordination gaps 44
C. Implementation gaps 45
4. Enhancing global cooperation 47
A. Common understanding 48
International scientific panel on AI 48
B. Common ground 52
Policy dialogue on AI governance 52
AI standards exchange 55
C. Common benefits 58
Capacity development network 64
Global fund for AI 65
Global AI data framework 67
D. Coherent effort 70
AI office in the United Nations Secretariat 70
E. Reflections on institutional models 73
An international AI agency? 73
5. Conclusion: a call to action 77
Annexes 79
Annex A: members of the high-level advisory body on artificial intelligence 79
Annex B: Terms of reference of the high-level advisory body on artificial intelligence 80
Annex C: List of consultation engagements in 2024 81
Annex D: List of "deep dives" 82
Annex E: Risk global pulse check responses 83
Annex F: Opportunity scan responses 93
Annex G: List of abbreviations 99
