□ 인터넷감시재단(IWF)은 7월 21일(현지 시간) 「AI 아동 성적 학대 자료 환경에는 어떤 변화가 있었는가?」 보고서를 발표하고 인공지능으로 생성한 아동 성적 학대 자료의 양이 증가하고 있다고 밝힘
- IWF가 지난 3월 한달간 다크웹 내 범죄 가능성이 높은 이미지·동영상 1만 2,148개를 조사한 결과, AI로 만든 CSAM 이미지와 동영상은 3,512개로 전체의 29%였음
- 이는 IWF가 지난해 9월 한달간 적발한 2,978개보다 약 17% 늘어난 수치임
□ IWF는 “AI 기술의 발달로 기술을 조금만 익힌 사람은 누구나 그럴듯한 딥페이크 동영상을 제작할 수 있다”며 “클릭 한 번으로 수백 개 이미지가 쏟아져 나오는데 일부 결과물은 거의 흠잡을 데 없이 사실적”이라고 우려함
□ 정부, 빅테크 등이 딥페이크 활용 성범죄 등 AI로 인한 문제에 대응하고 있으나 효과는 미미한 상황임
- 미국 연방수사국(FBI)은 이메일 성명을 통해 아동을 대상으로 한 범죄를 심각하게 받아들이고 있으며 다양한 법 집행 기관과 함께 각 혐의를 조사하고 있다고 밝힘
- 아마존, 구글, 마이크로소프트(MS) 등 미국 빅테크 7곳은 지난해 여름 AI 안전성, 투명성과 관련한 지침을 준수하겠다고 공개 서약서에 서명한 바 있으나, 빅테크 개발 서비스 외에 무료로 사용할 수 있는 수많은 소규모 AI 프로그램에 대한 통제는 이뤄지지 않고 있다고 밝힘
[출처] IWF, “AI로 생성한 아동 성적 학대 자료 지난 6개월새 17% 증가” (2024.07.22.) / 전자신문
- IWF가 지난 3월 한달간 다크웹 내 범죄 가능성이 높은 이미지·동영상 1만 2,148개를 조사한 결과, AI로 만든 CSAM 이미지와 동영상은 3,512개로 전체의 29%였음
- 이는 IWF가 지난해 9월 한달간 적발한 2,978개보다 약 17% 늘어난 수치임
□ IWF는 “AI 기술의 발달로 기술을 조금만 익힌 사람은 누구나 그럴듯한 딥페이크 동영상을 제작할 수 있다”며 “클릭 한 번으로 수백 개 이미지가 쏟아져 나오는데 일부 결과물은 거의 흠잡을 데 없이 사실적”이라고 우려함
□ 정부, 빅테크 등이 딥페이크 활용 성범죄 등 AI로 인한 문제에 대응하고 있으나 효과는 미미한 상황임
- 미국 연방수사국(FBI)은 이메일 성명을 통해 아동을 대상으로 한 범죄를 심각하게 받아들이고 있으며 다양한 법 집행 기관과 함께 각 혐의를 조사하고 있다고 밝힘
- 아마존, 구글, 마이크로소프트(MS) 등 미국 빅테크 7곳은 지난해 여름 AI 안전성, 투명성과 관련한 지침을 준수하겠다고 공개 서약서에 서명한 바 있으나, 빅테크 개발 서비스 외에 무료로 사용할 수 있는 수많은 소규모 AI 프로그램에 대한 통제는 이뤄지지 않고 있다고 밝힘
[출처] IWF, “AI로 생성한 아동 성적 학대 자료 지난 6개월새 17% 증가” (2024.07.22.) / 전자신문
목차
Foreword 3
1. Recommendations 4
2. Executive summary 7
3. Introduction to this report update 8
Notes on terminology 9
Outline and guide for readers 9
4. Trends monitoring 10
IWF reports and the clear web 10
AI videos 13
Technology, tools and models 14
Dark web forums and AI CSAM discussion 16
AI CSAM featuring known victims and famous children 17
5. AI CSAM image analysis: new snapshot study 19
Overall forum trends 19
Image analysis 20
Metadata analysis 25
6. In summary 27
7. Glossary 28
