□ 딥페이크란 AI가 만들어 낸 진짜 같은 가짜 디지털 합성물로 2022년 이후 딥페이크 시도가 급증하는 추세이며 국내도 유사한 상황
□ 생성 AI 혁명의 시작을 알리는 챗GPT 출시 이후, 딥페이크 검색량 급속히 증가하며 진화 중이며, 초거대 AI 모델의 빠른 발전으로 더욱 정교한 딥페이크 제작이 가능한 여건이 조성되며 관련 시장이 성장
- 생성 AI는 누구나 낮은 비용으로 쉽고 빠르게 딥페이크를 제작할 수 있도록 지원하며, 일상에서 사용하는 자연어 기반의 프롬프트(Prompt)로 다양한 디지털 요소를 생성하고 이를 변형하여 활용 가능
- 생성 AI를 활용하여 얼굴을 바꾸거나, 완전히 새로운 얼굴을 만들거나, 목소리를 복제하는 등 다양한 디지털 합성 작업이 가능
□ 딥페이크는 생산성 증대, 사회혁신, 슈퍼 개인의 탄생 등 다양한 측면에서 활용 가능
- 영화나 광고 등 엔터테인먼트 산업에서 딥페이크 기술을 활용하면 제작 비용과 시간을 절감 가능하며, 개인의 취향과 특성에 맞춘 맞춤형 콘텐츠 제작에도 딥페이크가 활용
- AI 트윈(Twin) 기반의 비즈니스 모델 혁신 등 생성 AI를 활용하는 슈퍼 개인이 등장
□ 딥페이크는 산업적 측면에서 유용하기도 하지만 부작용도 존재하며 최근 연예, 정치 분야에서 피해사례가 속출하고 피해 범위, 규모도 증가
- 딥페이크를 활용한 기업 사기 사건도 발생하여 피해가 발생하고, 딥페이크를 활용한 투자사기 사례도 생겨 피해가 커지고 있는 상황
- 연예인, 정치인 등 유명인이 아닌 일반인도 딥페이크의 대상자가 되고 있음
□ 생성 AI 시대, 진화하는 딥페이크에 대한 대비가 필요
- 딥페이크의 대상 범위도 연예, 정치 분야에서 일반 기업, 투자 등으로 다변화 중이며, 딥페이크로 인한 기업 사기 등 리스크가 증가하여 이에 대한 대비도 필요
- 딥페이크 탐지 기술 개발 강화 및 활용을 통해 기술적으로 대처하고, 사회적으로는 AI 리터러시 교육, 딥페이크 피해사례 전파 등을 통해 구성원들이 딥페이크로 인한 위험을 인지하고 대처할 수 있도록 지원
- 딥페이크 처벌 규정의 범위, 피해 콘텐츠의 빠른 삭제 등 정책 개선 이슈를 검토
- 딥페이크의 산업적 가치에도 주목하여 관련 혁신 모델 발굴, 슈퍼 개인 양성 등 지원 방안도 모색
(출처: 국회입법조사처)
□ 생성 AI 혁명의 시작을 알리는 챗GPT 출시 이후, 딥페이크 검색량 급속히 증가하며 진화 중이며, 초거대 AI 모델의 빠른 발전으로 더욱 정교한 딥페이크 제작이 가능한 여건이 조성되며 관련 시장이 성장
- 생성 AI는 누구나 낮은 비용으로 쉽고 빠르게 딥페이크를 제작할 수 있도록 지원하며, 일상에서 사용하는 자연어 기반의 프롬프트(Prompt)로 다양한 디지털 요소를 생성하고 이를 변형하여 활용 가능
- 생성 AI를 활용하여 얼굴을 바꾸거나, 완전히 새로운 얼굴을 만들거나, 목소리를 복제하는 등 다양한 디지털 합성 작업이 가능
□ 딥페이크는 생산성 증대, 사회혁신, 슈퍼 개인의 탄생 등 다양한 측면에서 활용 가능
- 영화나 광고 등 엔터테인먼트 산업에서 딥페이크 기술을 활용하면 제작 비용과 시간을 절감 가능하며, 개인의 취향과 특성에 맞춘 맞춤형 콘텐츠 제작에도 딥페이크가 활용
- AI 트윈(Twin) 기반의 비즈니스 모델 혁신 등 생성 AI를 활용하는 슈퍼 개인이 등장
□ 딥페이크는 산업적 측면에서 유용하기도 하지만 부작용도 존재하며 최근 연예, 정치 분야에서 피해사례가 속출하고 피해 범위, 규모도 증가
- 딥페이크를 활용한 기업 사기 사건도 발생하여 피해가 발생하고, 딥페이크를 활용한 투자사기 사례도 생겨 피해가 커지고 있는 상황
- 연예인, 정치인 등 유명인이 아닌 일반인도 딥페이크의 대상자가 되고 있음
□ 생성 AI 시대, 진화하는 딥페이크에 대한 대비가 필요
- 딥페이크의 대상 범위도 연예, 정치 분야에서 일반 기업, 투자 등으로 다변화 중이며, 딥페이크로 인한 기업 사기 등 리스크가 증가하여 이에 대한 대비도 필요
- 딥페이크 탐지 기술 개발 강화 및 활용을 통해 기술적으로 대처하고, 사회적으로는 AI 리터러시 교육, 딥페이크 피해사례 전파 등을 통해 구성원들이 딥페이크로 인한 위험을 인지하고 대처할 수 있도록 지원
- 딥페이크 처벌 규정의 범위, 피해 콘텐츠의 빠른 삭제 등 정책 개선 이슈를 검토
- 딥페이크의 산업적 가치에도 주목하여 관련 혁신 모델 발굴, 슈퍼 개인 양성 등 지원 방안도 모색
(출처: 국회입법조사처)
목차
표제지
목차
요약 3
01. AI가 만든 진짜 같은 가짜, 딥페이크 4
02. 생성 AI로 진화하는 딥페이크 6
03. 생성 AI가 만든 딥페이크의 빛과 그림자 11
04. 시사점 15
참고문헌 17
판권기 2
그림 1. 영화 아이언맨에 등장하는 톰크루즈 딥페이크 영상 4
그림 2. 딥페이크 시도 변화 추세 5
그림 3. 딥페이크 검색량의 변화와 확산 패턴 6
그림 4. 초거대 AI의 진화 7
그림 5. 다양한 영역에서 활용되는 생성 AI 7
그림 6. AI 프롬프트 기반의 딥페이크 생성 8
그림 7. AKOOL AI 8
그림 8. 오픈AI의 보이스엔진(Vocie Engine) 9
그림 9. 마이크로소프트의 VASA-1 9
그림 10. AI 트윈(Twin)을 만든 리드호프먼 10
그림 11. 딥페이크로 구현된 해리슨 포드와 국민 MC 송해 11
그림 12. 카린 AI 12
그림 13. 슈퍼 개인의 생성 프레임(좌)과 1인 개발자가 만든 매너 로드게임(우) 13
