□ 정부는 9월 8일 이재명 대통령이 이끄는 국가인공지능(AI) 전략위원회 첫 회의에서 내년 1월 시행 예정인 인공지능(AI) 기본법 하위법령 제정 방향을 공개함
ㅇ AI 기본법은 지난해 12월 통과되었으며, 유럽연합(EU)에 이어 세계 두 번째로 제정된 인공지능 관련 법안임
ㅇ 정부는 AI 산업 발전과 안전·신뢰 기반 구축이라는 두 가치를 균형 있게 반영하면서도, 규제보다는 진흥에 무게를 둔 합리적인 규제체계를 도입한다는 방침임
ㅇ 과학기술정보통신부는 올해 1월부터 민간전문가 80여 명으로 구성된 '하위법령 정비단'을 운영하며 총 74차례의 의견수렴 과정을 거쳐 하위법령 초안을 마련함
ㅇ 하위법령은 시행령 1개와 고시 2개, 가이드라인 5개 (▲고영향AI 기준·예시 가이드 ▲고영향AI 사업자책무 고시 및 가이드 ▲ AI 안전성 확보 의무 고시 및 가이드 ▲AI 투명성 확보 가이드 ▲AI 영향평가 가이드)로 구성됨
□ AI 기본법 시행령 초안은 생성형·고영향 AI의 투명성과 안전성 확보 의무를 명확히 규정함
ㅇ 생성형 AI 투명성 확보:
- 생성형 AI에는 사전 고지와 결과물 워터마크 표시를 의무화하며, 약관·사용자인터페이스(UI) 활용 사전고지나 사람 눈에 보이지 않지만, 기계가 AI 생성물임을 자동으로 알아차리는 비가시적 워터마크도 표식으로 인정 등 유연한 이행 방법을 허용함
- 특히 딥페이크 결과물에 대해서는 연령이나 장애 여부 등 이용자의 신체적 조건을 고려해 딥페이크임을 표시해야 함
- 다만, 사업자 내부 업무용이거나 생성형·고영향 AI 기반이 명백한 경우에는 표시 의무가 면제됨
ㅇ 고영향 AI 안전 및 신뢰성 확보:
- 고영향 AI는 기본권에 중대한 영향을 미치는 AI 시스템인 만큼, 사용 영역이나 기본권에 대한 위험의 영향·중대성·빈도, 활용 영역별 특수성 등을 종합적으로 고려하여 판단함
- 위험 식별·평가·완화 조치와 영향평가를 실시하도록 하며, 신뢰성 확보 조치로 위험 관리 교육 방안, 관리 조직 운영안, 오작동 방지나 보안 대책 등 이용자 보호 방안을 마련해야 함
- 사업자가 고영향 AI 서비스를 제공할 경우 이용자 의견·문의에 대한 피드백 절차도 마련해야 함
- 고영향 AI는 일괄적인 적용보다는 인간 직원의 개입 없이 AI에 의해 완전 자율형으로 운영될 경우 고영향으로 간주하는 등 사용 맥락에 따라 규정하며, 구체적 기준은 AI 기본법 가이드라인에서 제시함
- AI 제품이나 서비스 제공 시 기본권에 미치는 영향 평가를 사업자가 자율적으로 할 수 있도록 하고, 고영향 AI는 영향 평가 실시에 노력해야 할 의무를 규정함
ㅇ 고성능 AI 안전 확보:
- 누적학습량이 10의 26제곱 플롭스(FLOPS) 이상(누적 연산량 기준)인 AI시스템 중 고도화된 기술을 적용한 AI 시스템은 기능 오류나 데이터 편향 등 위험 요소를 확인하고 긴급 대응 계획 등을 수립하는 등 안전 확보 의무를 부담함
□ 정부는 AI 산업 기업의 부담을 완화하고 자발적 참여를 유도하기 위한 지원 방안을 추진함
ㅇ AI 사전 고지를 이행하지 않거나 일정 기준 이상인 해외사업자가 국내 대리인을 지정하지 않았을 경우, 또는 AI 기본법 위반에 따른 시정 명령을 따르지 않았을 때 3천만원 이하의 과태료가 부과됨
ㅇ 시행 초기에는 투명성 고지 미이행, 해외사업자의 국내 대리인 미지정, 시정명령 불이행 등에 대해 과태료 계도 기간을 운영하며, 행정지도 중심으로 적용하여 사실상 규제 유예 효과를 줌
ㅇ 위반 사항이 발견되더라도 계도 기간 중에는 과태료를 부과하지 않고 행정지도 및 안내 조치만 시행할 방침임
ㅇ 안전·신뢰 검·인증 및 영향평가에 대해서는 컨설팅, 비용 지원 등의 인센티브를 부여해 기업의 자발적 참여를 유도하며, 2026년 관련 지원 예산 20억3000만원을 확보함
ㅇ AI 산업 육성을 목표로 연구개발(R&D), 데이터 구축, AI 도입·활용 등 분야에서 정부 지원의 근거 규정이 AI 기본법에 마련됨
ㅇ 과학기술정보통신부는 이달 중 이해관계자 의견수렴을 거쳐 시행령 초안을 확정하고, 10월 초 입법예고를 진행하며, 12월에는 시행령과 고시를 최종 확정하고 가이드라인을 완성해 내년 1월 법 시행에 맞출 예정
(출처: 뉴시스, 연합뉴스)
ㅇ AI 기본법은 지난해 12월 통과되었으며, 유럽연합(EU)에 이어 세계 두 번째로 제정된 인공지능 관련 법안임
ㅇ 정부는 AI 산업 발전과 안전·신뢰 기반 구축이라는 두 가치를 균형 있게 반영하면서도, 규제보다는 진흥에 무게를 둔 합리적인 규제체계를 도입한다는 방침임
ㅇ 과학기술정보통신부는 올해 1월부터 민간전문가 80여 명으로 구성된 '하위법령 정비단'을 운영하며 총 74차례의 의견수렴 과정을 거쳐 하위법령 초안을 마련함
ㅇ 하위법령은 시행령 1개와 고시 2개, 가이드라인 5개 (▲고영향AI 기준·예시 가이드 ▲고영향AI 사업자책무 고시 및 가이드 ▲ AI 안전성 확보 의무 고시 및 가이드 ▲AI 투명성 확보 가이드 ▲AI 영향평가 가이드)로 구성됨
□ AI 기본법 시행령 초안은 생성형·고영향 AI의 투명성과 안전성 확보 의무를 명확히 규정함
ㅇ 생성형 AI 투명성 확보:
- 생성형 AI에는 사전 고지와 결과물 워터마크 표시를 의무화하며, 약관·사용자인터페이스(UI) 활용 사전고지나 사람 눈에 보이지 않지만, 기계가 AI 생성물임을 자동으로 알아차리는 비가시적 워터마크도 표식으로 인정 등 유연한 이행 방법을 허용함
- 특히 딥페이크 결과물에 대해서는 연령이나 장애 여부 등 이용자의 신체적 조건을 고려해 딥페이크임을 표시해야 함
- 다만, 사업자 내부 업무용이거나 생성형·고영향 AI 기반이 명백한 경우에는 표시 의무가 면제됨
ㅇ 고영향 AI 안전 및 신뢰성 확보:
- 고영향 AI는 기본권에 중대한 영향을 미치는 AI 시스템인 만큼, 사용 영역이나 기본권에 대한 위험의 영향·중대성·빈도, 활용 영역별 특수성 등을 종합적으로 고려하여 판단함
- 위험 식별·평가·완화 조치와 영향평가를 실시하도록 하며, 신뢰성 확보 조치로 위험 관리 교육 방안, 관리 조직 운영안, 오작동 방지나 보안 대책 등 이용자 보호 방안을 마련해야 함
- 사업자가 고영향 AI 서비스를 제공할 경우 이용자 의견·문의에 대한 피드백 절차도 마련해야 함
- 고영향 AI는 일괄적인 적용보다는 인간 직원의 개입 없이 AI에 의해 완전 자율형으로 운영될 경우 고영향으로 간주하는 등 사용 맥락에 따라 규정하며, 구체적 기준은 AI 기본법 가이드라인에서 제시함
- AI 제품이나 서비스 제공 시 기본권에 미치는 영향 평가를 사업자가 자율적으로 할 수 있도록 하고, 고영향 AI는 영향 평가 실시에 노력해야 할 의무를 규정함
ㅇ 고성능 AI 안전 확보:
- 누적학습량이 10의 26제곱 플롭스(FLOPS) 이상(누적 연산량 기준)인 AI시스템 중 고도화된 기술을 적용한 AI 시스템은 기능 오류나 데이터 편향 등 위험 요소를 확인하고 긴급 대응 계획 등을 수립하는 등 안전 확보 의무를 부담함
□ 정부는 AI 산업 기업의 부담을 완화하고 자발적 참여를 유도하기 위한 지원 방안을 추진함
ㅇ AI 사전 고지를 이행하지 않거나 일정 기준 이상인 해외사업자가 국내 대리인을 지정하지 않았을 경우, 또는 AI 기본법 위반에 따른 시정 명령을 따르지 않았을 때 3천만원 이하의 과태료가 부과됨
ㅇ 시행 초기에는 투명성 고지 미이행, 해외사업자의 국내 대리인 미지정, 시정명령 불이행 등에 대해 과태료 계도 기간을 운영하며, 행정지도 중심으로 적용하여 사실상 규제 유예 효과를 줌
ㅇ 위반 사항이 발견되더라도 계도 기간 중에는 과태료를 부과하지 않고 행정지도 및 안내 조치만 시행할 방침임
ㅇ 안전·신뢰 검·인증 및 영향평가에 대해서는 컨설팅, 비용 지원 등의 인센티브를 부여해 기업의 자발적 참여를 유도하며, 2026년 관련 지원 예산 20억3000만원을 확보함
ㅇ AI 산업 육성을 목표로 연구개발(R&D), 데이터 구축, AI 도입·활용 등 분야에서 정부 지원의 근거 규정이 AI 기본법에 마련됨
ㅇ 과학기술정보통신부는 이달 중 이해관계자 의견수렴을 거쳐 시행령 초안을 확정하고, 10월 초 입법예고를 진행하며, 12월에는 시행령과 고시를 최종 확정하고 가이드라인을 완성해 내년 1월 법 시행에 맞출 예정
(출처: 뉴시스, 연합뉴스)
해시태그
참고자료
- AI 기본법 시행령 초안 공개…딥페이크 표시 의무화 (2025.09.08.) / 연합뉴스
- '진흥' 힘 싣고 '규제' 최소화…AI기본법 시행령 내달 입법예고 (2025.09.08.) / 뉴시스