□ AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI가 미국 국무부의 의뢰를 받아 「첨단AI의 안전성과 보안성을 높이기 위한 방안」이라는 제목의 보고서를 발간함. 이 보고서는 가장 발전한 AI 시스템이 '인류 멸종 수준의 위협'이 될 수 있으며, 이를 방지하기 위해 미국 정부가 빠르게 개입해야 한다고 지적함
□ 보고서는 ”AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다”며, 고도로 발전한 AI의 핵심 위험 요소로 '무기화'와 '통제력 상실'을 꼽았음. 보고서는 ”AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”며, 이러한 위협에 대응하기 위한 방안으로 ① 새로운 AI 감독 기관과 긴급 규제 안전장치 마련, ② AI 모델 훈련에 사용할 수 있는 컴퓨터 성능 제한, ③ AI반도체 제조 및 수출 통제 강화 등의 방안을 제시함
[출처]
'AI 인류멸종 수준 위협될수도'…미 보고서의 섬뜩한 경고 (2024.03.13.) / 연합뉴스
“인류 멸종시킬 수도”... 美 보고서가 경고한 AI 핵심 위험 요소 2가지 (2024.03.14.) / 조선일보
[참고자료] An Action Plan to increase the safety and security of advanced AI / Gladstone AI
□ 보고서는 ”AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다”며, 고도로 발전한 AI의 핵심 위험 요소로 '무기화'와 '통제력 상실'을 꼽았음. 보고서는 ”AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”며, 이러한 위협에 대응하기 위한 방안으로 ① 새로운 AI 감독 기관과 긴급 규제 안전장치 마련, ② AI 모델 훈련에 사용할 수 있는 컴퓨터 성능 제한, ③ AI반도체 제조 및 수출 통제 강화 등의 방안을 제시함
[출처]
'AI 인류멸종 수준 위협될수도'…미 보고서의 섬뜩한 경고 (2024.03.13.) / 연합뉴스
“인류 멸종시킬 수도”... 美 보고서가 경고한 AI 핵심 위험 요소 2가지 (2024.03.14.) / 조선일보
[참고자료] An Action Plan to increase the safety and security of advanced AI / Gladstone AI
