□ AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI가 미국 국무부의 의뢰를 받아 「첨단AI의 안전성과 보안성을 높이기 위한 방안」이라는 제목의 보고서를 발간함. 이 보고서는 가장 발전한 AI 시스템이 '인류 멸종 수준의 위협'이 될 수 있으며, 이를 방지하기 위해 미국 정부가 빠르게 개입해야 한다고 지적함
□ 보고서는 ”AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다”며, 고도로 발전한 AI의 핵심 위험 요소로 '무기화'와 '통제력 상실'을 꼽았음. 보고서는 ”AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”며, 이러한 위협에 대응하기 위한 방안으로 ① 새로운 AI 감독 기관과 긴급 규제 안전장치 마련, ② AI 모델 훈련에 사용할 수 있는 컴퓨터 성능 제한, ③ AI반도체 제조 및 수출 통제 강화 등의 방안을 제시함
[출처]
'AI 인류멸종 수준 위협될수도'…미 보고서의 섬뜩한 경고 (2024.03.13.) / 연합뉴스
“인류 멸종시킬 수도”... 美 보고서가 경고한 AI 핵심 위험 요소 2가지 (2024.03.14.) / 조선일보
[참고자료] An Action Plan to increase the safety and security of advanced AI / Gladstone AI
□ 보고서는 ”AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다”며, 고도로 발전한 AI의 핵심 위험 요소로 '무기화'와 '통제력 상실'을 꼽았음. 보고서는 ”AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”며, 이러한 위협에 대응하기 위한 방안으로 ① 새로운 AI 감독 기관과 긴급 규제 안전장치 마련, ② AI 모델 훈련에 사용할 수 있는 컴퓨터 성능 제한, ③ AI반도체 제조 및 수출 통제 강화 등의 방안을 제시함
[출처]
'AI 인류멸종 수준 위협될수도'…미 보고서의 섬뜩한 경고 (2024.03.13.) / 연합뉴스
“인류 멸종시킬 수도”... 美 보고서가 경고한 AI 핵심 위험 요소 2가지 (2024.03.14.) / 조선일보
[참고자료] An Action Plan to increase the safety and security of advanced AI / Gladstone AI
해시태그
관련자료
AI 요약·번역·분석 서비스
AI를 활용한 보고서 요약·번역과 실시간 질의응답 서비스입니다.
Defense in Depth : An Action Plan to Increase the Safety and Security of Advanced AI
(첨단AI의 안전성과 보안성을 높이기 위한 방안)
국가전략포털에서 실시간 AI 질의응답 서비스를 시작합니다. 4가지 유형의 요약과 번역을 이용해보시고, 보고서에 대해 추가로 알고 싶은 내용이 있으면 채팅창을 통해 자유롭게 AI에게 물어볼 수 있습니다.
※ 제공하는 정보는 참고용이며, 정확한 사실 확인이 필요할 수 있습니다. 민감한 개인정보는 입력하지 마십시오.