
□ '프론티어 AI'란 지난 7월 AI 거버넌스 센터의 정책 책임자 마커스 안더융 박사가 발표한 논문에 등장한 개념으로, 위험한 능력을 발휘할 수 있는 고도의 기초 모델을 의미함. 논문에 따르면 기초 모델은 일종의 생성 AI이며, 이러한 모델을 의도적으로 계속해서 만들어낼 경우 신체적 피해에서부터 세계적 규모의 사회 붕괴까지 다양한 위험을 초래할 수 있다고 경고함
□ 보고서는 AI 기술에 대한 적절한 보호 장치가 없다면 사회 전반에 걸쳐 상당한 위험을 초래할 수 있다고 경고하고 있음. 이에 영국 정부는 프론티어 AI 조직을 신설하고, 인공지능 기술의 오용, 통제력 상실, 사회적 피해 등 최첨단 AI로 인한 위험을 잘 관리하여 해결하고, 첨단 AI 개발 및 배포의 안전성을 높이는 데 중요한 역할을 하겠다고 밝혔음
[출처]
Leading frontier AI companies publish safety policies (2023.10.27.) / U.K. Department for Science, Innovation & Technology
영국 과기부, AI 안전 서밋 개최 앞서 '프론티어 AI' 중심 기조 발표 (2023.09.05.) / IT World
목차
Executive Summary 2
Key terms 8
Responsible Capability Scaling 9
Summary 9
Background 10
Practices 10
Model Evaluations and Red Teaming 15
Summary 15
Background 15
Practices 16
Model Reporting and Information Sharing 19
Summary 19
Background 19
Practices 20
Security Controls Including Securing Model Weights 24
Summary 24
Background 25
Practices 25
Reporting Structure for Vulnerabilities 29
Summary 29
Background 29
Practices 30
Identifiers of AI-Generated Material 32
Summary 32
Background 32
Practices 33
Prioritising Research on Risks Posed by AI 34
Summary 34
Background 34
Practices 35
Preventing and Monitoring Model Misuse 37
Summary 37
Background 37
Practices 38
Data Input Controls and Audits 41
Summary 41
Background 41
Practices 42
Acknowledgements 45
제목 페이지
내용물
약어 및 두문자어 5
요약 7
소개: 제조업과 미국의 미래 8
고급 제조를 위한 비전, 목표, 목표 및 권장 사항 9
목표, 목표 및 권장 사항 10
목표 1. 첨단 제조 기술 개발 및 구현 12
목표 1.1. 탈탄소화를 지원하기 위한 깨끗하고 지속 가능한 제조 활성화 12
목표 1.2. 마이크로일렉트로닉스 및 반도체용 제조 가속화 13
목표 1.3. 바이오경제를 지원하는 첨단 제조 구현 14
목표 1.4. 혁신소재 및 공정기술 개발 15
목표 1.5. 스마트 제조의 미래를 이끌다 16
목표 2. 첨단 제조 인력 육성 17
목표 2.1. 첨단 제조 인재 풀 확대 및 다양화 18
목표 2.2. 고급 제조 교육 및 훈련 개발, 확장 및 촉진 19
목표 2.3. 고용주와 교육 기관 간의 연결 강화 20
목표 3. 제조 공급망에 탄력성 구축 20
목표 3.1. 공급망 상호 연결 강화 21
목표 3.2. 제조 공급망 취약성을 줄이기 위한 노력 확대 21
목표 3.3. 첨단 제조 생태계 강화 및 활성화 22
추가 기관 간 기여자 24
부록 A. 에이전시 참여 및 지표 25
부록 B. 2018 전략 계획의 목표 달성 과정 27
부록 C. 자세한 권장 사항 33