로그아웃 하시겠습니까?

  • 주제별 국가전략
  • 전체

Emerging Processes for Frontier AI Safety
(프론티어 AI 안전을 위한 새로운 프로세스)

□ 영국 정부는 11월 1~2일 G7 국가를 비롯한 주요 국가 정부 고위 관계자와 테크 기업 임원, 인공지능(AI) 전문가를 모아 첫 AI 안보 정상회의(AI Security Summit)를 개최함. 영국 과학혁신기술부는 AI 안보 정상회의에 앞서 '프론티어 AI 안전을 위한 새로운 프로세스'라는 제목의 보고서를 발간함

□ '프론티어 AI'란 지난 7월 AI 거버넌스 센터의 정책 책임자 마커스 안더융 박사가 발표한 논문에 등장한 개념으로, 위험한 능력을 발휘할 수 있는 고도의 기초 모델을 의미함. 논문에 따르면 기초 모델은 일종의 생성 AI이며, 이러한 모델을 의도적으로 계속해서 만들어낼 경우 신체적 피해에서부터 세계적 규모의 사회 붕괴까지 다양한 위험을 초래할 수 있다고 경고함

□ 보고서는 AI 기술에 대한 적절한 보호 장치가 없다면 사회 전반에 걸쳐 상당한 위험을 초래할 수 있다고 경고하고 있음. 이에 영국 정부는 프론티어 AI 조직을 신설하고, 인공지능 기술의 오용, 통제력 상실, 사회적 피해 등 최첨단 AI로 인한 위험을 잘 관리하여 해결하고, 첨단 AI 개발 및 배포의 안전성을 높이는 데 중요한 역할을 하겠다고 밝혔음

[출처]
Leading frontier AI companies publish safety policies (2023.10.27.) / U.K. Department for Science, Innovation & Technology
영국 과기부, AI 안전 서밋 개최 앞서 '프론티어 AI' 중심 기조 발표 (2023.09.05.) / IT World

목차

Executive Summary  2
Key terms 8
Responsible Capability Scaling  9
  Summary  9
  Background  10
  Practices  10
Model Evaluations and Red Teaming  15
  Summary  15
  Background  15
  Practices  16
Model Reporting and Information Sharing  19
  Summary  19
  Background  19
  Practices  20
Security Controls Including Securing Model Weights 24
  Summary  24
  Background  25
  Practices  25
Reporting Structure for Vulnerabilities  29
  Summary  29
  Background  29
  Practices  30
Identifiers of AI-Generated Material  32
  Summary  32
  Background  32
  Practices  33
Prioritising Research on Risks Posed by AI  34
  Summary  34
  Background  34
  Practices  35
Preventing and Monitoring Model Misuse  37
  Summary  37
  Background  37
  Practices  38
Data Input Controls and Audits  41
  Summary  41
  Background  41
  Practices  42
Acknowledgements  45

제목 페이지

내용물

약어 및 두문자어 5

요약 7

소개: 제조업과 미국의 미래 8

고급 제조를 위한 비전, 목표, 목표 및 권장 사항 9

목표, 목표 및 권장 사항 10

목표 1. 첨단 제조 기술 개발 및 구현 12

목표 1.1. 탈탄소화를 지원하기 위한 깨끗하고 지속 가능한 제조 활성화 12

목표 1.2. 마이크로일렉트로닉스 및 반도체용 제조 가속화 13

목표 1.3. 바이오경제를 지원하는 첨단 제조 구현 14

목표 1.4. 혁신소재 및 공정기술 개발 15

목표 1.5. 스마트 제조의 미래를 이끌다 16

목표 2. 첨단 제조 인력 육성 17

목표 2.1. 첨단 제조 인재 풀 확대 및 다양화 18

목표 2.2. 고급 제조 교육 및 훈련 개발, 확장 및 촉진 19

목표 2.3. 고용주와 교육 기관 간의 연결 강화 20

목표 3. 제조 공급망에 탄력성 구축 20

목표 3.1. 공급망 상호 연결 강화 21

목표 3.2. 제조 공급망 취약성을 줄이기 위한 노력 확대 21

목표 3.3. 첨단 제조 생태계 강화 및 활성화 22

추가 기관 간 기여자 24

부록 A. 에이전시 참여 및 지표 25

부록 B. 2018 전략 계획의 목표 달성 과정 27

부록 C. 자세한 권장 사항 33

해시태그

#인공지능규제 #AI규제 #인공지능정책 #프론티어AI

관련자료