표제지 1

목차 2

01. AI의 트렌드 전환과 신뢰 확보 필요성 3

1. 스스로 판단하고 실행하는 에이전틱 AI 3

02. 에이전틱 AI의 특성과 위험 유형 5

1. 에이전틱 AI 특성 및 위험 유형 5

2. 에이전틱 AI 위험과 향후 방향성 6

03. 관련 주요국 제도 현황 조사 7

1. 주요국(EU, 싱가포르, 미국, 한국) 제도 현황 7

04. 신뢰 기반 자율성 확보를 위한 설계 수단 11

1. 에이전트의 실행 환경을 설계하는 하네스 엔지니어링 11

2. 신뢰 기반의 에이전틱 AI 자율성 확보 방안 13

3. 하네스 엔지니어링 관련 사례 17

05. 종합 정리 및 정책적 방향성 19

1. 종합 정리 19

2. 정책적 방향성 20

참고자료 23

판권기 26

[표 1-1] AI 에이전트 사고ㆍ오류 사례 3

[표 2-1] 에이전틱 AI 주요 특징 5

[표 2-2] 에이전틱 AI 구성 요소 5

[표 2-3] 에이전틱 AI 위험 유형 6

[표 3-1] EU, AI Act 신뢰성 확보 관련 주요 조항 7

[표 3-2] 한국, AI 기본법 신뢰성 확보 주요 조항 8

[표 3-3] 싱가포르, MGF 신뢰성 확보 관련 지침 9

[표 3-4] 미국, AI RMF 신뢰성 확보 관련 지침 10

[표 4-1] 설계 방식 비교 11

[표 4-2] 레이어 및 핵심 요소 12

[표 4-3] 하네스 엔지니어링을 통한 개선 내용 17

[표 4-4] 실험 과정에서의 개발팀 역할 18

[표 4-5] Azure SRE Agent 개요 18

[표 5-1] AI 벤치마크 예시 21

[그림 5-1] 최근 AI 관련 사고 현황('25.1.~'26.6.) 19