국가전략정보포털

표제지

목차

요약 4

Ⅰ. 개요 5

1-1. ChatGPT 5

1-2. ChatGPT에 대한 평가 9

Ⅱ. ChatGPT 보안 이슈 및 활용ㆍ규제 동향 11

2-1. 보안 이슈 동향 11

2-2. 활용ㆍ규제 동향 15

Ⅲ. ChatGPT 주요 보안 위협 분석 20

3-1. 피싱 메일 및 악성코드 생성 20

3-2. 민감정보 유출과 결과물 오남용 25

3-3. 인공지능에 대한 공격 27

Ⅳ. 시사점 28

4-1. 악용에 대한 선제적 대응 28

4-2. 안전한 활용 및 도입 촉진 28

4-3. 인공지능 보안 정책 마련 29

[표 1] OpenAI 주요 인공지능 모델 6

[표 2] GPT 버전별 비교 7

[표 3] 국내ㆍ외 주요 초거대 인공지능 모델 현황 8

[표 4] ChatGPT를 통해 생산성을 향상시킬 수 있는 비즈니스 분야 9

[표 5] 산업 분야별 초거대 AI 적용 사례 및 전망 9

[표 6] ChatGPT 주요 한계점 10

[표 7] 사이버보안에서 ChatGPT의 긍정적ㆍ부정적 활용 방안 13

[표 8] 그 외 해외 주요국 동향 17

[표 9] 그 외 해외 기업 동향 18

[표 10] 그 외 국내 동향 19

(그림 1) 인간 피드백 기반 강화 학습 7

(그림 2) 주요 서비스 100만 사용자 달성 기간 8

(그림 3) 해킹 커뮤니티에 올라온 악성코드 및 암호화도구 관련 게시물 12

(그림 4) 1분만에 ChatGPT로 작성한 4개국어 메일 작성 예시 20

(그림 5) ChatGPT가 생성한 공격 스크립트(좌) 및 ChatGPT를 활용한 악성코드 생성 서비스 광고(우) 21

(그림 6) ChatGPT에게 물어본 웹페이지 사이버 공격 수단 24

(그림 7) OpenAI 개인정보 정책 25

(그림 8) 모델 개선에 사용자가 제공한 데이터를 활용 25

(그림 9) 채팅 저장 및 모델 개선 활용 여부 설정 26

(그림 10) OpenAI - API 데이터 사용 정책 26

(그림 11) ChatGPT 잘못된 답변 사례 27