□ 챗GPT 개발사 오픈AI는 5월 30일(현지 시간) 「AI와 은밀한 영향력 행사 : 최신 동향」 보고서를 발간하고 “인터넷상의 '기만적인 활동(deceptive activity)'에 우리의 AI 모델을 이용하려는 5건의 은밀한 시도를 확인했다”며, “러시아 2곳과 중국, 이란, 이스라엘 그룹을 차단했다”고 밝힘
□ 오픈AI는 “위협 행위자들(threat actors)이 지난 3개월 동안 우리의 AI 모델을 사용해 짧은 댓글과 다양한 언어로 된 긴 기사를 만들고, 가짜 소셜미디어 계정을 만들었다”며, 특히 이들이 우크라이나 및 가자 전쟁, 인도 선거, 유럽과 미국의 정치 등의 문제에 초점을 맞춰 여론을 조작하거나 정치적 결과에 영향을 미치려 했다고 설명함
□ 보고서는 중국이 지난해 후쿠시마 오염수 방출 관련 기사를 한국어를 비롯해 영어와 일본어, 중국어, 러시아어로 번역해 일본 비난에 이용했다고 설명하였으며, 러시아는 미국이 우크라이나를 지원해서는 안 된다고 주장하는 게시물과 댓글 생성에 챗GPT를 이용했다고 언급함. 이스라엘의 정치 캠페인 기업은 미국과 캐나다인을 겨냥해 가자 전쟁에 대한 친이스라엘 게시물을 생성하는 데 오픈AI 기술을 사용한 것으로 파악된다고 밝힘
[출처] 정보 전쟁 무기된 챗GPT...“러·중, AI로 허위 콘텐츠 만들어 여론전” (2024.05.31.) / 문화일보
□ 오픈AI는 “위협 행위자들(threat actors)이 지난 3개월 동안 우리의 AI 모델을 사용해 짧은 댓글과 다양한 언어로 된 긴 기사를 만들고, 가짜 소셜미디어 계정을 만들었다”며, 특히 이들이 우크라이나 및 가자 전쟁, 인도 선거, 유럽과 미국의 정치 등의 문제에 초점을 맞춰 여론을 조작하거나 정치적 결과에 영향을 미치려 했다고 설명함
□ 보고서는 중국이 지난해 후쿠시마 오염수 방출 관련 기사를 한국어를 비롯해 영어와 일본어, 중국어, 러시아어로 번역해 일본 비난에 이용했다고 설명하였으며, 러시아는 미국이 우크라이나를 지원해서는 안 된다고 주장하는 게시물과 댓글 생성에 챗GPT를 이용했다고 언급함. 이스라엘의 정치 캠페인 기업은 미국과 캐나다인을 겨냥해 가자 전쟁에 대한 친이스라엘 게시물을 생성하는 데 오픈AI 기술을 사용한 것으로 파악된다고 밝힘
[출처] 정보 전쟁 무기된 챗GPT...“러·중, AI로 허위 콘텐츠 만들어 여론전” (2024.05.31.) / 문화일보
목차
Introduction 3
Building safe, reliable, and trustworthy AI 4
A multi-pronged approach to disrupting threat actors 5
Threats and trends in 2024 6
Attacker trends 7
Content generation 7
Mixing old and new 8
Faking engagement 8
Productivity gains 9
Defender trends 9
Defensive design 9
AI for defenders 10
Distribution matters 10
The importance of sharing 11
The human element 11
Case studies 13
Bad grammar 13
Doppelganger 17
Spamouflage 23
International Union of Virtual Media (IUVM) 28
Zero zeno 31
