□ 의회조사국(CRS)은 생성형 AI의 용도 및 우려사항, 관련하여 의회가 고려해야 될 사항에 대한 보고서를 발표
□ 최근 생성형 AI 시스템의 규모가 커지면서 이전에 비해 기능이 크게 향상되어 Open AI의 ChatGPT와 같이 이메일, 에세이, 일상 대화 등 다양한 텍스트 출력을 생성할 수 있는 대화형 AI 챗봇이 등장
□ 한편 생성형 AI의 유용성에도 불구하고 생성형 AI는 '지어내기 경향'이라고 불리는 허위 정보의 생성, 증폭과 같은 신뢰 문제가 발생
- 또한 생성형 AI 사용 증가에 따라 일자리 및 생산성과 관련하여 새로운 일자리 창출 혹은 기존 근로자 대체의 문제가 제기됨
□ 연방기관 및 의회도 업무에 생성형 AI 활용을 시도하고 있으며, 그에 따라 다음의 잠재적 질문에 대한 고려사항의 검토가 필요
- (편견 및 사용 윤리) 민간 및 공공 부문에서 관련 연방 지침 문서 등을 활용한 생성형 AI 시스템의 편견 및 위험 문제 관리 여부 및 고위험 시나리오에서 생성형 AI 모델의 배포 제한 여부
- (테스트 및 투명성) ChatGPT-4, PaLM2와 같은 비공개, 독점 모델에 대한 독립적인 테스트 및 결과 보고 요구 여부 및 방법
- (경제 및 인력 영향) 생성형 AI로 인한 노동 시장 변화 연구 업데이트 및 직무 변화에 대한 인력 재교육 및 숙련도 향상 지원 방법
- (연구 및 경쟁) 생성형 AI 모델의 막대한 학습 비용, 독점적 데이터 사용, 방대한 컴퓨팅 성능에 대한 접근성 문제로 최첨단 머신러닝을 훈련할 수 있는 기업과 그렇지 않은 기업(예: 비영리 단체, 스타트업, 대학) 간 격차 문제가 발생할 수 있음에 따른 데이터, 교육 및 컴퓨팅 리소스에 대한 접근 지원 방법
- (감독 및 규제) 혁신과 국제 경쟁력을 확보하면서 생성형 AI 기술을 규제하기 위한 방안
(출처: 한국과학기술기획평가원)
□ 최근 생성형 AI 시스템의 규모가 커지면서 이전에 비해 기능이 크게 향상되어 Open AI의 ChatGPT와 같이 이메일, 에세이, 일상 대화 등 다양한 텍스트 출력을 생성할 수 있는 대화형 AI 챗봇이 등장
□ 한편 생성형 AI의 유용성에도 불구하고 생성형 AI는 '지어내기 경향'이라고 불리는 허위 정보의 생성, 증폭과 같은 신뢰 문제가 발생
- 또한 생성형 AI 사용 증가에 따라 일자리 및 생산성과 관련하여 새로운 일자리 창출 혹은 기존 근로자 대체의 문제가 제기됨
□ 연방기관 및 의회도 업무에 생성형 AI 활용을 시도하고 있으며, 그에 따라 다음의 잠재적 질문에 대한 고려사항의 검토가 필요
- (편견 및 사용 윤리) 민간 및 공공 부문에서 관련 연방 지침 문서 등을 활용한 생성형 AI 시스템의 편견 및 위험 문제 관리 여부 및 고위험 시나리오에서 생성형 AI 모델의 배포 제한 여부
- (테스트 및 투명성) ChatGPT-4, PaLM2와 같은 비공개, 독점 모델에 대한 독립적인 테스트 및 결과 보고 요구 여부 및 방법
- (경제 및 인력 영향) 생성형 AI로 인한 노동 시장 변화 연구 업데이트 및 직무 변화에 대한 인력 재교육 및 숙련도 향상 지원 방법
- (연구 및 경쟁) 생성형 AI 모델의 막대한 학습 비용, 독점적 데이터 사용, 방대한 컴퓨팅 성능에 대한 접근성 문제로 최첨단 머신러닝을 훈련할 수 있는 기업과 그렇지 않은 기업(예: 비영리 단체, 스타트업, 대학) 간 격차 문제가 발생할 수 있음에 따른 데이터, 교육 및 컴퓨팅 리소스에 대한 접근 지원 방법
- (감독 및 규제) 혁신과 국제 경쟁력을 확보하면서 생성형 AI 기술을 규제하기 위한 방안
(출처: 한국과학기술기획평가원)
