국가전략포털

□ 트럼프, AI 기업과 프런티어 모델 안전관리 합의

ㅇ 도널드 트럼프 미국 대통령은 9월 29일 백악관에서 주요 AI 기업 최고경영자들과 오찬을 갖고, 프런티어 AI의 안전관리에 관한 ‘프런티어 책임에 관한 공동 약속’을 자신의 트루스소셜 계정에 공개함

ㅇ 트럼프 대통령은 회동에서 업계의 자율규제가 매우 중요하다고 밝혔으며, 새로운 연방 규제 도입보다는 기존 법률의 집행과 기업의 자체적인 안전관리 책임을 강조함

ㅇ 구글·엔트로픽·메타·오픈AI·스페이스XAI·엔비디아 경영진 등이 합의에 참여했으며, 시스템 안전을 위한 기준과 모범사례를 마련하기 위해 정기적으로 협의하기로 함

□ 내부통제부터 이사회 감독까지 4단계 통제·감사 체계 구축

ㅇ 참여 기업들은 사이버보안·바이오보안·화학 위협 등을 포함해 모델의 역량과 정렬 상태를 점검하고, 모델이 의도하지 않은 방식으로 시스템을 해킹하거나 접근하지 않도록 내부통제를 구축하기로 함

ㅇ 기업 내부에는 통제·모니터링·탐지 체계를 운영하고 문제를 시정하는 내부팀을 운영하며, 독립적인 외부 감사인이나 평가자을 통해 해당 체계의 작동 여부를 별도로 평가하기로 함

ㅇ 이사회 산하에 독립위원회를 지정해 내부팀과 외부 감사·평가 보고를 받고 확인된 문제의 시정 여부를 감독하도록 함

ㅇ 합의문은 향후 이러한 조치를 법률이나 규정으로 성문화할 가능성도 제시함

□ 행정부 공식 용어를 ‘AI’에서 ‘SI’로 변경

ㅇ 트럼프 대통령은 같은 날 ‘슈퍼 인텔리전스 시대의 개막’ 행정명령에 서명하여 연방 행정부가 공식 서신·웹사이트·보고서·정책문서 등에서 ‘인공지능(AI)’ 대신 ‘슈퍼 인텔리전스(SI)’를 사용하도록 지시함

ㅇ 행정명령은 우선 현행 연방법상 AI에 해당하는 기술과 시스템을 SI로 규정했으며, 기존 규정·대통령 조치·계약·보조금 등의 과거 문서를 변경하도록 요구하지는 않음

ㅇ 대통령 과학기술보좌관(APST)이 60일 이내에 SI의 연방 차원 정의와 기존 법률상 AI 정의의 수정·확대·대체 여부 등을 담은 입법 문안을 제출하도록 함

□ ‘AI→SI’ 명칭 변경과 전문가 반응

ㅇ 트럼프 대통령은 앞서 9월 22일 유엔총회 연설에서 AI 대신 SI를 사용하겠다고 제안했으며, 행정부 관계자들도 이후 SI라는 표현을 사용하기 시작함

ㅇ 다만 ‘superintelligence’는 기존 기술·철학계에서 인간의 인지능력을 광범위하게 넘어서는 미래 지능을 뜻하는 용어로 사용되어 옴

ㅇ BBC가 인터뷰한 전문가들은 현재 AI 전체를 SI로 부르면 기존 용례와 혼동되거나 현재 기술의 역량을 과장할 수 있다며, 기술계 전반에 정착할지는 불확실하다고 평가함