미국에서 앞으로 GPT·클로드·제미나이와 같은 인공지능(AI) 모델을 출시하려면 정부 기관의 검증을 통과해야 할 것으로 전망된다. 역대 최강으로 평가받는 앤스로픽 모델 ‘미토스’ 파장이 확산되면서 도널드 트럼프 행정부가 AI 사전검증제를 추진하고 있기 때문이다. 미토스 악용 가능성에 따른 부정적 여론을 의식한 트럼프 대통령이 그간 추진한 AI 규제 완화를 뒤집고 있다는 분석이 나온다.

뉴욕타임스(NYT)는 4일 정부 관계자를 인용해 백악관이 AI 실무 조직을 꾸린 뒤 기술기업 임원진, 부처 담당자들과 AI 감독 절차를 도입하기 위한 논의에 착수할 것이라고 보도했다. 월스트리트저널(WSJ)은 이번 계획에 ‘AI 모델 표준’이 포함될 수 있다면서 트럼프 대통령의 행정명령을 통해 내용이 공개될 예정이라고 전했다.

의무화 논의와 별개로 빅테크와 자율 협약 형식으로 AI 모델 배포 전 사전 검증은 이뤄질 방침이다. 미 상무부 산하 인공지능 표준혁신센터(CAISI)는 구글 딥마인드·마이크로소프트·xAI와 협약을 체결하고 정부가 AI 모델을 공개하기 전에 평가하도록 지원할 예정이라고 5일 밝혔다. 크리스 폴 CAISI 센터장은 “이는 국가 안보에 미치는 영향을 이해하는 데 필수적”이라고 설명했다.

2022년 오픈AI가 전 세계 첫 AI 모델인 챗GPT를 출시한 후 빅테크 기업들은 자유롭게 AI 모델을 내놓았고 최근에는 두 달에 하나꼴로 새 모델을 선보이고 있다. 이들 중 다수는 정부에 AI 모델을 보급해왔는데 출시 속도는 물론 배포에도 제동이 걸릴 것으로 예상된다. 악시오스는 국방부(전쟁부)가 연방정부와 주정부에 배포되는 AI 모델의 안전성 검사를 의무화하는 방안이 검토되고 있다고 보도했다.

백악관은 전 세계에서 최초로 AI 검증을 도입한 영국처럼 정부 지정 감독 기관이 검증하는 방식을 살펴보고 있다. NYT는 국가안보국(NSA), 백악관 국가사이버국, 국가정보국 등이 감독 기구로 거론된다고 설명했다. 전임 조 바이든 행정부에서 설립됐다가 트럼프 행정부에서 존재감이 미미해진 AI 표준혁신센터도 검증 기구 후보로 꼽힌다. 다만 영국은 법적 구속력이 약한 기업 자율 참여 방식인 데다 AI 표준 모델도 없어 백악관보다 강도가 약하다.

AI 사전검증제는 바이든 행정부의 AI 규제를 폐지했던 트럼프 대통령의 정책이 달라졌음을 의미한다. 트럼프 대통령은 군사적 용도에 활용될 수 있는 AI 모델의 안전성 평가 및 보고 의무화를 백지화하고 주정부의 AI 규제 권한을 제한하는 행정명령에 서명했다. 지난해 7월 AI 행동 계획 발표 때는 “AI는 갓 태어난 아름다운 아기와 같다. 이 아기를 키우고 번성하게 해야 한다. 정치로도, 어리석은 규칙으로도 막을 수 없다”고 강조했다.

트럼프 대통령의 변심은 앤스로픽이 지난달 공개한 미토스의 영향이 컸다는 분석이 나온다. 미토스는 27년 동안 알아내지 못한 버그(소프트웨어 결함)를 찾아낼 만큼 보안에서 역대 최강의 성능을 자랑하지만 해킹에 악용될 경우 심각한 개인정보 유출과 시스템 마비를 초래할 수 있다. 이러한 우려 때문에 앤스로픽은 일부 정부 기관과 대형 은행 등에만 제한적으로 미토스 프리뷰(미리 보기)를 제공했다. 조만간 오픈AI 등 경쟁사들도 미토스급 모델을 내놓을 것으로 전망된다.

올해 중간선거를 앞두고 AI로 인한 부정적 민심이 확산한 것도 결정적 계기가 됐다. AI 수요 급증에 따른 데이터센터 확산으로 전력난이 심해지고 전기료가 급등했기 때문이다. AI가 일자리를 빼앗고 사생활 침해와 정신적 피해까지 가중시킨다는 우려도 커졌다. 올해 3월 NBC 여론조사에서 등록 유권자의 57%는 AI의 위험성이 이점보다 크다고 답했다.

이번 일 이전에도 트럼프 행정부는 AI의 군사적 활용을 둘러싼 앤스로픽과의 갈등을 계기로 AI 장악력을 키워왔다. WSJ는 앤스로픽이 미토스 프리뷰 제공처를 50곳에서 120곳으로 늘리려다 백악관이 반대했다면서 이는 정부 개입 확대를 의미한다고 보도했다.

<실리콘밸리=신창영 특파원>