미 국방부가 니콜라스 마두로 베네수엘라 대통령 체포·압송작전에 활용된 인공지능(AI) ‘클로드’를 개발한 앤트로픽사와 계약 해지를 검토하고 있다고 정치전문매체 악시오스가 14일 보도했다.

AI를 전장에서 활용하는 ‘윤리 문제’ 등을 놓고 미 국방부와 앤트로픽이 대립하면서다.

보도에 따르면 국방부는 무기 개발, 정보수집, 전장에서의 작전 수행 등 민감한 분야에서 합법적으로 AI를 쓰고자 앤트로픽과 지난 수 개월간 협상을 진행했으나 지지부진한 상황이다.

앤트로픽은 미국인에 대한 전방위적인 감시, 완전 자율형 무기 체계 사용 등에서 자사의 AI 프로그램인 클로드를 사용해선 안된다는 입장을 고수해왔다.

영리화에 비판적이었던 오픈 AI 출신 직원들이 설립한 앤트로픽은 평소 ‘안전하고 윤리적인 AI’를 표방하며 자사 모델이 살상 무기 개발이나 폭력적인 군사 작전에 직접적으로 사용되는 것을 제한하는 엄격한 가이드라인을 유지해 왔다.

그러나 지난달 미군이 마두로 체포·압송작전인 ‘확고한 결의’에 클로드를 활용하자 국방부와 앤트로픽 간 갈등이 격화한 것으로 전해졌다.

국방부 측은 앤트로픽이 주장하는 금지영역에 상당한 ‘회색지대’가 존재한다는 입장이다.

개별 사례가 발생할 때마다 매번 앤트로픽과 협상을 진행할 수도 없을 뿐 아니라 ‘클로드’가 예기치 않게 특정 애플리케이션을 차단하도록 내버려 두는 것도 현실적으로는 불가능하다는 것이다.

이처럼 기밀 네트워크에서 사용 중인 앤트로픽사의 ‘클로드’를 대체하기가 쉽지 않은 상황이지만, 국방부는 다른 인공지능 업체와도 적극적으로 협상 중이다. 현재 오픈 AI(챗GPT), 구글(제미나이), xAI(그록) 측이 거명되고 있다.