정부 부처에서 “귀사의 기술을 쓰고 싶다”는 연락을 해온다면 기업 대부분은 환호성을 지를 것이다. 계약 규모가 수천억 원이라면 머뭇거릴 이유도 없다. 그런데 “잠깐, 돈보다 원칙을 지키는 게 중요하다”며 거절한 이가 있다. 바로 인공지능(AI)기업 앤트로픽(Anthropic) 창업자 다리오 아모데이(43)다. 그는 미 국방부 제안에 자사 AI 기술을 대규모 국내 감시와 자율 살상 무기엔 쓰지 않겠다고 확약해줄 것을 요구하다 되레 ‘공급망 위험 기업’이 됐다. 도널드 트럼프 대통령은 모든 연방 기관에 앤트로픽과 거래하지 말 것을 지시했다. 아모데이는 소송으로 맞섰다.

■그는 사업 기회를 놓쳤지만 더 큰 평판을 얻었다. 앤트로픽의 AI 모델인 클로드(Claude) 앱은 다운로드가 폭증했다. 업계에선 AI가 전쟁 도구로 사용되는 데 대한 윤리 문제와 찬반 논란이 적잖았다. 영화 속 터미네이터가 현실화하는 걸 우려하는 아모데이는 무엇보다 안전한 AI를 만들어야 한다고 주장한다. ‘실리콘밸리의 철학자’로 불리는 이유다.

■ 반면 오픈AI의 샘 올트먼은 결이 다르다. 국방부와 협의, 앤트로픽 빈자리를 발 빠르게 꿰찼다. 그는 “군사 작전은 민간 기업이 관여할 사안이 아니다”는 입장이다. 사실 올트먼과 아모데이는 2016년부터 5년간 오픈AI에서 함께 일했다. 아모데이는 연구부문 부사장으로, GPT 개발에 핵심 역할을 했다. 그러나 안전을 우선하는 아모데이와 속도를 중시하는 올트먼은 자주 충돌했다. 결국 아모데이가 2021년 오픈AI를 나와 세운 게 바로 앤트로픽이다. 두 사람은 지난달 인도에서 열린 한 AI 행사 기념 촬영에서도 바로 옆에 섰지만 서로 외면한 채 손잡기를 거부했다.

■미군은 이란과의 전쟁에서 첨단 AI 도구를 활용, 예전엔 며칠이 걸렸던 방대한 양의 데이터를 단 몇 초 만에 분석하고 있다. AI의 군사적 이용에 대한 국제적 기준과 원칙을 정하는 게 시급하다. 이를 온전히 개발자 양심과 윤리적 책임에만 맡길 순 없다. AI가 전쟁 판도를 좌우해도 최종 버튼은 인간만 누를 수 있도록 해야 한다. 우선 순위를 어디에 두느냐에 인류의 미래가 달렸다.

<박일근 / 한국일보 수석 논설위원>