인공지능(AI) 챗봇 ‘클로드’ 운영사 앤스로픽이 AI 발전에 인간의 개입이 더 이상 필요하지 않은 단계가 다가오고 있다며 일종의 ‘경고’를 날렸다. AI가 인간의 통제를 벗어나기 전 최첨단 AI 개발을 늦추거나 일시적으로 중단하는 방법도 고려해야 한다는 제안도 내놨다.

앤스로픽은 4일 공식 블로그를 통해 “이미 AI가 스스로 AI 시스템 개발을 가속화하고 있다”며 “스스로를 구축할 수 있는(재귀적 자기 개선) AI는 기술 역사상 가장 중요한 발전이 될 것”이라고 내다봤다. 다만 이들은 AI 기술 발전이 인류의 안전을 위협할 수 있기 때문에 전 세계가 합의한 ‘감속(slowdown)’이나 ‘일시 중단(pause)’이 필요하다고 강조했다.

앤스로픽 분석에 따르면 기존에 7개월마다 두 배로 증가하던 AI 발전 속도는 이제 약 4개월마다 두 배 수준으로 빨라졌다. 2024년 3월만 해도 사람이 4분 걸리는 일을 대신 하던 클로드는 이제 12시간짜리 일을 하고, 내년이면 몇 주짜리 일을 하게 된다. 지난해 11월 기준 앤스로픽의 최상위 모델(오퍼스 4.5)은 51% 확률로 인간의 선택을 능가했는데, 올해 4월 출시된 모델(미소스 프리뷰)은 이 비율을 64%로 올렸다. 앤스로픽 측은 “AI가 판단을 내리는 데 있어 인간보다 점점 더 능숙해지고 있다는 신호”라고 강조했다.

AI와 비교해 인간이 가진 비교우위는 점점 줄어들고 있다. 기존에 인간이 하던 ‘검토’ 영역도 AI가 더 효율적으로 대체해나가고 있기 때문이다. 앤스로픽이 설명하는 현재 인간의 역할은 어떤 문제가 중요하고 어떤 결과를 신뢰해야 하는지, 어떤 접근 방식이 막다른 길인지 판단하는 ‘방향 설정과 판단력’에 있다. 그러나 이조차도 AI가 장악할 가능성이 높아지고 있다는 게 앤스로픽의 설명이다. 앤스로픽은 “이미 AI는 타인의 농담을 이해하고 마음을 읽을 수 있다”며 “인간의 노동력이 더 이상 경쟁력을 갖지 못하게 된다면 경제가 어떤 모습이 될지 예측하기 어렵다”고 우려했다.

<곽주현 기자>