“인공지능(AI) 개발에서 데이터량은 매우 중요하지만 기업간거래(B2B) 시장의 규칙은 다릅니다. 기업들은 가장 창의적인 AI가 아닌 가장 비즈니스에 적절한 AI를 원합니다. 때문에 B2B 분야에서는 AI의 신뢰성과 윤리가 필수불가결하죠.”

폴라 골드먼(사진) 세일즈포스 최고윤리책임자(CEHO)는 6일(현지 시간) 미국 샌프란시스코 모스콘센터에서 열린 ‘트레일블레이저DX(TDX) 2024’에서 서울경제신문과 만나 이같이 말했다. 그는 “모든 질문에 답할 수 있는 AI를 만들기 위해서는 세상의 모든 데이터가 필요하겠지만 산업 최적화 AI는 그럴 필요가 없다”며 “기업용 AI에서는 정확성이 프리미엄”이라고 강조했다. 기업에게는 범용적이지만 때론 틀린 답을 내놓는 초거대 AI보다 특정 문제에 정확한 대답을 내놓는 AI가 적절하다는 것이다.

세일즈포스는 세계 최대 고객관계관리(CRM) 소프트웨어 업체다. 포브스 500대 기업 중 90%가량을 고객사로 두고 있다. 자연히 글로벌 기업 대다수의 영업·마케팅 정보 수집이 가능하다. 데이터가 AI 성능을 좌우하는 현 시점에서 세일즈포스만이 가질 수 있는 장점이다. 그럼에도 세일즈포스는 ‘고객사 데이터는 우리 제품이 아니다’라는 모토를 내세우고 있다. 실제 이날 공개한 AI CRM 플랫폼 ‘아인슈타인1 스튜디오’ 또한 기업 데이터를 비식별화해 오픈AI ‘GPT-4’ 등 최신 AI 모델에 적용할 수 있음을 강조했다.

이는 단순히 ‘착한 기업’으로 보이기 위함이 아니다. 세일즈포스는 B2B 고객사 확보에는 ‘신뢰도’가 생명이라는 점을 일찌감치 깨달은 것이다. 골드먼 CEHO는 “기업은 AI 학습에 독점적인 데이터를 제공하고 싶어하지 않고 이를 확신하기 전까지는 플랫폼을 도입하지 않는다”며 “세일즈포스가 ‘신뢰 계층(Trust Layer)’과 AI 윤리를 강조하는 이유”라고 설명했다.

이러한 방침은 세일즈포스가 2019년 테크업계 최초로 CEHO라는 직위를 만든 배경이기도 하다. 골드먼이 업계 최초의 ‘윤리책임자’인 셈이다. 그는 “현재도 사내에서 데이터 활용 방안에 대해 끝없는 논쟁이 벌어지는 게 사실이지만 기술이 너무나 강력해졌고 안전장치가 필요하다는 점은 주지의 사실”이라고 강조했다.

급격한 AI 발전에 각국 정부는 AI의 안전한 사용을 위한 규제 도입을 서두르고 있다. 골드먼 CEHO는 백악관 AI 정책 자문위원이기도 하다. 그는 “우리는 AI가 어떻게, 얼마나 빠르게 발전할 지 알 수 없기에 현재의 AI를 통제해야만 다음 세대의 AI도 통제할 수 있다”고 말했다. 이어 “다음 AI 안전 서밋을 개최할 한국을 비롯해 세계 각국이 AI 관련법 제정을 위해 뛰고 있다는 점에 큰 기대를 걸고 있다”고 말했다.

<실리콘밸리=윤민혁 특파원>