세계 최대 검색 엔진 업체 구글은 새로운 검색 엔진의 오답 논란에 대해 “12가지 이상 기술적인 개선을 했다”고 지난달 31일 밝혔다.

구글의 검색 사업 부문 책임자인 리즈 리드는 이날 블로그를 통해 “AI 개요(AI Overview)에서 일부 이상하거나 부정확하고, 도움이 되지 않는 답변이 확실히 나타났다”며 이를 개선했다고 전했다.

구글 AI 개요는 구글이 기존 검색 엔진에 자사의 생성형 AI인 제미나이를 탑재한 새로운 검색 엔진이다. 이용자 질문에 빠르게 요약된 답변을 보여준다. 미국에 우선 제공된 새 검색 엔진은 그러나 “미국에 몇 명의 무슬림 대통령이 있었느냐”는 질문에 “버락 후세인 오바마라는 한 명의 무슬림 대통령이 있었다”는 오답을 내놓았다. 또 “개를 뜨거운 차에 놔둬도 괜찮은가”라는 질문에는 “항상 안전하다”고 답변하고, “사람이 하루에 얼마나 많은 돌을 먹어야 하는가”라는 질문에는 “UC 버클리 지질학자들에 따르면 적어도 하나의 작은 돌을 먹어야 한다”고 답해 논란이 됐다.

이에 구글은 개선 작업에 착수해 약 일주일만에 이를 개선했다고 밝혔다. 구글은 우선 ‘하루에 얼마나 많은 돌을 먹어야 하는가’와 같이 의미가 없거나 AI 개요가 적절한 답변을 내놓기 어려운 질문을 탐지하는 메커니즘을 더 광범위하게 적용했다고 설명했다. 또 오해의 소지가 있는 조언을 제공할 수 있는 소셜미디어(SNS) 게시물과 같은 사용자 제작 콘텐츠의 사용을 제한하는 AI 시스템도 업데이트했다.

건강 관련 질문에 대한 답변의 질을 높이기 위해 일반적인 정보 외에 구체적인 치료 방법이나 의료 조언은 하지 않도록 하는 등 특정 질문이나 키워드에 대한 답변의 범위나 방식을 제한했다.

리즈 리드는 “AI 개요는 기존 검색 엔진과 통합돼 다른 언어 모델 기반 제품처럼 환각을 일으키거나 뭔가를 만들어내지 않는다”며 “이상한 답변을 하는 경우는 검색어나 언어 뉘앙스를 잘못 해석하거나 유용한 정보가 많지 않은 경우 때문”이라고 설명했다.