구인 기업의 입장에서 인공지능(AI) 도구를 써서 구직자들의 이력서를 1차로 검토해 걸러주는 '에잇폴드 AI'라는 업체를 상대로 미국에서 집단소송이 제기됐다.

구직자들이 이유도 모르고 탈락하는데 이의를 제기할 방법조차 없는 것은 불공정하며, '공정신용보고법'(FCRA) 등 신용평가사들에 적용되는 법령들이 이 업체에도 적용돼야 한다는 것이 대표원고들의 주장이다.

일간 뉴욕타임스(NYT)는 21일 이런 집단소송 요구 소장이 캘리포니아주 콘트라코스타 카운티 소재 1심 주법원에 제출됐다고 보도했다.

에잇폴드 AI는 링크트인 등에 실린 정보를 수집해 100만여종의 세부 직종과 온갖 분야에서 일하는 10억여명에 관한 데이터 세트를 만들었다.

이 업체의 AI 도구는 이를 바탕으로 구직자들이 제출한 이력서를 1차로 검토하고 채용 기업 입장에서 구직자의 채용 적합도를 1∼5점의 점수로 평가해준다.

구인 기업들은 이 서비스를 통해 서류 검토에 드는 시간과 돈을 절약할 수 있다는 게 에잇폴드의 설명이다.

그러나 구직자들은 자신이 어떤 점수를 받았는지, 왜 그런 점수를 받았는지 알 방법이 없고 이의를 제기하는 것도 불가능하다.

이 때문에 에잇폴드 AI가 FCRA에 의거해 어떤 개인정보를 수집해서 사용하는지, 또 어떤 방식으로 평가하는지 구직자들이 알 권리가 있고, 오류가 있다면 이의제기를 통해 정정할 수도 있어야 한다는 게 원고들의 주장이다.

집단소송 대표원고 2명 중 1명인 에린 키슬러는 NYT에 "내 정보가 어떻게 수집되고 고용주와 공유되는지 알 권리가 있다고 생각한다"며 "그들은 아무런 피드백도 주지 않기 때문에 문제가 있더라도 대응할 방법이 없다"고 말했다.

전산학 학위가 있으며 테크 산업에서 수십년간 경력을 쌓은 그는 지난 1년간 수천 곳에 이력서를 냈으나 그 중 서류 제출 후 다음 단계로 진행된 경우는 0.3%에 불과했다고 말했다.

이번 집단소송 제기는 노동법·고용법 전문 법무법인으로 유명한 '아우튼 앤드 골든'과 콜로라도주 덴버 소재 비영리 법무법인 '토즈 저스티스'(Towards Justice)가 맡았으며, 소비자금융보호국(CFPB)과 평등고용기회위원회(EEOC)에서 일한 경력이 있는 변호사들이 소송을 돕고 있다.

토즈 저스티스의 데이비드 셀리그먼 대표는 "인공지능 면제라는 것은 우리 법에 존재하지 않는다"며 "이런 기업들의 비즈니스 모델이라는 것이 새 기술을 내놓고 화려한 새 언어로 포장한 후에 결국 사람들의 권리를 침해하는 것이 경우가 너무나 많다"고 말했다.

미국 의회가 1970년 통과시킨 FCRA는 적용 범위가 신용평가사에 한정돼 있지 않으며, 개인정보를 수집해 "고용 목적"으로 쓰는 경우도 해당하도록 돼 있다.

또 전임 조 바이든 행정부 때인 2024년에 주무기관인 CFPB가 내놓은 안내 지침서에는 채용 목적으로 만들어진 자료와 점수는 FCRA 적용 대상이며 이런 자료나 점수를 만든 업체들은 신용평가사와 마찬가지로 FCRA상의 '소비자 보고 기관'(consumer reporting agency)라는 유권해석이 들어 있었다.

CFPB의 이 유권해석 안내 지침서는 도널드 트럼프 2기 행정부 출범 후인 작년 5월에 철회됐다.

기업들에 AI 사용 문제를 조언하는 변호사 데이비드 월튼은 NYT에 에잇폴드 AI와 같은 도구들이 합법과 불법의 회색 경계 지대에 있는 경우가 많다고 설명했다.

월튼 변호사는 "이런 도구들은 편견이 있도록 설계됐다. 무슨 얘기냐 하면, 특정한 부류의 사람을 찾도록 설계됐다는 것"이라며 "그러니까 편견이 있도록 설계되긴 했지만 부당한 편견이 있도록 설계되지는 않았다는 것이다. 그리고 그 경계선은 아주 미묘하다"고 말했다.

특히 인종이나 성별에 따라 차별을 하라는 명시적 지시를 하지 않고도 실제로는 차별하는 경우가 있기 때문에 문제는 더욱 복잡하다고 그는 설명했다.

<연합뉴스>