뉴욕시의회가 인공지능(AI)이나 알고리즘 기술로 인해 발생할 수 있는 소비자 피해를 방지하기 위한 제도적 장치 마련에 나섰다.

줄리 원 뉴욕시의원이 지난 20일 발의한 이번 조례안(Int. 0919)은 뉴욕시 소비자·근로자보호국(DCWP) 산하에 ‘AI 감독국(Office of Artificial Intelligence Oversight)’을 신설하는 것을 골자로 한다.

신설되는 AI 감독국은 소비자들이 AI나 알고리즘 도구로 인해 고용, 주거, 신용 대출, 정부 혜택 및 기타 필수 서비스 이용 등에서 부당하게 배제되거나 불이익을 받지 않도록 철저히 관리·감독하는 역할을 맡게 된다.

특히 이번 조례안에는 AI 감독국이 별도의 온라인 포털 사이트를 개설해 AI 기술사용 과정에서 발생한 시민들의 각종 민원을 접수하고 검토·대응하도록 하는 실행 방안도 포함됐다.

원 의원은 “자신의 급여가 어디로 사라졌는지 알 수 없는 배달 노동자, 이력서 심사 전 AI에 의해 거절된 구직자, AI에 의해 하룻밤 새 일정이 사라져버린 프리랜서 등 AI나 알고리즘에 의해 발생할 수 있는 모든 피해를 막기 위한 조치”라고 강조했다.

한편 이 조례안은 주의회 통과 및 시장 서명을 거쳐 법제화되면 180일 후 발효된다.

<이진수 기자>