주요 인공지능(AI) 기업들이 포진한 실리콘밸리가 있는 캘리포니아주 의회가 AI 규제 법안을 입법 중인 가운데 당초 상원을 통과한 원안보다 내용을 완화한 수정안이 하원에서 논의되고 있어 주목된다.

16일 뉴욕타임스(NYT) 등에 따르면 가주 하원 예산위원회는 지난 15일 ‘첨단 AI 시스템을 위한 안전과 보안 혁신법안’(SSIFAISA)에 대한 수정안을 통과시켰다.

이 수정안은 기업들이 강력한 AI 기술을 대중에게 공개하기 전에 반드시 안전성을 테스트하도록 의무화하고 있다. 또 대규모 AI 시스템이 많은 사람을 사망에 이르게 하거나 5억달러 이상의 피해를 일으키는 심각한 문제를 발생시키는 경우 AI 개발 회사에 책임을 지우도록 하고 있다.

특히 업계의 우려를 일부 반영해 주 정부가 AI 개발 회사들을 감독하고 처벌할 수 있는 권한을 일부 줄였다.

지난 5월 상원을 통과한 법안은 아직 피해가 발생하지 않았더라도 안전 규정을 준수하지 않은 AI 기업을 처벌할 수 있도록 했지만, 수정안은 AI 기술이 공공 안전에 실질적인 피해나 임박한 위험을 초래한 경우에만 처벌할 수 있도록 했다. 또 AI 안전을 위한 새로운 기관을 신설하지 않고, 규제 업무를 기존의 캘리포니아주 정부운영 기관에서 담당하기로 했다.

이 법안을 발의한 스콧 위너(민주당) 의원은 “수정안이 업계의 큰 우려를 해결했다고 생각한다”고 말했다.

그러나 수정안 역시 AI 개발을 저해할 수 있다며 업계에서는 여전히 우려를 표명하는 등 논란이 이어지고 있다. 정보기술(IT) 매체 테크크런치는 “수정안이 기존 법안보다 완화됐지만 여전히 개발자들에게 AI 모델 위험에 대한 책임을 묻고 있다”며 “법안 비판자들을 달래지는 못할 것으로 보인다”고 전망했다.

NYT는 민주당이 다수인 주의회는 이달 말까지 이 법안을 통과시킬 것으로 예상된다고 전했다. 법안이 주의회를 통과하면 개빈 뉴섬 주지사의 서명을 거쳐 법률로 확정된다. 개정안이 하원 예산위를 통과한 직후 하원 의원 8명은 개빈 뉴섬 주지사에게 거부권 행사를 요청하는 서한을 보냈다.