뉴저지 포트리에 활동하는 한인 변호사가 인공지능(AI)이 생성한 가짜 판례를 법원에 제출했다가 재판부로부터 벌금 3,000달러 및 경고 조치를 받은 것으로 드러났다.

스타레저 보도 등에 따르면 지난 18일 연방법원 뉴저지지법의 호세 알몬테 판사는 “포트리의 조모 변호사가 법원에 가짜 판례를 제출했다”며 벌금 3,000달러 부과 명령을 내렸다. 조 변호사는 법원에 제출한 해당 가짜 판례가 AI를 통해 생성했다고 시인했다.

본보가 확인한 법원 명령서에는 조 변호사가 명령일로부터 14일 이내에 벌금 3,000달러를 법원에 납부하고, 법원의 명령을 주 변호사 윤리위원회에 자진 신고해야 한다고 명시됐다.

이번 사례는 법조계에서 심심치 않게 발생하는 AI 오용에 대해 법원이 강력한 경고를 내렸다는 점에서 주목받고 있다.

일반 소송에서 변호사는 자신의 주장을 뒷받침하기 위해 과거 판례를 제출하는 경우가 많은데, 변호사가 AI를 사용해 판례를 검색할 경우 실제로는 존재하지 않는 허위 판례를 만들어낼 위험이 있다는 것이 법조계의 지적이다.

알몬테 판사는 명령문에 “안타깝게도 변호사들이 적절한 감독 없이 AI를 사용하는 것이 전국 법원에서 흔한 문제가 됐다”고 지적했다.
조 변호사가 이번에 AI를 통한 가짜 판례를 법원에 제출한 소송은 한국의 대형 식품 브랜드의 미 동부 유통을 둘러싼 분쟁과 관련된 것으로 확인됐다.

조 변호사는 법원에 제출한 서면 진술서에서 “법률 연구를 위해 AI 도구를 사용했고, 촉박한 마감일과 일정 문제로 인해 실수가 발생했다”고 해명하면서 “재발 방지를 위해 엄격한 검토 및 내부 절차를 마련했다”고 밝혔다.

알몬테 판사는 조 변호사가 잘못을 인정하고 AI 오용 안전장치 마련을 약속한 점 등을 감경 사유로 참작했다. 그는 AI를 통한 허위 판례를 제출해 제재를 받은 다른 6건의 사례를 지적하면서 “조 변호사가 반성한 만큼 벌금 3,000달러만 부과한다”고 밝혔다.

<서한서 기자>