법률신문 2025년 9월 29일 1면.


챗GPT, 제미나이 등 생성형 인공지능(AI)이 만든 허위 판례를 인용한 서면을 법원에 제출했다가 적발되는 사건이 발생한 가운데<법률신문 2025년 9월 29일 1면 단독 보도>, 이 같은 사례에 적용할 수 있는 대응 방안 논의 결과가 빠르면 3월에 나온다.?
법원행정처는 2025년 10월 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'를 꾸려 법조에 'AI 환각(Hallucination)'이 불러 온 부작용에 대한 제재 방안을 논의해 왔다. TF에는 법원 구성원뿐 아니라 일부 야마토릴게임 외부 위원도 참여했다. TF는 허위 판결이나 법령을 제출한 것이 발각될 경우 재판부가 △해당 변호사(대리인 또는 변호인)에게 소송 비용을 부과하거나 △해당 변호사의 진술을 제한하거나 △허위 판결을 제출했다는 사실을 판결서에 명시하는 방안을 논의했다. 다만 각 재판부가 결정할 사항인 만큼 가능한 안들을 제시하는 형태가 될 것으로 보인다. 대한변호사협회에 징계 릴게임황금성 를 의뢰하는 것도 논의했다. 허위 정보를 검증 없이 기재할 경우 재판장이 과태료를 부과할 수 있도록 하는 내용도 포함됐다.?
TF는 AI를 활용해 서면을 작성할 경우, 재판부가 그 사실을 알 수 있도록 'AI를 활용한 서류'라고 체크해 제출하는 것을 의무화하는 법률 또는 규칙의 제정도 논의했다.
재경지법의 한 판사는 "( 오션릴게임 AI 환각이 생성한 판결을 인용해 제출하는 등) 일련의 상황에 대해 어떻게 해야 하는지, 축적된 사례가 무엇인지조차 알 수 없어 판사들이 답답해하는 부분이 있었다. 무언가를 참고하고 싶은 마음이 있었는데, 만약 대응안 논의 결과가 나온다면 큰 도움이 될 것"이라고 말했다.
한편 법원행정처는 2026년 2월경부터 생성형 AI가 만들어낸 가짜 바다이야기디시 사건번호를 확인하는 서비스도 시작했다. AI가 제공하는 사건번호나 판결이 존재하는지 여부를 검증할 방법이 없어 개선안을 마련한 것이다. 사법정보공개포털의 사건검색 메뉴에서 '허위 사건번호 확인 서비스'를 통해 해당 사건번호가 실제로 존재하는지 확인할 수 있다.?
2025년 9월 한국에서도 변호사가 제출한 의견서에 AI가 만들어낸 가짜 판 손오공릴게임예시 결이 인용된 사례가 보도되자, 법원 안팎에서는 이 같은 상황에 재판부가 어떻게 대응해야 하는지 알려주는 매뉴얼 등이 필요하다는 반응이 나왔다. 당시 법원행정처는 "AI 환각으로 존재하지 않는 판례 등이 서면에 제출되는 사례가 늘고 있음을 인지하고 있다"며 대응책 마련의 필요성에 공감한 바 있다.