인공지능(AI)의 등장은 1950년대로 거슬러 올라가지만, 전 세계적으로 알려진 것은 2023년경부터입니다. 인공지능이라는 주제는 ChatGPT 출시 이후 특히 많은 논의가 이루어지고 있습니다. 이 플랫폼은 그 기능 덕분에 즉각적인 인기를 얻었으며, 모든 분야의 사람들에게 시간과 노력을 절약해 주는 구원자가 되었습니다. AI의 능력과는 별개로, AI가 제공하는 답변의 품질에 주목해야 합니다. 왜냐하면 그 답변들이 때때로 오류가 있고, 오해의 소지가 있으며, 부정확하다는 사실이 밝혀졌기 때문입니다.
법률 AI의 가능성과 전망
법률 자문을 구하는 많은 개인과 변호사들조차 효율성, 정확성, 그리고 다양한 업무 및 질문에 대한 명확한 해답을 얻기 위해 AI로 눈을 돌리고 있습니다. 미국과 같이 법률 서비스 접근성이 상대적으로 낮은 국가의 경우, 미국변호사협회(American Bar Association)의 2024년 조사에 따르면 법률 실무에서의 AI 도입률이 2023년 11%에서 2024년 30%로 거의 3배 가까이 증가한 것으로 나타났습니다. 또한, 법률 AI는 인간의 눈과 주의력이 미치지 못하는 세세한 부분까지 집중함으로써 '인적 오류'를 방지할 수 있습니다. 생산성 측면에서 AI 도구는 반복적인 업무를 지원하고, 개인이 변호사에게 연락하는 대신 간단한 질문에 대해 AI를 활용할 수 있게 함으로써 변호사들의 업무 시간을 주당 몇 시간씩 절약해 줍니다. 이를 통해 사람들은 변호사에게 연락하여 상담 일정을 잡는 대신, 단 몇 번의 클릭만으로 자신의 질문에 대한 즉각적인 명확성을 얻을 수 있습니다. 게다가 AI는 여러 데이터베이스를 분석할 수 있어 문제에 대한 깊이 있는 통찰력을 바탕으로 심층적인 조사를 가능하게 합니다. 이러한 장점들 때문에 AI가 변호사를 완벽하게 대체할 수 있는 것처럼 보일 수 있으나, AI가 구조화된 저위험 업무를 처리할 수 있다고 해서 인간 변호사의 미묘한 의사결정이나 윤리적 판단까지 대체할 수 있다는 의미는 아닙니다. 이러한 두 가지 측면만 보더라도 AI가 유망한 장점에도 불구하고 법률 전문가로서 근본적인 결함을 가지고 있다는 점을 알 수 있습니다.
법률적 이해에 있어서 AI의 한계
법률 업무 수행에 있어 AI가 가진 장점은 많지만, 그 한계는 더욱 클 수 있으며 이는 법률적 추론, 해석, 맥락적 이해, 그리고 허위 및 오도하는 정보와 관련된 문제들로 이어집니다. AI 시스템, 특히 ChatGPT와 같은 거대 언어 모델(LLM)은 실제 법률 지식과 이해를 바탕으로 답변을 제공하는 것이 아니라 학습 데이터의 패턴을 기반으로 반응을 생성하며, 온라인 리소스에 대한 접근이 제한적인 경우가 많습니다. 이러한 한계로 인해 AI 도구가 법률적 사실, 판례, 인용문을 조작하거나 법률을 잘못 해석하여 실제 인물들에게 피해를 주는 사례들이 발생했습니다.
AI가 생성한 허위 또는 조작된 정보 문제는 이미 잘 알려져 있으며 다양한 법률적 맥락에서 문서화되어 있습니다. 예를 들어, 변호사가 법정에서 허위 정보를 사용한 초기 사례 중 하나는 전 세계적으로 뉴스에 보도되며 큰 주목을 받았습니다. 영국 법원이 다룬 사건에서 소송 당사자가 존재하지 않는 판결문을 제출했는데, 이는 나중에 AI 생성 도구에 의한 것으로 밝혀졌습니다. 이와 유사하게 프랑스에서는 AI 기반 법률 도구가 채택된 적 없는 수정안을 지어내어 GDPR 규정을 잘못 제시한 사례가 있었으며, 이는 제때 발견되지 않았다면 법적 절차를 오도할 뻔했습니다.
이러한 사례들은 수많은 예시 중 일부에 불과하지만, 법적 절차에서 인간의 감독이 얼마나 중요한지를 보여줍니다. 법은 역동적이며 고려해야 할 미세한 측면들이 많은데, 이는 AI가 수행할 수 없는 영역입니다. AI는 법적 선례를 맥락에 맞게 적용하거나 개별적인 상황을 고려하는 능력이 부족한 것으로 나타났으며, 이는 법률 실무에서 매우 중요한 기술입니다. 더욱이 스탠퍼드 인간 중심 AI 연구소(Stanford’s Institute for Human-Centered AI)의 연구에 따르면, GPT-4와 같은 AI 모델에 법률적 질문을 했을 때 발생하는 환각(hallucination) 비율이 최대 88%에 달했으며, 이는 복잡한 법률 업무를 AI에 의존할 때 상당한 위험이 있음을 시사합니다.
결론
즉, 진정한 이해, 법적 책임, 법을 역동적으로 해석하는 능력, 그리고 도덕적·사회적 함의를 저울질하는 능력 없이는 AI 도구가 법의 복잡하고 해석적이며 때로는 주관적인 성격을 감당할 수 없습니다. 따라서 AI는 기존 법률 지식을 갖춘 변호사의 감독 하에 보조 도구로 사용되거나, 법률적 도움을 구하는 개인이 참고용으로 활용할 수는 있으나, 그 도움을 전적으로 신뢰해서는 안 됩니다. 법률적 문제에 직면한 경우 변호사에게 연락하는 것이 가장 바람직합니다.
