이 콘텐츠를 보려면 JoVE 구독이 필요합니다. 로그인하거나 오늘 무료 평가판을 시작하세요.

연구 논문

법률 문서 요약을 위한 하이브리드 접근법을 위한 딥러닝을 활용한 사례 기반 추론

490 조회수

⸱

DOI:

10.3791/69287

⸱

2025년 12월 12일

 , 
1Department of Computer Science and Engineering, Koneru Lakshmaiah Education Foundation

이 논문에서

요약

이 프로토콜은 사례 기반 추론(CBR)과 다단계 변환기 모델을 통합하여 법률 문서를 요약합니다. 법적 사건을 사전 처리하고, 유사한 판례를 찾아내며, 추론 구조를 조정하고, 정확하고 일관된 요약을 생성합니다. 적용 분야에는 법률 조사, 판결 분석, 의사결정 지원 시스템 등이 포함되어 사실의 일관성과 도메인별 추론 정확성을 보장합니다.

초록

법률 문서는 길고 복잡한 것으로 알려져 있어, 법률 실무자와 연구자가 관련 정보를 신속하게 식별하고 추출하는 것이 사실상 불가능합니다. 여기서는 기존 추출 및 추상적 기준선을 어휘 중복과 도메인 특화 추론 지표 모두에서 우수한 성과를 내는 하이브리드 접근법을 제시하는데, 이는 법률 문서에는 사례 기반 추론(CBR)을, 요약 표현을 위한 구체적 딥러닝 기법을 사용하여 정확하고 효율적으로 요약을 생성합니다. Kaggle에서 수집한 4,968건의 법률 사건이라는 더 큰 데이터셋을 사용해, 이전에 만들어진 일반 CBR 검색 모델 위에 다단계 변환기 아키텍처가 구축되어 간략한 요약과 CBR을 함께 생성하여 맥락 이해를 지원했습니다. 이 시스템은 법적 결과 예측과 요약의 일관성을 평가했으며, 기존의 추출 및 추상화 방법보다 우수한 성능을 보였으며, 제안된 모델을 98%의 법인체 정확도와 최신 방법보다 46% 더 일관된 법률 말뭉치(기준선 강화)까지 학습시켰으며, ROUGE 점수를 사용한 경우 이전 유형보다 23% 더 높았습니다. 본 연구는 CBR과 트랜스포머 기반 모델을 통합한 하이브리드 법률 문서 요약 프레임워크를 제시합니다. 광범위한 실험은 최근 기준선보다 더 우수한 성과를 보여주며, 더 높은 사실 정확성, 추론 정확성, 법인체 보존을 달성했습니다.

서론

광범위한 법적 문서화는 관련 데이터를 신속하게 검색하기 위한 첨단 방법들을 필요로 했습니다. 법률 문서 요약은 접근성과 의사결정 향상에 중요합니다. 법적 의견, 판결, 판례는 너무 방황하여 판사, 실무자, 연구자가 이를 읽기 어려워하며, 이에 따라 이 문서들을 정확하고 효율적으로 요약하는 자동화된 방법이 개발되었습니다.

일반적인 경우에 최첨단 성능을 발휘함에도 불구하고, 기존 요약 방법들은 법률 문서에 특유의 복잡성과 법률 용어를 담아내는 데 어려움을 겪고 있습니다. 로그 가능성만으로 재배열하지 않고 단순히 상위 문장만 고르면 좋은 ROUGE 점수를 얻지만, 맥락과 완전한 의미론에는 밀립니다. 추상적 접근법은 자연어 생성을 통해 맥락적 뉘앙스를 포착할 수 있지만, 법정 사건의 논리적 사고 과정과 법적 논리를 유지하는 데는 어려움을 겪습니다. 제안된 방법은 구조화된 섹션(예: 사실, 논증, 판례, 판결)을 포함하는 장기 법률 판례 텍스트에 특히 효과적입니다. 명시적 인용과 표준화된 형식이 있는 말뭉치, 예를 들어 항소법원이나 대법원 판결에 적용할 때 특히 뛰어납니다. 하지만 성능은 노이즈가 있거나 비구조화된 데이터셋(예: OCR 오류가 있는 스캔 PDF, 명확한 수사적 세분화가 부족한 문서)에 제한될 수 있습니다. 따라서 이 방법은 언어적 기능과 인용 기능이모두 접근 가능한 잘 구조화된 디지털 사례 저장소에 가장 적합합니다.

사례 기반 추론(CBR)과 고급 자연어 처리(NLP)를 결합한 제안된 우수한 하이브리드 프레임워크가 요약을 생성하는 데 사용됩니다. 이 모듈은 다단계 변환 아키텍처와 법적 도메인별 주의 계층을 사용하며, 문서 간 추론 모듈을 제안합니다. CBR은법적 이유로 모든 맥락 변수를 검토하는 데 사용할 수 있는 유사한 과거 판례들을 로드할 수 있게 합니다. 4. 제안된 모델은 최신 기준선에 비해 우수한 정확도를 달성했으며, ROUGE, BLEU, Legal-SemSim 지표 전반에서 정량적 향상을 거두었고, 인간 전문가 평가를 통해 검증되었습니다. 예를 들어, 제안된 모델은 논리 연쇄 정확도에서 Legal-BART와 PALM-Law보다 15%-20% 차이로 우수한 성과를 냈습니다. 일반적인 표현과 정교한 접근법을 수용함으로써 신경 요약 및 점술과 함께 사례별 지식을 더하며, 법인체 인식에 98%의 정확도와 선례 검색의 97%를 달성하여 이전 작업을 훨씬 뛰어넘습니다5.

관련 연구

법률 문서 요약은 자연어 처리(NLP)의 하위 영역으로, 사법 판결, 법률, 판례 등 효율적인 법률 문서 처리에 대한 수요가 증가함에 따라 점점 더 주목받고 있습니다. 주요 과제는 생성된 요약에서 의미적 무결성, 법적 논리, 도메인 특화 맥락을 유지하는 데 있습니다. 이전 연구는 추출적, 추상적, 하이브리드 접근법에 걸쳐 있으며, 최근에는 도메인 적응 신경 구조에 중점을 두고있습니다.

문헌 검토

법률 문서 요약은 방대한 복잡한 법률 문서를 접근 가능하고 실행 가능하게 만들어야 한다는 긴급한 필요성에 의해 자연어 처리 분야에서 중요한 영역으로 발전해 왔습니다. 이 도메인의 문헌은 표면적인 추출 모델에서 유창성, 사실적 진실성, 법적 논리를 균형 있게 맞추려는 정교한 하이브리드 아키텍처로 발전하는 궤적을 반영합니다. 초기 노력은 어휘 유사성과 통계적 패턴을 바탕으로 문장 중요성을 우선시하는 추출적 요약 기법에 집중되었습니다. 법적으로 중요한 부분을 선택하는 데 효과적이지만, TextRank와 LexRank와 같은 이 접근법들은 더 깊은 의미 구조를 종종 무시하고 법적 추론에 필수적인 수사적·논장적 층위를 포착하지 못합니다. 법률 문서는 엄격한 의미론과 도메인 특화형 표현 때문에 일반 말뭉치와 현저히 다르기 때문에, 이러한 모델은 일관성과 맥락적 적절성이 부족한 요약을 만들어냈다. 사전 학습된 트랜스포머 아키텍처의 등장과 함께 연구 초점은 추상적 방법으로 이동했습니다. BART, T5, PEGASUS 같은 모델들은 학습된 언어 생성 패턴을 이용해 요약을 합성하는 능력을 보여주기 시작했습니다. LegalBART와 LegalPEGASUS와 같은 법적 적응은 법률 특화 사전 훈련 코퍼라7을 통합하여 성능을 더욱 정교하게 만들었습니다. 그러나 추상적 방법은 추론 일관성과 설명 가능성의 한계에 계속 시달렸으며, 특히 사소한 사실 차이만으로도 오해가 발생할 수 있는 법률 상황에서 문제가 많았습니다.

이러한 결함에 대응하여 상징적 추론이나 검색 기반 전략을 도입해 맥락적 기반을 개선하는 하이브리드 모델이 등장했습니다. 주목할 만한 방향으로는 CBR의 통합이 있었으며, 선례 사례에서 얻은 지식을 활용해 요약 생성 과정을 맥락화했습니다. 이 모델들은 추출 방법의 사실적 엄격성을 유지하면서도 언어적으로 일관되고 법적으로 유효한 출력을 생성하려고 시도합니다.8.

최근 추세는 법인체 인식, 문서 간 추론, 수사적 역할 해석을 결합한 다단계 아키텍처를 강조하며, 단순한 요약이 아닌 전체론적 문서 이해로의 전환을 시사합니다. 연구에서는 이제 법률 전문가를 위한 요약의 질과 사용성을 평가하기 위해 법률 온톨로지 정렬, 도메인별 평가 지표(예: Legal-SemSim), 인간 중심 평가를 점점 더 고려하고 있습니다.

2023년 법률 분야에서의 LLM 응용 탐색, 2024년 이탈리아 법률 영역에서의 LLM 활용 탐색과 같은 최근 설문조사는 법적 추론, 요약,검색 작업을 자동화하는 대형 언어 모델(LLM)의 역할이 점점 커지고 있음을 강조합니다. 이 연구들은 GPT-4, PaLM, LLaMA와 같은 LLM이 법률 담론의 맥락적 미묘한 차이를 포착할 수 있는 능력뿐만 아니라, 도메인 적응, 설명 가능성, 사실 일관성의 도전 과제도 강조합니다. 검색 증강 생성(RAG) 또는 CBR과 LLM을 통합하는 하이브리드 시스템이 점점 더 탐구되고 있으며, 이는 선례 인식 추론의 강점과 트랜스포머6의 생성 유창성을 결합하기 위한 것입니다. 이 흐름 내에서 연구를 포지셔닝하는 다단계 하이브리드 모델은 법적 추론 사슬을 명시적으로 인코딩함으로써 이전의 검색 증강 프레임워크를 확장하면서도 트랜스포머 기반 추상화 요약을 통해 일관성을 유지합니다.

상당한 진전에도 불구하고, 해석 가능성을 유지하면서 사실적이고 논리적으로 구조화되며 도메인 일치하는 법률 요약을 종합할 수 있는 모델에는 여전히 공백이 남아 있습니다. 본 연구는 법적 CBR과 심층 신경 아키텍처에 기반한 다단계 하이브리드 접근법을 제안하여 정확하면서도 실용적인 모델을 제시함으로써 이 공백을 해소합니다.

추출적 요약 접근법

추출적 요약이라는 용어는 문서에서 가장 유익한 문장들을 추출하고 이어 붙이는 방법을 가리킵니다. 그래프 기반 알고리즘, 예를 들어 TextRank13과 LexRank14는 문장의 중요성에 따라 순위를 매기는 전통적인 접근법입니다. 계산적으로 실현 가능하지만, 이러한 접근법은 일반적으로 복잡한 법적 추론과 논증에 어려움을 겪습니다8. 사전 학습된 언어 모델의 등장으로 BERTSUM8과 같은 BERT 기반 방법들이 상당한 개선을 보여주었습니다. BERTSUM은 문장 수준의 추출적 요약을 위해 BERT 임베딩을 세밀하게 조정하여 통계 모델보다 맥락적 뉘앙스를 더 잘 포착합니다9. Legal-BERTSUM과 같은 법률 도메인 적응은 법률 전문 말뭉치를 통합하여 성능을 더욱 정교하게 개선하여 법률 용어 인식과 문장 선택을 개선할 수 있게 했습니다. 그럼에도 불구하고, 추출적 방법은 특히 문장이 상호 의존적이거나 지환이 암묵적일 때 논증 흐름이나 법적 추론 사슬을 재구성하는 데 제한적이다.

추상화 요약 접근법

추상적 요약은 종종 인코더-디코더 아키텍처를 사용하여 원본 내용을 재표현하는 새로운 구절과 문장을 생성합니다. BART 모델4와 PEGASUS7은 범용 요약에 적용된 사전 학습된 시퀀스 간 모델의 대표적인 예입니다. 이 모델들은 법률 코퍼스의 미세 조정을 통해 법률 영역에 맞게 조정되어 Legal-BART와 Legal PEGASUS16,17 같은 모델이 탄생했습니다. 이 모델들은 더 유창하고 인간다운 요약을 제공하며, 추출적 접근법보다 맥락적 의미를 더 잘 포착합니다18.

그러나 법적 요약에서의 적용은 도전 과제를 안고 있습니다. 추상적 모델은 사실적 일관성과 법적 의미 보존에 어려움을 겪는 경우가 많습니다. 법적 조항의 오해나 주요 법인의 누락은 요약을오해의 소지가 있게 만들 수 있습니다. 더불어, 신경 텍스트 생성 모델은 일반적으로 불투명하여 설명 가능성과 검증 가능성 문제를 제기하는데, 이는 법률 분야에서 매우 중요합니다.

하이브리드 요약 모델

두 패러다임의 강점을 활용하기 위해 하이브리드 요약 모델은 추출적 요소와 추상적 요소를 통합합니다. 초기 전략 중 하나는 추출 모듈을 사용해 후보 문장을 선택한 후, 추상적 디코더로 이를 정제하는 것이었습니다. 최근에는 트랜스포머 아키텍처가 지식이 주입된 모듈과 결합되어 법률 이해도를 향상시키고있습니다.

CBR은 유망한 하이브리드 전략으로 떠올랐습니다. 워터워스는 이전 사례를 활용해 현재 의사결정을 알리는 데 선구적이었으며, 신경 모델과의 통합을 통해 아날로그 추론을 통한 의미론적 풍부화를 가능하게 합니다. 법적 요약에서 CBR과 트랜스포머를 결합하면 맥락적 재사용과 추상적 합성 모두가 가능합니다. BART+CBR과 같은 모델은 검색 기반 법적 맥락을 생성 메커니즘과 통합하여 일관성과 법적 관련성을 향상시킵니다20.

제안된 다단계 + CBR 아키텍처는 도메인별 추론 체인을 요약 파이프라인에 내장함으로써 이 작업을 기반으로 합니다. 계층적 변환기 블록, 문서 간 주의, CBR 강화 검색 계층을 특징으로 하여 법률 적용에 특화된 기능입니다. 이 다층적 설계는 세밀한 내용 이해와 거시적 구조 보존을 모두 가능하게합니다.

법적 구체적 도전 과제 및 고려사항

법률 문서는 계층적 형식, 판례의 교차 참조, 법률 인용, 도메인별 용어 등 독특한 구조적·언어적 특징을 보인다22. 따라서 요약 모델은 통사적·의미론적 복잡성을 다룰 뿐만 아니라 논리적 일관성과 법적 논증 진행도 존중해야합니다. 이 맥락에서 효과적인 요약은 정확한 법인체 인식, 추론 구조 보존, 사실, 논증, 판결과 같은 수사적 역할의 해석에 달려 있습니다.

법률 온톨로지와 인용 네트워크가 도메인 이해를 향상시키기 위해 활용되었습니다. 예를 들어, 모델 교육 중 구조화된 법률 지식 기반을 통합하면 법인체 연결 및 인용 일관성을 향상시키는 것으로 나타났습니다. 이러한 노력들은 법률 실무자의 기대에 더 잘 부합하는 모델을 요약하는 데 기여합니다25.

또 다른 도전은 해석 가능성입니다. 법률 현장에서는 결과물이 감사 가능하고 해석 가능해야 합니다. 따라서 LIME과 SHAP과 같은 설명 가능한 AI(XAI) 프레임워크가 요약 결정을 정당화하기 위해 점점 더 많이 탐구되고 있지만, 대규모 모델과의 통합은 여전히 지속적인 연구 과제로 남아 있습니다26.

법률 요약에서의 평가 지표

ROUGE8, BLEU27, METEOR와 같은 표준 요약 지표가 어휘 중복 평가에 일반적으로 사용됩니다. 그러나 이러한 측정 수단은 의미의 정확성, 법적 일관성, 논증적 일관성을 포착하기에는 충분하지 않습니다.

최근 노력에서는 의미론적 유사성을 평가하는 법적 온톨로지를 포함하는 Legal-SemSim과 논리적 흐름 보존과 결론 타당성을 평가하는 추론 사슬 정확성과 같은 도메인별 지표를 도입했습니다28. 인간 전문가 평가는 특히 법적 정확성, 일관성, 실행 가능성을 측정하는 데 필수적입니다. Fleiss' Kappa와 같은 지표를 사용하는 주석자 간 합의는 정성적 평가의 신뢰성을 보장합니다29.

법률 요약의 최근 발전과 향후 방향

법률 요약 연구는 점점 더 견고하고 맥락 인식적이며 설명 가능한 시스템으로 나아가고 있습니다. 규칙 기반 추론과 트랜스포머 모델을 통합하는 하이브리드 기호-신경 아키텍처가 점점 주목받고 있습니다. 이 시스템들은 논리 기반 접근법의 해석 가능성을 유지하면서딥러닝의 일반화 능력을 누립니다.

다국어 법률 요약도 또 다른 신흥 분야로, 법률 문서와 절차의 세계적 특성을 다루고있습니다. 시간 의존적 법률 연속을 이해하는 데 필요한 시간적 추론과 논증적 담화 모델링도 탐구 대상입니다.

더불어, 대조적 학습과 교육과정 학습의 발전은 다양한 법률 분야에서 모델 일반화를 향상시키는 데 활용되고있습니다. 작업 복잡도를 점진적으로 높이고 세밀한 의미 클래스를 구분함으로써 이러한 기법들은 실제 상황에서 모델의 견고성을향상시킵니다.

액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.

프로토콜

이 프로토콜은 공개된 법률 데이터셋을 사용합니다. 민감한 개인 정보나 기밀 데이터는 사용되지 않았습니다. 이 연구는 연구에서 법률 코퍼라 사용에 관한 기관 윤리 지침을 준수합니다(Koneru Lakshmaiah Education Foundation (deemed to be University), 하이데라바드, 텔랑가나, 인도, 승인 번호: KLEF/CS/2024/IRB-017). 이 연구는 4,968건의 법률 사건 데이터셋을 사용하며, 각 사건에는 포괄적인 주석이 포함되어 있습니다. 표 1은 데이터셋 설명을 보여줍니다.

precedent_citations판례에 대한 구조화된 인용
reasoning_chains주석이 달린 논리적 추론 시퀀스

표 1: 데이터셋 속성 설명.

연구 데이터셋

전처리 후에는 결과 표준화를 위해 데이터셋을 정규화합니다. 사례 텍스트의 길이는 1,000단어에서 5,000단어 사이로, 교육과 평가를 위한 포괄적입니다. 우리는 데이터셋 내 사례 빈도에 따라 1차 라벨로 결과를 수집하여, 다양한 법적 맥락에서 요약 성능을 탐색할 수 있게 했습니다. 주석 작성은 법률 정보 분야를 전문으로 하는 3명의 현직 변호사와 2명의 박사 연구원을 포함해 5명의 법률 전문가 팀에 의해 수행되었습니다. 각 사례는 두 명의 전문가가 독립적으로 주석을 달았고, 충돌 사항은 수석 주석가가 해결했습니다. 주석 체계에는 법인, 판례 인용, 추론 연쇄가 포함되었습니다. 주석자 간 일치는 Fleiss' Kappa(κ = 0.82)를 사용하여 측정되었으며, 이는 주석자 간 강한 일관성을 나타냅니다. 이 과정은 데이터셋의 법적 타당성과 재현성을 모두 보장했습니다.

데이터셋 분포

데이터셋에는 표 2에 나타난 다양한 법률 도메인을 포함하는 사례들이 포함되어 있습니다.

법적 영역사건 수백분율
계약법1,27825.70%
지적 재산권1,05321.20%
헌법51210.30%
행정법4328.70%
형법3086.20%
불법행위법2194.40%
기타/기타1,16623.50%

표 2: 다양한 법률 영역을 포함하는 사건들.

사례 결과 분포는 표 3에 나와 있습니다.

사건 결과세다백분율
인용2,46049.20%
참조85517.10%
따라4719.40%
적용4478.90%
간주3537.10%
기타 결과3828.30%

표 3: 사례 결과 분포 데이터셋 전반.

따라서 분류 샘플링을 이용한 학습, 검증, 테스트 분할에서 도메인 간 합리적인 묘사가 도메인 특이적 편향을 방지하는 것을 확인했습니다. 데이터셋은 훈련(80%), 검증(10%), 테스트(10%) 세트로 나뉘었습니다.

텍스트 길이 분포

텍스트 길이 분포 분석은 표 4에 제시되어 있습니다.

길이 범위 (단어)세다백분율
500명 미만4659.40%
500-1,0001,35927.40%
1,000-5,0002,69854.30%
5,000-10,0003236.50%
만 명 이상입니다1543.10%

표 4: 텍스트 길이 분포 분석.

이 분포는 문서 길이의 다양성을 강조하며, 대부분은 중간 길이(1,000-5,000단어)에 해당해 요약 기법에 적절한 도전 과제가 됩니다.

향상된 데이터 전처리

전처리 파이프라인은 트랜스포머 기반 법률 NLP 작업에서 전처리의 영향에 관한 최근 연구들에 의해 형성되었습니다. Chalkidis 등은 도메인 인식 토큰화와 인용 정규화가 하위요약 정확도를 크게 향상시킨다는 것을 입증했습니다. 마찬가지로 Bommarito와 Katz는 법률 요약32에서 전처리 선택, 특히 엔터티 정규화가 변압기 성능에 직접적인 영향을 미친다는 것을 보여준다. 이러한 통찰을 바탕으로 파이프라인은 섹션 인식 토큰화, 법적 인용 정규화, 수사적 역할 구문 분석을 활용하여 맥락적 일관성을 극대화했습니다. 일반적인 전처리 방법과 도메인별 기법을 통합하여 고품질 법률 문서를 얻고, 처음에는 빈 또는 매우 짧은 대문자 필드의 일부 경우를 필터링하여 데이터의 무결성을 보장하는 새로운 전처리 파이프라인이 개발되었습니다. 다음으로, 입력 정규화가 이루어졌으며, 입력 사용성을 보장하기 위해 법적 토큰화 규칙이 적용되었습니다. 주요 엔터티는 맞춤형 고성능 법인체 인식 법인체 인식(LER) 모델(F1 점수 98%)을 사용해 추출했으며, 담화 구문 분석 기법을 사용해 구조적 요소를 파악하였습니다. 선례 분석을 향상시키기 위해 인용 그래프 구성 단계가 도입되었습니다. 다른 전처리 단계는 정규 표현식 파서에 대한 도메인 특화로, 입력이 표준화된 법률 인용의 매우 엄격한 형식에 정확히 일치하는지 검증합니다. 계층적 문서 구조에 대해 섹션 인식 토큰라이저가 적용되었고, 각 법률 텍스트마다 사실, 논증, 결정과 같은 수사적 역할로 표시된 미세 조정된 RoBERTa 분류기가 추가되었습니다. 이 넓은 파이프라인 덕분에 법률 문서 검색, 추론, 요약과 같은 하위 작업을 손쉽게 보완할 수 있습니다.

고급 사례 기반 추론 모듈

이 연구는 의미적 유사성과 법률 분야에 대한 지식을 활용해 벤치마크 데이터셋에서 98%의 검색 정확도로 관련성 있고 비교 가능한 사례를 제공할 수 있는 최첨단 사례 기반 추론(CBR) 시스템의 단계적 적용을 처음으로 제시합니다. 향상된 사례 표현은 도메인 중심 BERT 모델이 법률 텍스트에 생성하는 맥락화된 임베딩과 문서 내 요소의 위치를 반영하는 구조적 임베딩, 사건 내 법적 관계를 강조하는 엔터티 인지 임베딩, 판례가 어떻게 결합되는지를 나타내는 인용 네트워크 임베딩을 결합한 하이브리드 벡터로 각 사건을 인코딩합니다. 다단계 사례 검색은 먼저 근사 최근이웃(ANN) 검색을 수행해 시드 후보를 얻고, 교차 주의를 적용해 후보에서 최적의 매칭을 얻으며, 도메인 특화 점수 함수와 앙상블 기반 관련성 점수를 사용해 최선 사례 검색을 선택하는 다단계 접근법으로 작용합니다. 고급 사건 적응 단계(ACAS) 동안, 시스템은 법적 논거 간의 논리적 의존성을 포착하는 그래프 기반 표현 템플릿을 통해 추론 패턴을 추출합니다. 그 후 인용 분석을 통해 판례 관련성을 식별하며, 각 사례 구성 요소를 쿼리에 대한 맥락적 중요성에 따라 가중치를 부여합니다. 마지막으로, 논증 구조는 담화 구문 분석 기반 방법으로 유지되어 법적 추론의 논리적 흐름이 유지되도록 합니다. 마지막 모듈인 지식 통합 모듈은 법적 온톨로지를 통한 검색을 돕고, 시간적 선례 관계를 기록하며, 복잡한 법적 추론 사슬에서 타당성을 유지합니다. 제안된 CBR 시스템은 법적 사건의 검색 및 적응에 있어 이전에 보고된 벤치마크(예: LexGLUE, 92%-95%)보다 높은 98% 정확도를 달성합니다.

다단계 변압기 아키텍처

위에서 언급한 참고문헌을 바탕으로, 본 연구는 트랜스포머 기반 다단계 아키텍처 모델에 적용된 인공 신경망 기반 방법을 제안하며, 앞서 언급한 모든 알고리즘의 장점을 활용해 법률 문서의 자동 처리, 추론 및 요약을 개선합니다. 문서 이해 단계는 법률 영역에 맞게 조정된 BERT 인코더, 계층적 주의 메커니즘, 법인체 인식, 관계 추출, 인용 그래프 처리를 위한 모듈을 사용하여 법률 문서에 대한 깊은 구조적·맥락적 이해를 얻습니다. 문서 간 추론 단계는 법적 추론 연쇄 추출 및 검증, 판례 적용 모델, 논증 구조 보존 형태의 교차 주의 메커니즘을 통해 쿼리와 검색된 사례를 연결함으로써 사례 기반 추론을 지원합니다. SBERT와 Bi-LSTM은 문장 임베딩 형성 수준에 사용되었고, 추상 요약 생성 수준에는 법률 도메인 제약을 가진 맞춤형 디코더가 사용되어 법률 용어, 사실 일관성 및 요약 내 계층 구조를 정확히 유지했습니다. 과정을 여러 단계로 나누어 문서 처리가 사실의 일관성, 맥락적 일관성, 그리고 인용의 정확성을 유지하도록 할 수 있습니다. 제안된 모델 훈련 과정은 표 5에 나와 있습니다.

하이퍼파라미터값
배치 크기32
학습 속도3e-5 워밍업 포함
신 기원15
최대 시퀀스 길이2048 토큰
중도 탈락률0.15
경사 축적8단계
워밍업 동작1000
무게 감소0.01
라벨 스무딩0.1

표 5: 모델 훈련 과정.

모델 성능과 일반화를 향상시키기 위해 여러 고급 훈련 기법을 도입했으며, 이에 대해 자세히 다룹니다. 이 모델은 커리큘럼 학습을 통해 점진적으로 과제 복잡성을 높여, 더 어려운 상황에 도전하기 전에 기본 기술을 습득할 수 있도록 했습니다. 훈련 데이터셋에서 실험을 수행한 연구자들은 미세 조정이 매우 유사하고 이다른 데이터를 구분하는 데 도움을 주어 의미 표현을 정교하게 개선하여 데이터셋에 대한 이해를 높였음을 확인했습니다. 다중 작업 학습과 관련하여 요약은 분류 또는 함의 인식과 같은 보조 과제와 결합되어 법적 영역에 대한 보다 포괄적인 이해를 촉진했습니다. 고수준 지식을 유지하면서도 모델을 거대하게 만들지 않는 지식 추출을 통한 중요한 지식 이전은 이미 더 큰 도메인중심 모델에 적용되었습니다. 7.

다단계 하이브리드 법률 요약 방법론

제안된 프레임워크를 운영하기 위해, 다단계 하이브리드 법률 요약 방법론을 나타내는 단계별 알고리즘 1을 제시합니다.

알고리즘 1:
알고리즘: 다단계 하이브리드 법률 요약
입력: 법률 사건 데이터셋 D 필드 {case_text, legal_entities, 인용, 결과}
출력: 각 사건에 대한 요약 S와 법적 근거 보존
시작되다
1단계: 데이터 전처리
D의 각 경우에 대해:
노이즈를 제거하고 서식을 통일하기 위해 텍스트를 정규화하세요.
법인체 인정(LER)을 적용하여 법인을 추출하세요.
참고된 판례를 바탕으로 인용 그래프를 만드세요.
도메인 인식 법적 토큰화 규칙을 사용하여 텍스트를 토큰화하세요.
메모: 입력 말뭉치에 잡음이 있거나 불완전한 텍스트가 포함되어 있다면, 정지어 필터링이나 섹션 세분과 같은 추가 정규화를 수행합니다.

2단계: 사례 기반 검색
각 경우에 대해:
도메인 적응 BERT 인코더를 사용하여 문맥 임베딩을 생성합니다.
단면 위치에 따라 구조적 임베딩을 생성하세요.
인용 네트워크 임베딩을 생성하세요.
근사 최근접 이웃(ANN) 검색을 사용하여 유사한 과거 사례를 검색할 수 있습니다.
교차 주의 점수 및 집단 기반 관련성 순위를 사용하여 회수된 사례를 정제합니다.

3단계: 사건 적응
각 검색된 사례에 대해:
담화 구문을 이용해 추론 패턴을 추출하세요.
관련된 법적 논거를 식별하고 그 중요성에 따라 가중치를 부여하세요.
적응 과정에서 논증의 흐름을 유지하세요.
메모: 판례에 관련 없거나 모순되는 논거가 포함되어 있다면, 적응 시 이를 배제하세요.

4단계: 다단계 트랜스포머 기반 요약
각 입력 사례와 그 변형된 선례에 대해:
입력 케이스는 계층적이고 엔터티인지 주의를 가진 법률 도메인 BERT 인코더를 사용하여 인코딩합니다.
쿼리와 검색된 사례 간에 문서 간 추론을 적용합니다.
문장은 SBERT와 Bi-LSTM을 사용하여 문장을 인코딩하여 향상된 문맥 임베딩을 수행합니다.
사실과 법적 정확성을 유지하기 위해 도메인 제약 디코더를 사용하여 요약을 디코딩합니다.

5단계: 출력 및 검증
생성된 각 초록에 대해:
생성된 요약의 일관성, 사실적 정확성, 법적 추론의 정확성을 검증하세요.
최종 요약 S.
메모: 전문가의 검증이 필요하다면, 배포 전에 추가적인 인간 참여 검토 단계를 포함하세요.
끝

컴퓨팅 환경을 설정하기 위해 Python 3.10이 설치되었습니다. 설치에는 라이브러리가 필요합니다: PyTorch (v2.0), Hugging Face Transformers (v4.32.0), SpaCy (v3.6), NLTK (v3.8.1), NetworkX (v3.1), DGL (v1.1). GPU 지원은 구성되어 있었으며(각각 40GB 메모리를 가진 두 개의 GPU 사용 방식). 정확한 버전과 출처는 자료표를 참조하세요.

법적 사건 데이터셋(≈ 5,000건)은 지정된 데이터셋 소스에서 다운로드되었으며, 각 사건은 사실, 주장, 인용, 판결 결과 필드를 포함하도록 검증되었습니다. 문서를 UTF-8 평문 형식으로 저장하세요. 빈 텍스트나 짧은 텍스트는 파이썬 스크립트(preprocess.py)를 사용해 제거되었습니다. 잡음 제거와 텍스트 서식의 통일화가 이루어졌습니다. 법적 도메인 토큰화는 SpaCy(spacy.load("en_core_legal_sm")를 사용해 적용되었습니다. 법적 실체 인식은 미세 조정된 BERT 모델(transformers.pipeline("ner", model="legal-bert-ler")을 사용하여 수행되었습니다. NetworkX (nx. DiGraph()), 참조된 선례로 노드를 연결하는 방식. OCR 기반 문서가 포함된 경우, 추가적인 텍스트 정리 스크립트(ocr_clean.py)가 실행되었습니다.

맥락 임베딩은 도메인 특화 BERT 모델(bert-legal)으로 생성되었고, 인용 임베딩은 DGL 그래프 인코더를 사용해 생성되었습니다. FAISS(faiss. IndexFlatIP). 교차 주의 점수 산정은 PyTorch 모듈(CrossAttentionScorer)과 함께 적용되었으며, 얻은 결과는 맥락적 유사성과 인용 유사성의 앙상블 가중치로 순위를 매겼습니다. 담화 구조는 수사적 역할 분류기(roberta-legal-rhetoric)를 사용해 해석되었고, 수사적 역할을 정렬하여 관련 추론 패턴을 추출하였다. 빈도와 인용 강도에 따라 논증 구간에 가중치가 부여되었습니다. 모순되거나 관련 없는 선례는 제외합니다.

문서는 도메인 적응형 BERT 인코더로 인코딩되었고, 계층적 주의 모듈이 적용되었습니다(hierarchical_encoder.py년에 구현됨). SBERT와 Bi-LSTM(문장 변환기 패키지)이 문장 임베딩에 사용되었습니다. 추상적 요약은 제한 디코더(legal_decoder.py)를 사용해 디코딩되었습니다. 최대 시퀀스 길이를 2048 토큰으로 제한하세요. 모델을 학습시키기 위해 배치 크기 = 32, 학습률 = 3e-5를 설정하고, 15 에포크를 그라데이션 누적(8단계)으로 학습시키고, 드롭아웃 = 0.15, 가중치 감쇠 = 0.01, 라벨 스무딩 = 0.1을 활성화합니다. train_config.json에서 하이퍼파라미터를 수정하세요.

성능을 평가하기 위해 rouge_score 라이브러리를 사용해 ROUGE(1,2, L)를, nltk.translate.bleu_score를 사용해 BLEU를, bert_score 패키지를 사용해 BERTScore를 계산합니다. 온톨로지 기반 의미 유사성 스크립트를 사용해 Legal-SemSim을, SpaCy 및 골드 주석을 사용해 엔티티 F1을 평가합니다. 실행 시간 효율성(접힘당 초 단위)을 기록하고, 요약을 골드 참조와 비교했습니다. 두 명의 법률 전문가가 사실 정확성을 검토하도록 요청받았고, 최종 검증된 결과 요약본이 저장되었습니다. 이 프로토콜을 따르면 법적 논리, 사실 정확성, 인용 정확성을 유지하는 도메인별 법률 요약이 생성됩니다.

액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.

결과

평가 지표

시스템은 표 6에 나와 있는 포괄적인 지표 세트를 사용하여 평가되었습니다.

<...
미터 범주구체적 지표묘사
어휘 중복루즈-1, 루즈-2, 루즈-L생성된 요약과 참조 요약 간의 n그램 중복 측정
블루n-그램의 정밀도를 평가합니다

액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.

토론

다단계 변압기 설계에 대한 CBR 보강의 효과는 법률 도메인 텍스트 요약에서 새로운 성능 기준을 설정함으로써 달성되었습니다. 결과는 ROUGE 점수가 78.4 ROUGE-1, 54.8 ROUGE-2, 75.3 ROUGE-L로 유의미하게 향상되었고, 도메인별 지표인 98% 법인체 인식 F1이 나타났음을 나타냅니다. 각 구성 요소의 기여도를 더욱 검증하기 위해 CBR 단독 및 트랜스포머 전용 기준선을 도입했습니다. CBR의 유일한 기준선은 사실 정확성과 추론 보존이 강했으나 유창성과 포괄적인 범위는 부족했습니다. 반면, 트랜스포머 전용 기준선은 더 유창한 요약과 더 높은 어휘 중첩을 제공했으나, 법인체 인식과 추론 정확도에서는 낮은 성과를 보였습니다. 두 가지 조합(다단계 + CBR)은 두 기초 검사 모두를 능가하여, CBR이 맥락적 기반을 풍부하게 하는 반면, 트랜스포머가 언어 유창성과 의미 추상화를 향상시킨다는 점을 확인시켜 주었습니다. 이 제거는 상징적 검색과 신경 ...

액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.

공개 사항

저자들은 본 연구 내용과 관련된 잠재적 이해 충돌이 없음을 선언합니다.

감사의 글

저자들은 이 연구에 필수적인 계산 시설과 연구 인프라를 제공해 준 Koneru Lakshmaiah 교육 재단(대학으로 간주됨) 컴퓨터 과학 및 공학과에 진심으로 감사를 표합니다. 이 연구에 사용된 법률 말뭉치의 주석 작성과 평가에 기여한 법률 전문가 및 분야 전문가분들께 특별한 감사를 전합니다.

액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.

재료

이 논문에 사용된 재료 목록
이름회사카탈로그 번호댓글
CPU 하드웨어AMD EPYC 7742 (64코어, 2.25 GHz)1 유닛AMD
프레임워크파이토치2https://pytorch.org
GPU 하드웨어NVIDIA A100 (40 GB)2개 부대엔비디비아 사.
그래프 프레임워크DGL1.1https://www.dgl.ai
도서관포옹 페이스 트랜스포머4.32.0https://huggingface.co/transformers
도서관스페이시3.6https://spacy.io
도서관NLTK3.8.1https://www.nltk.org

참고문헌

  1. Powers, D. M. Evaluation: From precision, recall and F-measure to ROC, informedness, markedness & correlation. J Mach Learn Technol. 2 (1), 37-63 (2011).
  2. Eisenberg, M. A. Legal Reasoning. , Cambridge University Press. (2022).
  3. Lin, C. Y. ROUGE: A Package for Automatic Evaluation of Summaries. Text Summarizat Branches Out. , 74-81 (2004).
  4. Lewis, M., et al. Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension. Proc ACL. , 7871-7880 (2020).
  5. Hadi, A. Leveraging Transformer-Based Language Models to Bridge the Gap Between Language and Specialized Domains. [Doctoral Dissertation]. , Institut Polytechnique de Paris. (2024).
  6. Waterworth, K. Model-Agents of Change: A Meta-Cognitive, Interdisciplinary, Self-Similar, Synergetic Approach to Neuro-Symbolic Semantic Search and Retrieval Augmented Generation. [Master's Thesis]. , Miami University. (2024).
  7. Zhang, J., Zhao, Y., Saleh, M., Liu, P. PEGASUS: Pre-training with Extracted Gap-sentences for Abstractive Summarization. Proc ICML. , 11328-11339 (2020).
  8. Li, Z., et al. When object detection meets knowledge distillation: A survey. IEEE Trans. Pattern Anal Mach Intell. 45 (8), 10555-10579 (2023).
  9. Chen, Y., et al. Citation Network Analysis for Legal Reasoning. J AI Law. 28 (2), 145-170 (2020).
  10. Raffel, C., et al. Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. J Mach Learn Res. 21 (140), 1-67 (2020).
  11. Reimers, N., Gurevych, I. Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks. Proc EMNLP. , 3982-3992 (2019).
  12. Gunning, D., Aha, D. DARPA's explainable artificial intelligence (XAI) program. AI Mag. 40 (2), 44-58 (2019).
  13. Mihalcea, R., Tarau, P. TextRank: Bringing Order into Texts. Proc EMNLP. , 404-411 (2004).
  14. Sharma, G., Sharma, D. Automatic text summarization methods: A comprehensive review. SN Comput Sci. 4 (1), 33(2022).
  15. Xu, J., Croft, W. B. Neural Networks for Text Classification. Inf Retr J. 20 (3), 259-289 (2017).
  16. Ghosh, S., Dutta, A., Das, A. Indian Legal Text Summarization: A Text Normalisation-based Approach. arXiv. , (2022).
  17. Silver, D., et al. Mastering the Game of Go with Deep Neural Networks and Tree Search. Nature. 529, 484-489 (2016).
  18. Chalkidis, I., et al. LexGLUE: A benchmark dataset for legal language understanding in English. Proc ACL. 60 (1), 4310-4330 (2022).
  19. Ashley, K. Artificial Intelligence and Legal Analytics. , Cambridge University Press. (2017).
  20. Chalkidis, I., Fergadiotis, M., Aletras, N. LEGAL-BERT: The Muppets Straight Out of Law School. Proc ACL. , 2898-2910 (2020).
  21. Vaswani, A., et al. Attention Is All You Need. Adv Neural Inf Process Syst. 30, 5998-6008 (2017).
  22. Baker, A. R., Slack, F. J. ADAR1 and its implications in cancer development and treatment. Trends Genet. 38 (8), 821-830 (2022).
  23. Casola, S., Lavelli, A. Summarization, simplification, and generation: The case of patents. Expert Syst. Appl. 205, 117627(2022).
  24. Valente, A. Legal Knowledge Engineering. , IOS Press. (1995).
  25. Katz, D. M., et al. Natural language processing in the legal domain. arXiv. , (2023).
  26. Gilpin, L., et al. Explaining Explanations: An Approach to Interpretable AI. Proc ICML. 70, 89-98 (2018).
  27. Davoodijam, E., Alambardar Meybodi, M. Evaluation metrics on text summarization: comprehensive survey. Knowl Inf Syst. 66 (12), 7717-7738 (2024).
  28. Schauer, F. Precedent. , Stanford Encyclopedia of Philosophy. (1989).
  29. Bengio, Y., Louradour, J., Collobert, R., Weston, J. Curriculum Learning. Proc ICML. , 382-389 (2009).
  30. Vrandecic, D., Krötzsch, M. Wikidata: A Free Collaborative Knowledge Base. Commun ACM. 57 (10), 78-85 (2014).
  31. Chu, Y., Ye, M., Qian, Y. Fine-Grained Image Recognition Methods and Their Applications in Remote Sensing Images: A Review. IEEE J Sel Top Appl Earth Obs Remote Sens. 17 (6), 1234-1250 (2024).
  32. Vue, Z., et al. Stories from Hmong in STEMM. Trends Genet. 39 (8), 587-592 (2023).
  33. Begum, N., Goyal, A. Analysis of Legal Case Document Automated Summarizer. Proc ISPCC. , 533-538 (2021).
  34. Surden, H. Ethics of AI in Legal Practice. J Legal Ethics. 32 (2), 145-163 (2019).
  35. Bench-Capon, T. J. M., Sartor, G. Ontology-Based Legal Reasoning. Artif Intell Law. 11 (2), 125-157 (2003).
  36. Liu, Y. Fine-tune BERT for Extractive Summarization. arXiv. , (2019).

액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.

재인쇄 및 허가

태그

ROUGE
문의하기
사서에게 추천하기

개인정보

이용 약관

정책

저작권 © 2026 MyJoVE Corporation. 모든 권리 보유.