Rozumowanie oparte na przypadkach z głębokim uczeniem dla hybrydowego podejścia do streszczania tekstów prawnych

Podsumowanie

Protokół ten integruje rozumowanie oparte na przypadkach (CBR) z wielostopniowymi modelami transformatorów, aby podsumować teksty prawne. Wstępnie przetwarza sprawy prawne, wyciąga podobne precedensy, dostosowuje struktury rozumowania i generuje dokładne, spójne streszczenia. Zastosowania obejmują badania prawne, analizę orzeczeń oraz systemy wspierające decyzje, zapewniając spójność faktów i rzetelność rozumowania specyficzną dla danej dziedziny.

Streszczenie

Dokumenty prawne są znane z tego, że są długie i skomplikowane, co praktycznie uniemożliwia praktykom prawnym i badaczom szybkie zidentyfikowanie i wydobycie istotnych informacji. Przedstawiono tutaj hybrydowe podejście, które przewyższa wcześniejsze wyciąganie i abstrakcyjne bazy zarówno w zakresie pokrywania się leksykalnego, jak i metryk rozumowania specyficznego dla dziedziny, wykorzystując rozumowanie oparte na przypadkach (CBR) dla tekstów prawniczych oraz konkretne techniki głębokiego uczenia do podsumowania, dokładnie i efektywnie tworząc streszczenia. Wykorzystując większy zbiór danych 4 968 spraw prawnych z Kaggle, zbudowano wieloetapową architekturę transformatora na bazie ogólnego modelu wyszukiwania CBR stworzonego wcześniej do tworzenia krótkich streszczeń wraz z CBR w celu zrozumienia kontekstu. System został oceniony pod kątem przewidywania wyników prawnych i spójności podsumowań, z wynikami wykazującymi lepsze wyniki niż istniejące metody ekstrakcyjne i abstrakcyjne, a proponowany model trenowano do 98% dokładności podmiotów prawnych, wraz z 46% bardziej spójnym korpusem prawnym (ulepszonym na poziomie bazowym) niż najnowocześniejsze metody, w porównaniu do wyników ROUGE powyżej poprzednich typów o 23%. Niniejsze badanie przedstawia hybrydowy framework streszczania tekstów prawnych, który integruje CBR z modelami opartymi na transformatorach. Rozległe eksperymenty wykazują lepsze wyniki niż ostatnie wyniki bazowe, osiągając wyższą dokładność faktów, wiarygodność rozumowania oraz zachowanie podmiotów prawnych.

Wprowadzenie

Obszerna dokumentacja prawna wymagała zaawansowanych metod szybkiego pozyskiwania istotnych danych. Streszczanie tekstów prawnych jest ważne dla poprawy dostępności i podejmowania decyzji. Opinie prawne, orzeczenia i precedensy są tak rozwlekłe, że sędziowie, praktycy i badacze mogą mieć trudności z ich przejściem, co prowadzi do opracowania zautomatyzowanych metod streszczania tych dokumentów w dokładny i efektywny sposób¹.

Pomimo ich nowoczesnej wydajności w bardziej ogólnych sprawach, istniejące metody streszczania mają trudności z uchwyceniem unikalnej złożoności i żargonu prawniczego, które charakteryzują dokumenty prawne. Samo wybieranie górnych zdań bez przestawiania wyłącznie na podstawie logarytmicznej prawdopodobieństwa daje dobre wyniki ROUGE, ale traci na tle kontekstu i pełnej semantyce. Podejścia abstrakcyjne wykorzystują generowanie języka naturalnego do tworzenia relacji, dzięki czemu mogą uchwycić niuanse kontekstowe, ale mają trudności z zachowaniem logicznego procesu myślenia i rozumowania prawnego w sprawach sądowych². Proponowana metoda jest szczególnie skuteczna dla długich tekstów prawnych zawierających uporządkowane sekcje (np. fakty, argumenty, precedensy i wyroki). Sprawdza się w odniesieniu do korpusów z wyraźnymi cytowaniami i standaryzowanym formatowaniem, takimi jak orzeczenia apelacyjne lub sądy najwyższe. Jednak wydajność może być ograniczona do szumów lub nieustrukturyzowanych zbiorów danych (np. zeskanowanych plików PDF z błędami OCR lub dokumentów pozbawionych jasnej segmentacji retorycznej). Dlatego metoda ta najlepiej sprawdza się w dobrze ustrukturyzowanych cyfrowych repozytoriach przypadków, gdzie dostępne są zarówno funkcje językowe, jak i cytowania³.

Proponowany zaawansowany hybrydowy framework, łączący rozumowanie oparte na przypadkach (CBR) z zaawansowanym przetwarzaniem języka naturalnego (NLP), służy do generowania podsumowania. Wykorzystuje wielostopniową architekturę transformatora z warstwami uwagi specyficznymi dla domeny prawnej i proponuje moduł rozumowania międzydokumentowego. CBR pozwala systemowi ładować podobne wcześniejsze sprawy, które mogą być użyte do analizy wszystkich zmiennych kontekstowych z powodów prawnych⁴. Proponowany model osiągnął wyższą dokładność w porównaniu z najnowocześniejszymi bazami, co potwierdzają ilościowe postępy w metrykach ROUGE, BLEU i Legal-SemSim, a także potwierdzone przez ocenę ekspertów ludzkich. Na przykład proponowany model przewyższył Legal-BART i PALM-Law o przewagę 15%-20% pod względem dokładności łańcucha rozumowania. Przyjęcie ogólnych reprezentacji i zaawansowanych podejść dodaje wiedzę specyficzną dla konkretnych przypadków wraz z streszczaniem nerwowym i przewidywaniem, 98% precyzji w rozpoznawaniu podmiotów prawnych oraz 97% w wyszukiwaniu precedensów, znacznie przewyższając wcześniejsze prace⁵.

Powiązane dzieła

Streszczanie tekstów prawnych, będące poddziedziną przetwarzania języka naturalnego (NLP), zyskuje coraz większą uwagę ze względu na rosnące zapotrzebowanie na efektywne przetwarzanie dokumentów prawnych, w tym opinii sądowych, ustaw i orzecznictwa. Głównym wyzwaniem jest zachowanie integralności semantycznej, rozumowania prawnego oraz kontekstu specyficznego dla danej dziedziny w generowanych streszczeniach. Wcześniejsze badania obejmują podejścia eksploatacyjne, abstrakcyjne i hybrydowe, z ostatnim naciskiem na architektury neuronalne dostosowane do domeny⁶.

Przegląd literatury

Streszczanie tekstów prawnych stało się kluczowym obszarem w przetwarzaniu języka naturalnego, napędzanym pilną potrzebą udostępnienia i wykonania obszernych, złożonych dokumentów prawnych. Literatura tej dziedziny odzwierciedla trajektorię od powierzchownych modeli ekstrakcyjnych do zaawansowanych architektur hybrydowych, które próbują wyważyć płynność, integralność faktyczną i logikę prawną. Wczesne działania koncentrowały się na technikach ekstraktywnego streszczania, które priorytetowo traktowały znaczenie zdań na podstawie podobieństwa leksykalnego i wzorców statystycznych. Chociaż skuteczne w wyborze fragmentów prawnie istotnych, takie podejścia, takie jak TextRank i LexRank, często pomijają głębszą strukturę semantyczną i nie uchwycają retorycznych i argumentacyjnych warstw niezbędnych do rozumowania prawnego⁶. Ponieważ teksty prawne znacznie różnią się od korpusów ogólnych ze względu na sztywną semantykę i specyficzne dla dziedziny wyrażenie, modele te tworzyły streszczenia pozbawione spójności i odpowiedniości kontekstowej. Wraz z pojawieniem się wstępnie wytrenowanych architektur transformatorów, badania przesunęły się na metody abstrakcyjne. Modele takie jak BART, T5 i PEGASUS zaczęły wykazywać zdolność syntezy streszczeń z wykorzystaniem wzorców generowania języków nauczonych. Ich adaptacje prawne, takie jak LegalBART i LegalPEGASUS, dodatkowo udoskonaliły wydajność, wprowadzając specyficzne dla prawa korpusy wstępnego szkolenia⁷. Jednak metody abstrakcyjne nadal cierpiały na ograniczenia w spójności rozumowania oraz wyzwania wyjaśnialności, co jest szczególnie problematyczne w środowiskach prawnych, gdzie nawet drobne odchylenia faktyczne mogą prowadzić do błędnej interpretacji.

W odpowiedzi na te deficyty powstały modele hybrydowe, wykorzystujące rozumowanie symboliczne lub strategie oparte na wyszukiwaniu w celu poprawy ugruntowania kontekstu. Znaczącym kierunkiem była integracja CBR, gdzie wiedza z precedensów została wykorzystana do kontekstualizacji procesu generowania streszczeń. Modele te starają się zachować rzetelność metod ekstrakcyjnych, jednocześnie generując językowo spójne i prawnie ważne wyniki⁸.

Najnowsze trendy podkreślają architekturę wieloetapową, łączącą rozpoznawanie podmiotów prawnych, rozumowanie między dokumentami oraz retoryczną analizę ról, co sugeruje przejście w kierunku holistycznego rozumienia dokumentów, a nie jedynie streszczania. Badania coraz częściej uwzględniają dopasowanie ontologii prawnej, metryki oceny specyficzne dla danej dziedziny (np. Legal-SemSim) oraz ocenę skoncentrowaną na człowieku, aby ocenić jakość i użyteczność streszczeń dla profesjonalistów prawniczych⁹.

Najnowsze badania, takie jak Exploring LLMS Applications in Law in 2023 oraz Exploring the Use of LLMS in the Italian Legal Domain in 2024, podkreślają rosnącą rolę dużych modeli językowych (LLM) w automatyzacji rozumowania prawnego, streszczania i zadań wyszukiwania¹⁰. Prace te podkreślają nie tylko zdolność LLM takich jak GPT-4, PaLM i LLaMA do uchwycenia kontekstowych niuansów dyskursu prawnego, ale także wyzwania związane z adaptacją domenową, wyjaśnialnością i spójnością faktoracyjną¹¹. Systemy hybrydowe integrujące generowanie uzupełnione wyszukiwaniem (RAG) (CBR) z LLM są coraz częściej badane, aby połączyć zalety rozumowania opartego na precedensach z generatywną płynnością transformers⁶. Umieszczając pracę w ramach tego trendu, proponowany wieloetapowy model hybrydowy rozszerza wcześniejsze ramy uzupełniane wyszukiwaniem, wyraźnie kodując łańcuchy rozumowania prawnego, jednocześnie zachowując spójność poprzez abstrakcyjne podsumowanie oparte na transformatorach.

Pomimo znaczącego postępu, wciąż istnieje luka w modelach, które potrafią syntetyzować faktograficzne, logicznie ustrukturyzowane i zgodne z domeną streszczenia prawne, zachowując jednocześnie interpretowalność¹². Niniejsza praca wypełnia tę lukę, proponując wieloetapowe podejście hybrydowe oparte na prawnym CBR i głębokiej architekturze neuronowej, oferując model zarówno dokładny, jak i praktycznie użyteczny.

Podejścia do podsumowania ekstrakcyjnego

Termin streszczanie ekstraktowe odnosi się do metod, które wyodrębniają i łączą najbardziej pouczające zdania z dokumentu. Algorytmy oparte na grafach, np. TextRank¹³ i LexRank¹⁴, to tradycyjne podejścia, które klasyfikują zdania na podstawie ich znaczenia. Chociaż są wykonalne obliczeniowo, takie podejścia zazwyczaj mają trudności ze złożonym rozumowaniem prawnym i argumentacją⁸. Wraz z pojawieniem się wstępnie wytrenowanych modeli językowych, metody oparte na, takie jak BERTSUM⁸ , wykazały znaczące postępy. BERTSUM dopracowuje osadzenia do podsumowań ekstrakcyjnych na poziomie zdań, lepiej uchwycając niuanse kontekstowe niż modele statystyczne⁹. Adaptacje dziedziny prawniczej, takie jak Legal-BERTSUM, dodatkowo udoskonaliły wydajność, wprowadzając korpusy specyficzne dla prawa, umożliwiając lepsze rozpoznawanie terminów prawnych i dobór wyroków. Niemniej jednak metody ekstrakcyjne są ograniczone w rekonstrukcji przepływu argumentacyjnego lub łańcucha rozumowania prawnego, szczególnie gdy zdania są współzależne, a odniesienia są ukryte¹⁵.

Podejścia abstrakcyjnego podsumowywania

Abstrakcyjne streszczanie generuje nowe frazy i zdania, które przeformułowują źródłową treść, często wykorzystując architektury enkodera-dekodera. Model BART⁴ i PEGASUS⁷ są wiodącymi przykładami wstępnie wytrenowanych modeli sekwencja do sekwencji stosowanych do ogólnego przeznaczenia podsumowań. Zostały one dostosowane do dziedziny prawnej poprzez precyzyjne dostrojenie korpusów prawnych – co zaowocowało modelami takimi jak Legal-BART i Legal PEGASUS^16,17. Modele te tworzą bardziej płynne i ludzkie podsumowania oraz lepiej oddają kontekstowe znaczenie niż podejścia ekstrakcyjne¹⁸.

Jednak ich zastosowanie w streszczeniach prawnych napotyka wyzwania. Modele abstrakcyjne często mają trudności z faktyczną spójnością i zachowaniem semantyki prawnej. Błędna interpretacja klauzul prawnych lub pominięcie kluczowych podmiotów prawnych może uczynić streszczenie wprowadzającym w błąd¹⁹. Ponadto modele generowania tekstu neuronowego są zazwyczaj nieprzejrzyste, co rodzi kwestie wyjaśnialności i weryfikowalności, które są kluczowe w dziedzinach prawa.

Hybrydowe modele podsumowań

Aby wykorzystać mocne strony obu paradygmatów, hybrydowe modele podsumowań integrują komponenty ekstraktywne i abstrakcyjne. Jedną z wczesnych strategii było użycie modułów ekstraktywnych do wyboru zdań kandydatów, które następnie były dopracowywane przez abstrakcyjny dekoder. W ostatnich latach architektura transformatorów została połączona z modułami bogatymi wiedzą, aby poprawić zrozumienie prawne⁵.

CBR wyłoniło się jako obiecująca strategia hybrydowa. Waterworth był pionierem wykorzystania wcześniejszych przypadków do informowania bieżących decyzji, a ich integracja z modelami neuronowymi umożliwia wzbogacenie semantyczne poprzez rozumowanie analogiczne⁶. W podsumowaniu prawnym połączenie CBR z transformerami pozwala zarówno na ponowne użycie kontekstowe, jak i syntezę abstrakcyjną. Modele takie jak BART+CBR integrują kontekst prawny oparty na wyszukiwaniu z mechanizmami generatywnymi, oferując lepszą spójność i istotność prawną²⁰.

Proponowana architektura Multistage + CBR rozwija tę linię pracy, osadzając łańcuchy rozumowania specyficzne dla dziedziny w potoku podsumowania. Posiada hierarchiczne bloki transformatorów, uwagę międzydokumentową oraz warstwy wyszukiwania z ulepszeniem CBR, dostosowane specjalnie do zastosowań prawnych. Ten wielowarstwowy projekt umożliwia zarówno szczegółowe zrozumienie treści, jak i zachowanie struktury na poziomie makro²¹.

Wyzwania i rozważania dotyczące prawa

Dokumenty prawne wykazują unikalne cechy strukturalne i językowe, w tym hierarchiczne formatowanie, wzajemne odwoływanie się do precedensów, cytowania ustawowe oraz terminologię specyficzną dla poszczególnych dziedzin²². Modele streszczające muszą więc nie tylko obsługiwać złożoność składniową i semantyczną, ale także respektować spójność logiczną i postęp argumentacji prawnej²³. Skuteczne streszczanie w tym kontekście zależy od dokładnego rozpoznania podmiotów prawnych, zachowania struktury rozumowania oraz interpretacji ról retorycznych, takich jak fakty, argumenty i orzeczenia.

Do poprawy zrozumienia dziedziny zastosowano ontologie prawne i sieci cytowań. Na przykład integracja ustrukturyzowanych baz wiedzy prawnej podczas treningu modelu wykazała poprawę łączenia podmiotów prawnych oraz spójność cytowań²⁴. Te działania przyczyniają się do podsumowywania modeli, które lepiej odpowiadają oczekiwaniom prawników²⁵.

Kolejnym wyzwaniem jest interpretowalność. W warunkach prawnych wyniki muszą być podlegające audytowi i interpretacji. Dlatego coraz częściej badane są ramy wyjaśnianej AI (XAI), takie jak LIME i SHAP, aby uzasadnić decyzje podsumowujące, choć integracja z modelami na dużą skalę pozostaje trwającym wyzwaniem badawczym²⁶.

Metryki ewaluacyjne w streszczaniu prawnym

Standardowe metryki podsumowujące, takie jak ROUGE⁸, BLEU²⁷ i METEOR, są powszechnie stosowane do oceny pokrywania się leksykalnego. Jednak te miary nie wystarczają do uchwycenia wierności semantycznej, spójności prawnej i spójności argumentacyjnej.

Najnowsze działania wprowadzają metryki specyficzne dla dziedziny, takie jak Legal-SemSim, który wykorzystuje ontologie prawne do oceny podobieństwa semantycznego, oraz dokładność łańcucha rozumowania, który ocenia zachowanie przepływu logicznego i ważność wniosków²⁸. Ocena ekspertów ludzkich pozostaje niezbędna, szczególnie do oceny poprawności prawnej, spójności i możliwości działania. Umowa między anotatorami przy użyciu wskaźników takich jak Kappa Fleissa zapewnia wiarygodność ocen jakościowych²⁹.

Najnowsze osiągnięcia i przyszłe kierunki w streszczaniu prawnym

Badania nad streszczaniem prawnym zmierzają w kierunku bardziej solidnych, świadomych kontekstu i łatwych do wyjaśnienia systemów. Hybrydowe architektury symboliczno-neuronowe, które integrują rozumowanie oparte na regułach z modelami transformerów, zyskują na popularności. Systemy te zachowują interpretowalność podejść opartych na logice, jednocześnie korzystając z możliwości uogólniania głębokiego uczenia²⁸.

Wielojęzyczne streszczenia prawne to kolejna nowa dziedzina, która porusza globalny charakter tekstów i postępowań prawnych³⁰. Rozumowanie czasowe, niezbędne do zrozumienia sekwencji prawnych zależnych od czasu, oraz modelowanie dyskursu argumentacyjnego są również przedmiotem badań⁹.

Ponadto postępy w nauczaniu kontrastownym i nauczaniu są wykorzystywane do zwiększenia uogólniania modeli w różnych dziedzinach prawnych¹⁷. Poprzez stopniowe zwiększanie złożoności zadań i różnicowanie drobnoziarnistych klas semantycznych, techniki te poprawiają odporność modelu w rzeczywistych scenariuszach³¹.

Protokół

Protokół ten korzysta z publicznie dostępnych legalnych zbiorów danych. Nie użyto żadnych wrażliwych danych osobowych ani poufnych. Badanie jest zgodne z instytucjonalnymi wytycznymi etycznymi dotyczącymi wykorzystania korpusów prawnych w badaniach (Koneru Lakshmaiah Education Foundation (Deemed to be University), Hyderabad, Telangana, Indie, nr zatwierdzenia: KLEF/CS/2024/IRB-017). Badanie wykorzystuje zestaw danych obejmujący 4 968 spraw prawnych, z których każda zawiera obejmujące adnotacje. Tabela 1 przedstawia opis zbioru danych.

precedent_citations	Cytowania uporządkowane do spraw precedensowych
reasoning_chains	Sekwencje logicznego rozumowania z adnotacjami

Tabela 1: Opis atrybutów zbioru danych.

Zbiór danych do badania

Po wstępnym przetworzeniu zbiór danych jest normalizowany, aby standaryzować wyniki. Długość tekstów przypadków waha się od 1 000 do 5 000 słów, obszernych do celów szkoleniowych i oceny. Zebraliśmy wyniki spraw do etykiet głównych według ich częstotliwości w zbiorze danych, co pozwoliło nam zbadać wydajność streszczania w różnych kontekstach prawnych. Adnotacje przeprowadził zespół pięciu profesjonalistów prawnych, w tym trzech praktykujących prawników oraz dwóch doktorantów specjalizujących się w informatyce prawnej. Każda sprawa była niezależnie komentowana przez dwóch ekspertów, a konflikty rozstrzygane przez starszego adnotatora. Schemat adnotacji obejmował podmioty prawne, cytowania precedensów oraz łańcuchy rozumowania. Zgodność między anotatorami mierzono za pomocą Kappa Fleissa (κ = 0,82), co wskazuje na silną spójność między anotatorami. Proces ten zapewnił zarówno prawną ważność, jak i powtarzalność zbioru danych.

Rozkład zbiorów danych

Zbiór danych obejmuje przypadki obejmujące różne dziedziny prawne, jak pokazano w Tabeli 2.

Dziedzina prawna	Liczba spraw	Procent
Prawo kontraktowe	1,278	25.70%
Własność intelektualna	1,053	21.20%
Prawo konstytucyjne	512	10.30%
Prawo administracyjne	432	8.70%
Prawo karne	308	6.20%
Prawo deliktowe	219	4.40%
Inne/Różne	1,166	23.50%

Tabela 2: Sprawy obejmujące różne dziedziny prawne.

Rozkład wyników przypadków w zbiorze danych przedstawiono w Tabeli 3.

Wyniki sprawy	Hrabia	Procent
Cytowane	2,460	49.20%
Odnosi się do	855	17.10%
Śledzony	471	9.40%
Zastosowanie	447	8.90%
Rozważane	353	7.10%
Inne skutki	382	8.30%

Tabela 3: Rozkład wyników przypadków w zbiorze danych.

W związku z tym potwierdził rozsądne przedstawienie w różnych dziedzinach w zakresie treningów, walidacji i podziałów testów z wykorzystaniem próbkowania stratyfikacyjnego, aby zapobiec uprzedzeniom specyficznym dla danej dziedziny. Zbiór danych podzielono na zestawy treningowe (80%), walidację (10%) oraz testowe (10%).

Rozkład długości tekstu

Analiza rozkładu długości tekstu przedstawiona jest w Tabeli 4.

Zakres długości (słowa)	Hrabia	Procent
Poniżej 500	465	9.40%
500-1,000	1,359	27.40%
1,000-5,000	2,698	54.30%
5,000-10,000	323	6.50%
Ponad 10 000	154	3.10%

Tabela 4: Analiza rozkładu długości tekstu.

Ten rozkład podkreśla różnorodność długości dokumentów, z których większość mieści się w średnim zakresie (1 000-5 000 słów), co stanowi odpowiednie wyzwanie dla technik streszczania.

Ulepszone wstępne przetwarzanie danych

Proces wstępnego przetwarzania opierał się na najnowszych badaniach dotyczących wpływu preprzetwarzania na prawne zadania NLP oparte na transformatorach. Chalkidis i in. wykazują, że tokenizacja świadoma domeny oraz normalizacja cytowań znacząco poprawiają dokładność podsumowań w dalszej części³⁰. Podobnie Bommarito i Katz pokazują, że wybory dotyczące wstępnego przetwarzania, szczególnie normalizacja podmiotów, bezpośrednio wpływają na wydajność transformatora w podsumowaniu prawnym³². Na podstawie tych wniosków pipeline zastosował tokenizację świadomą sekcji, normalizację cytowań prawnych oraz analizę ról retorycznych, aby zmaksymalizować spójność kontekstową. Opracowano nowatorski proces wstępnego przetwarzania, integrujący ogólne metody wstępnego przetwarzania oraz techniki specyficzne dla danej dziedziny, aby uzyskać wysokiej jakości tekst prawny i początkowo odfiltrować kilka przypadków pustych lub bardzo krótkich pól tekstowych w przypadku liter, aby zapewnić integralność danych. Następnie przeprowadzono normalizację wejścia, gdzie zastosowano legalne zasady tokenizacji, aby zapewnić użyteczność wejść³³. Kluczowe podmioty zostały wyodrębnione za pomocą niestandardowego, wysokowydajnego modelu rozpoznawania podmiotów prawnych (LER) (wynik F1 98%), a techniki analizy dyskursu wykorzystano do zrozumienia elementów strukturalnych. Aby usprawnić analizę precedensów, wprowadzono etap budowy grafu cytowań. Inne etapy wstępnego przetwarzania są specyficzne dla zakresu parserów wyrażeń regularnych, potwierdzając, że ich wejście dokładnie odpowiada bardzo rygorystycznym formatom dla standaryzowanych cytowań prawnych. Zastosowano tokenizatory uwzględniające sekcje dla hierarchicznych struktur dokumentów, a dla każdego tekstu prawnego dodano dopracowany klasyfikator RoBERTa oznaczony rolami retorycznymi, takimi jak fakty, argumenty i decyzje. Ten szerszy pipeline pozwala nam trywialnie uzupełniać zadania w kolejnych etapach, takie jak wyszukiwanie tekstów prawnych, rozumowanie i streszczenie.

Zaawansowany moduł rozumowania opartego na przypadkach

Badanie po raz pierwszy prezentuje zaawansowane zastosowanie nowoczesnego systemu rozumowania opartego na przypadkach (CBR), który może wykorzystywać podobieństwo semantyczne oraz wiedzę o dziedzinie prawa, aby dostarczać sprawy z 98% dokładnością wyszukiwania na zbiorze danych benchmark. Enhanced Case Representation koduje każdą sprawę wektorem hybrydowym, który łączy kontekstualizowane osadzenia – generowane przez model skoncentrowany na danym zakresie tekstów prawnych – z osadzeniami strukturalnymi odzwierciedlającymi pozycję elementów w dokumencie, osadzeniami świadomymi podmiotów, które podkreślają relacje prawne obecne w sprawach, oraz osadzeniami sieci cytowań, które odzwierciedlają, jak precedensy są powiązane. Wieloetapowe wyszukiwanie przypadków działa jako podejście wieloetapowe, polegające najpierw na przeprowadzeniu wyszukiwania Approximate Nearest Neighbor (ANN) w celu uzyskania kandydatów z zalążków, zastosowaniu cross-attention w celu uzyskania optymalnych dopasowaniach od kandydatów oraz użyciu funkcji punktacji specyficznej dla danej dziedziny i oceny relewancji opartej na zespole do wyboru najlepszych przypadków wyszukiwania. Podczas etapu zaawansowanej adaptacji sprawy (ACAS) system wyodrębnia wzorce rozumowania za pomocą szablonu reprezentacji opartego na grafach, który wychwytuje zależności logiczne między argumentami prawnymi. Następnie identyfikuje znaczenie precedensu poprzez analizę cytowań, ważąc każdy element sprawy zgodnie z jego kontekstowym znaczeniem dla zapytania. Wreszcie, struktura argumentacji jest utrzymywana przy użyciu metod opartych na analizie dyskursu, aby zapewnić zachowanie logicznego przepływu rozumowania prawnego. Ostatni moduł, moduł Integracja Wiedzy, ułatwia wyszukiwanie poprzez ontologie prawne, dokumentuje relacje precedensów czasowych i zachowuje ważność w złożonych łańcuchach rozumowania prawnego. Proponowany system CBR osiąga 98% poprawny wskaźnik wyszukiwania, co jest wyższe niż wcześniej raportowane benchmarki (np. LexGLUE, 92%-95%) dla wyszukiwania i adaptacji spraw prawnych.

Architektura transformatora wielostopniowego

Na podstawie powyższych odniesień badanie proponuje metodę opartą na sztucznych sieciach neuronowych opartą na modelu wieloetapowej architektury opartej na transformatorach, która wykorzystuje najlepsze elementy wszystkich wymienionych algorytmów do usprawnienia automatycznego przetwarzania, rozumowania i streszczania dokumentów prawnych. Etap rozumienia dokumentu wykorzystuje enkoder dostosowany do dziedziny prawnej, mechanizmy hierarchicznej uwagi oraz moduły do rozpoznawania podmiotów prawnych, ekstrakcji relacji i przetwarzania wykresów cytowań, aby uzyskać głębokie strukturalne i kontekstowe zrozumienie dokumentów prawnych. Etap rozumowania pomiędzy dokumentami wspomaga rozumowanie oparte na sprawach poprzez łączenie zapytań z odzyskanymi sprawami za pomocą mechanizmu wzajemnej uwagi w postaci wyodrębniania i walidacji łańcuchów rozumowania prawnego, modelu stosowania precedensów oraz zachowania struktury argumentacji. SBERT i Bi-LSTM były używane na poziomie formowania zdań, natomiast niestandardowy dekoder z ograniczeniami domeny prawnej był używany na poziomie generowania abstrakcyjnych podsumowań, aby dokładnie utrzymać terminy prawne, spójność faktów i hierarchię w podsumowaniu zgodnie z wymogami pisania prawnego. Dzieląc proces na różne etapy, można zapewnić, że przetwarzanie dokumentów zachowa spójność faktów, spójność kontekstową oraz wierność cytowaniu. Proponowany proces treningu modelu przedstawiony jest w Tabeli 5.

Hiperparametr	Wartość
Wielkość partii	32
Tempo uczenia się	3e-5 z rozgrzewką
Epoki	15
Maksymalna długość sekwencji	Żetony 2048
Wskaźnik rezygnacji ze studiów	0.15
Nagromadzenie gradientów	8 kroków
Kroki rozgrzewkowe	1000
Spadek masy	0.01
Wygładzanie etykiet	0.1

Tabela 5: Modelowy proces treningowy.

Aby poprawić wydajność i uogólnienia modelu, wdrożyliśmy wiele zaawansowanych technik treningowych, które są szczegółowo omówione. Wykorzystywał naukę programu nauczania do stopniowego zwiększania złożoności zadań, umożliwiając modelowi zdobywanie podstawowych umiejętności przed podjęciem trudniejszych sytuacji. Przeprowadzając eksperymenty na zbiorze treningowym, badacz potwierdził, że precyzyjne dostrojenie skutecznie udoskonala reprezentacje semantyczne, pomagając modelowi rozróżnić bardzo podobne od niepodobnych danych, co poszerza jego zrozumienie tego zbioru. W odniesieniu do uczenia się wielozadaniowego, streszczanie łączono z zadaniami pomocniczymi, np. klasyfikacją lub uznawaniem implikacji, co sprzyjało pełniejszemu rozumieniu dziedziny prawnej. Transfer ważnej wiedzy poprzez destylację wiedzy, która zachowuje wiedzę na wysokim poziomie bez przeznaczania rozmiaru modelu, został już przeniesiony do większych, skoncentrowanych na modelu domenowym⁷.

Wieloetapowa metodologia podsumowywania prawnego hybrydowego

Aby zoperacyjnizować proponowane ramy, przedstawiono algorytm krokowy 1, reprezentujący wieloetapową metodologię podsumowywania prawnego hybrydowego.

Algorytm 1:
Algorytm: Wieloetapowe hybrydowe streszczenie prawne
Input: Zbiór danych sprawy prawnej D z polami {case_text, legal_entities, cytowania, wynik}
Efekt: Streszczenie S dla każdej sprawy z zachowaniem uzasadnienia prawnego
Początek
Etap 1: Wstępne przetwarzanie danych
Dla każdego przypadku w D:
Znormalizuj tekst, aby usunąć szum i ujednolicić formatowanie.
Zastosowanie Recognition Legal Entity (LER) do wyodrębnienia podmiotów prawnych.
Stwórz wykres cytowań na podstawie cytowanych precedensów.
Tokenizuj tekst według zasad legalnej tokenizacji uwzględniającej domenę.
UWAGA: Jeśli korpus wejściowy zawiera szumy lub niekompletne teksty, wykonaj dodatkową normalizację, taką jak filtrowanie słów stopowych lub segmentacja sekcji.

Etap 2: Wyszukiwanie oparte na przypadku
Dla każdego przypadku:
Generuj kontekstowe osadzenia za pomocą enkodera dostosowanego do domeny.
Generuj osadzenia strukturalne na podstawie pozycji przekroju.
Generuj osadzenia sieci cytowań.
Pobierz podobne wcześniejsze przypadki za pomocą wyszukiwania Approximate Nearest Neighbor (ANN).
Uprecyzuj przypadki za pomocą punktacji cross-attention i rankingu trafności opartego na zespół.

Etap 3: Adaptacja przypadku
Dla każdego pobranego przypadku:
Wyodrębniaj wzorce rozumowania za pomocą parsowania dyskursu.
Zidentyfikuj istotne argumenty prawne i przypisuj wagę na podstawie ich znaczenia.
Zachowaj płynność argumentacji podczas adaptacji.
UWAGA: Jeśli precedensy zawierają nieistotne lub sprzeczne argumenty, wyklucz je podczas adaptacji.

Etap 4: Wielostopniowe podsumowanie oparte na transformatorze
Dla każdego przypadku wejściowego i jego dostosowanych precedensów:
Zakoduj przypadek wejściowy za pomocą enkodera domeny prawnej, z hierarchiczną i świadomą bytu uwagą.
Stosuj rozumowanie między dokumentami a przypadkami.
Kodowanie zdań za pomocą SBERT i Bi-LSTM dla ulepszonych kontekstowych osadzeń.
Odkoduj podsumowanie za pomocą dekodera ograniczonego domeną, aby zachować dokładność faktów i praw.

Etap 5: Wyjście i walidacja
Dla każdego wygenerowanego KRÓTKIEGO STRESZCZENIA:
Zweryfikować wygenerowane podsumowanie pod kątem spójności, poprawności faktów oraz zgodności z rozumowaniem prawnym.
Zwróć ostateczne podsumowanie S.
UWAGA: Jeśli wymagana jest walidacja ekspertów, dodaj dodatkowy etap przeglądu z udziałem człowieka przed wdrożeniem.
Koniec

Aby skonfigurować środowisko obliczeniowe, zainstalowano Pythona 3.10. Instalacja wymaga bibliotek: PyTorch (v2.0), Hugging Face Transformers (v4.32.0), SpaCy (v3.6), NLTK (v3.8.1), NetworkX (v3.1), DGL (v1.1). Obsługa GPU była konfigurowana (dwa GPU po 40 GB każda). Zobacz Tabelę materiałów, aby uzyskać dokładne wersje i źródła.

Zbiór danych spraw prawnych (≈ 5 000 spraw) został pobrany z określonego źródła zestawu danych, a każda sprawa była weryfikowana z polami: faktami, argumentami, cytowaniami i wynikami orzeczeń. Przechowywanie dokumentów w formacie tekstowym UTF-8. Usunięto puste lub krótkie teksty za pomocą skryptu Pythona (preprocess.py). Usunięto szumy i ujednolicono formatowanie tekstu. Tokenizacja domen legalnych została zastosowana za pomocą SpaCy (spacy.load("en_core_legal_sm")). Rozpoznawanie podmiotów prawnych było wykonywane przy użyciu precyzyjnie dostrojonego modelu (transformers.pipeline("ner", model="legal--ler")). Za pomocą NetworkX (nx. DiGraph()), łącząc węzły za pomocą odniesienych precedensów. Jeśli dołączono dokumenty oparte na OCR, uruchamiano dodatkowy skrypt do czyszczenia tekstu (ocr_clean.py).

Kontekstowe osadzenie generowano za pomocą specyficznego dla dziedziny modelu (-legal), a osadzenia cytowań za pomocą enkoderów grafów DGL. Przybliżone wyszukiwanie najbliższego sąsiada przeprowadzono za pomocą FAISS (faiss. IndexFlatIP). Cross-attention punktacja została zastosowana za pomocą modułu PyTorch (CrossAttentionScorer), a uzyskane wyniki były klasyfikowane według wag zespołowych kontekstu i cytowań. Struktura dyskursu została przeanalizowana za pomocą klasyfikatora ról retorycznych (roberta-legal-rhetoric), a odpowiednie wzorce rozumowania wyodrębniono poprzez dopasowywanie ról retorycznych. Wagi przypisywano segmentom argumentów na podstawie częstotliwości i siły cytowań. Wyklucz sprzeczne lub nieistotne precedensy.

Dokumenty kodowano za pomocą kodera dostosowanego do domeny, a zastosowano moduły hierarchicznej uwagi (zaimplementowane w hierarchical_encoder.py). Do osadzania zdań używano SBERT i Bi-LSTM (pakiet transformatorów zdań). Abstrakcyjne streszczenia były dekodowane za pomocą dekodera z ograniczeniem (legal_decoder.py). Ogranicz maksymalną długość sekwencji do 2048 tokenów. Aby trenować model, ustaw rozmiar partii = 32, tempo uczenia = 3e-5, trenuj przez 15 epok z nagromadzeniem gradientów (8 kroków), Stosuj dropout = 0,15 i spadek wagi = 0,01, Włącz wygładzanie etykiet = 0,1. Modyfikacja hiperparametrów w train_config.json.

Aby ocenić wydajność, oblicz ROUGE (1,2, L) używając rouge_score biblioteki, BLEU używając nltk.translate.bleu_score oraz BERTScore używając_score pakietu. Oceniaj Legal-SemSim za pomocą skryptów semantycznych opartych na ontologii oraz encji F1 za pomocą SpaCy i złotych adnotacji. Wydajność wykonania (sekundy na zgięcie) była rejestrowana, a streszczenia porównywano z odniesieniami złotymi. Dwóch ekspertów prawnych zostało poproszonych o przeanalizowanie poprawności faktów, a ostateczne, zweryfikowane podsumowania wyników zostały zachowane. Stosowanie tego protokołu pozwoli na opracowanie streszczeń prawnych specyficznych dla danej dziedziny, które zachowują rozumowanie prawne, dokładność faktów i wierność cytowania.

Wyniki

Metryki oceny

System został oceniony na podstawie kompleksowego zestawu wskaźników, przedstawionych w Tabeli 6.

Kategoria metryczna	Konkretne metryki	Opis
Nakładanie się leksykalne	ROUGE-1, ROUGE-2, ROUGE-L	Nakładanie się miar n-gramów ...

Dyskusja

Skuteczność uzupełnienia CBR do wieloetapowego projektu transformatora osiągnięto poprzez ustanowienie nowego standardu wydajności w streszczeniu tekstów w dziedzinie prawniczej. Wyniki wskazują na istotną poprawę wyników ROUGE wynoszącymi 78,4 ROUGE-1, 54,8 ROUGE-2 i 75,3 ROUGE-L, a także wskaźniki specyficzne dla dziedziny – 98% rozpoznawalności podmiotów prawnych F1. Aby dodatkowo zweryfikować wkład każdego komponentu, wprowadzono bazy oparte tylko na CBR oraz tylko na transformatorze. Tylko bazowy punkt CBR wykazywał...

Materiały

Lista materiałów użytych w tym artykule

Nazwa	Firma	Numer katalogowy	Komentarze
Sprzęt CPU	AMD EPYC 7742 (64-rdzeniowy, 2,25 GHz)	1 jednostka	AMD
Ramy	PyTorch	2	https://pytorch.org
Sprzęt GPU	NVIDIA A100 (40 GB)	2 jednostki	NVIDIA Corp.
Framework grafu	DGL	1.1	https://www.dgl.ai
Biblioteka	Transformatorzy z Przytulającą Twarzą	4.32.0	https://huggingface.co/transformers
Biblioteka	SpaCy	3.6	https://spacy.io
Biblioteka	NLTK	3.8.1	https://www.nltk.org