Feinabstimmung großer Sprachmodelle unter Verwendung des Entitätshalluzinationsindex zur Textzusammenfassung

Summary

Wir schlagen einen auf Reinforcement Learning basierenden Feinabstimmungsansatz für große Sprachmodelle vor, der den Enti Hallucination Index (EHI) als Belohnungssignal nutzt, um Halluzinationen auf Entitätsebene in Textzusammenfassungen zu reduzieren. Experimente mit Protokollen zeigen, dass diese Methode die Treue und Genauigkeit der Entitäten verbessert.

Abstract

Jüngste Fortschritte bei großen Sprachmodellen (LLMs) haben zu bemerkenswerten Verbesserungen der Qualität der abstrakten Zusammenfassung geführt. Halluzinationen – insbesondere auf Entitätsebene, bei denen nicht existierende oder falsche Entitäten eingeführt werden – bleiben jedoch eine entscheidende Herausforderung. In dieser Arbeit schlagen wir einen belohnungsgetriebenen Feinabstimmungsrahmen für Zusammenfassungsmodelle vor, der den Entity Hallucination Index (EHI) als Leitmaß verwendet. Die Methodik beginnt hier mit der Erstellung von ersten Zusammenfassungen aus vortrainierten Modellen wie Flan-T5, Distilbart und Mistral (oder einem anderen populären LLM) auf strukturierten Transkriptdatensätzen, XSUM. Wir berechnen EHI, indem wir benannte Entitäten sowohl aus generierten Zusammenfassungen als auch aus Goldreferenzen extrahieren, die Genauigkeit bewerten und erfundene Entitäten bestrafen. Der Feinabstimmungsprozess wird durch Verstärkungslernen geleitet, wobei EHI als Belohnungssignal dient. Wir verwenden einen REINFORCE-ähnlichen Update-Mechanismus, um das Zusammenfassungsmodell zu optimieren und die Treue der Entitäten zu maximieren. Experimente zeigen, dass Modelle, die mit EHI fein abgestimmt sind, niedrigere Halluzinationsraten erreichen, ohne die Informativität zu beeinträchtigen. Darüber hinaus zeigen wir, dass EHI-geführte Modelle bei Out-of-Domain-Zusammenfassungsaufgaben besser verallgemeinern können, was auf eine erhöhte Robustheit hindeutet. Der Ansatz bietet hier eine praktische Richtung zur Verbesserung der Faktentreue in der Zusammenfassung und betont die entscheidende Rolle der genauen Entitätenrepräsentation.

Introduction

Abstrakte Zusammenfassungsmodelle, angetrieben von großen Sprachmodellen (LLMs), haben beeindruckende Ergebnisse in verschiedenen Bereichen erzielt. Dennoch bleibt eine anhaltende Herausforderung Halluzinationen, bei denen generierte Zusammenfassungen falsche oder gefälschte Informationen enthalten, die nicht auf der Quelleingabe ^1,2 basieren. In Anwendungen mit hohem Einsatz wie Sitzungszusammenfassungen, medizinischer Berichterstattung oder Finanzdokumentation können Halluzinationen, insbesondere bei benannten Personen, die Vertrauenswürdigkeit und Nutzen erheblich untergraben³.

Forscherführten eine groß angelegte menschliche Untersuchung durch und stellten fest, dass Zusammenfassende häufig Halluzinationen erzeugen – Inhalte, die vom Quelldokument nicht gestützt werden – und dass diese Halluzinationen mit Wiederholung und Inkohärenz^{korrelieren 1}. Eine weitere Studie zeigte, dass Modelle mit höherer Abstraktion tendenziell weniger treu sind; Ihre Studie berichtete, dass Ausgaben mit mehr Abstraktion eine geringere sachliche Genauigkeit und mehr untreue Sätze aufwiesen². Der FRANK-Benchmark berichtete, dass etwa 30 % der Zusammenfassungen sachliche Inkonsistenzen enthalten, und eine weitere populäre Studie stellte ähnliche Fehlerraten fest und argumentierte, dass hohe Halluzinationsniveaus Zusammenfassungen praktisch nutzlos machen ^1,2. Halluzinationen können als intrinsisch (im Widerspruch zur Quelle) oder extrinsisch (nicht aus der Quelle verifizierbar) kategorisiert werden. Ein Tutorial zu Halluzinationen in abstrakter Zusammenfassung erklärt, dass intrinsische Halluzinationen auftreten, wenn generierter Inhalt den Eingaben widerspricht (z. B. die falsche Angabe eines zugelassenen Impfstoffs als abgelehnt), während extrinsische Halluzinationen nicht überprüfbare Fakten hinzufügen, wie etwa die Behauptung klinischer Studien für einen Impfstoff, die nicht erwähnt sind⁴. Es wurde außerdem berichtet, dass hochmoderne Zusammenfassungsgeneratoren in etwa 25 % ihrer Ergebnisse halluzinierte Inhalte produzieren, wenn sie mit ROUGE, BLEU und METEOR bewertet werden, und warnt, dass Halluzinationen in Bereichen wie Gesundheit, Recht oder Cybersicherheit schädlich sein können.

Traditionelle n-Gramm-Metriken (ROUGE⁵, BLEU, METEOR) korrelieren schlecht mit menschlichen Urteilen der Faktenhaftigkeit, was zur Entwicklung referenzbasierter und referenzfreier Metriken⁶ führte. QA-basierte Metriken wie FEQA und QuestEval bewerten Zusammenfassungen, indem sie fragen, ob Frage-Antwort-Paare, die aus der Zusammenfassung abgeleitet sind, mit dem Quelltext beantwortet werden können. FEQA korreliert stärker mit menschlichen Urteilen und zeigt, dass abstraktere Zusammenfassungen tendenziell weniger treu sind, während QuestEval die Korrelation zu menschlichen Urteilen hinsichtlich Konsistenz, Kohärenz, Flüssigkeit und Relevanz deutlich verbessert. QAFactEval verfeinert diesen Ansatz, indem er Nomenphrase-Antworten auswählt und Fragen generiert, bevor sie beantwortet werden; diese Strategie verbessert die Korrelation mit menschlichen Bewertungen am SummaC-Benchmark. Informationsextraktionsmetriken (IE) stellen Wissen als Subjekt-Relation-Objekt-Tupel dar, sind jedoch anfällig für Fehler im Extraktionsprozess. Natürliche Sprachinferenz (NLI)-Metriken – wie FactCC und SummaC – klassifizieren zusammenfassende Sätze als impliziert oder widerlegt durch die^{Quelle 4}. FactCC verwendet schwach überwachte Daten, um einen Klassifikator zu trainieren, der faktische Konsistenz erkennt und inkonsistente Bereiche^{hervorhebt 2}. SummaC wendet NLI-Modelle mit der entsprechenden Granularität an und liefert starke Faktenschätzungen, aber der FRANK-Benchmark stellt fest, dass diese Metriken die Faktentreukeit weiterhin als binär behandeln und keinen einheitlichen Rahmen ^1,7,8 haben. Die von Forschern vorgeschlagenen Dimensionen der menschlichen Bewertung – Sprachflüssigkeit, Kohärenz, Relevanz und Konsistenz werden weit verbreitet übernommen⁹. Eine weitere Evaluationsstudie betont, dass Konsistenz die objektivste Dimension ist, weil sie einfach prüft, ob die Zusammenfassung von der Quelle abgeleitet ist; es weist darauf hin, dass bis zu 92 % der XSum-Zusammenfassungen Treuefehler^enthalten. Die menschliche Bewertung ist jedoch zeitaufwendig und teuer, daher sind automatische Kennzahlen für skalierbare Bewertungen^{unerlässlich 8}. Aktuelle Metriken aggregieren oft intrinsische und extrinsische Halluzinationen zu einem einzigen Score, was die Fehlerdiagnose erschwert⁴.

Da das Maximum-Likelihood-Training nicht direkt die Qualität der Zusammenfassung optimiert, wurde Reinforcement Learning (RL) eingesetzt, um Relevanz und Faktualität zu verbessern. Pasunuru und Bansal führten ein Multi-Reward-RL-Framework ein, das Salaliency (ROUGE) und Entailment-Belohnungen kombiniert und eine hochmoderne Leistung¹¹ demonstriert. RL wurde für extraktive Zusammenfassungen mit dem REINFORCE-Algorithmus angewendet; ihr Modell maximiert ROUGE-Scores und liefert informativere Zusammenfassungen als klassifikatorbasierte Ansätze, wie Human Question-Answering Evaluations¹² zeigen. Multitask-Modelle integrieren zudem die Erstellung von Fragen und Erkenntnisse, um Abdeckung und Kohärenz^{zu gewährleisten 12}. Eine umfassende Umfrage aus dem Jahr 2024 zur abstrakten Zusammenfassung hebt faktische Konsistenz als grundlegende Herausforderung hervor und setzt sich für die Förderung wahrheitsgetreuer Zusammenfassungen ein. Die Umfrage schlägt vor, faktisch konsistente Zusammenfassungen zu belohnen und externe Wissensquellen sowie Attributkontrolle einzubeziehen, um die Genauigkeit zu verbessern¹³. RL aus menschlichem Feedback (RLHF) erweitert diese Idee, indem ein Belohnungsmodell auf menschliche Präferenzen trainiert und der Zusammenfassender verfeinert wird, um diese erlernte Belohnung zu maximieren⁹. Reinforcement Learning from Human Feedback (RLHF) hat an Bedeutung gewonnen, indem es Modellausgaben mit gewünschten Eigenschaften wie Faktualität und Nützlichkeit ^4,14 in Einklang bringt. ^Während Multi-Reward-RL und RLHF Modelle mit menschlichen Vorstellungen von Treue in Einklang bringen, stützen sie sich auf grobe Kennzahlen wie ROUGE oder binäre Faktualität. Im Gegensatz dazu schlägt die hier beschriebene Arbeit vor, einen feinkörnigen Halluzinationsindex auf Entitätsebene als Belohnung zu verwenden, was empirisch und rechnerisch ohne menschliches Feedback günstiger ist.

Trotz zahlreicher Kennzahlen bestehen weiterhin mehrere Einschränkungen. N-Gramm-Metriken ignorieren semantische Korrektheit, QA- und IE-basierte Metriken übertragen Fehler aus Fragegenerierungs- und Extraktionsmodellen, und NLI-Metriken reduzieren die Faktentreukeit auf binäre Folgeentscheidungen ^1,4,6. In der Forschungsarbeit wurde betont, dass bestehende modellbasierte Metriken Schwierigkeiten haben, Halluzinationen in feiner Granularität zu erkennen, da sie auf Satz- oder Dokumentenebene agieren und keine spezifischen Fehler verursachenden Entitäten isolieren^{können 4}. Menschliche Bewertungen bleiben der Goldstandard, sind aber kostspielig und subjektiv¹⁵. Darüber hinaus unterscheiden bestehende Metriken nicht zwischen intrinsischen und extrinsischen Halluzinationen und erfassen auch nicht den Über- und Unterfokus von Beziehungen¹. Große Sprachmodelle können halluzinieren, weil sie Text auf Basis statistischer Likelihood und nicht auf faktischer Verifikation basieren. Modelle erzeugen zuversichtliche, aber falsche Ausgaben aufgrund von Einschränkungen bei den Trainingsdaten, probabilistischer Generierung und fehlender Faktenprüfung, und Überschätzung und Verzerrungen können dazu führen, dass sie mit hoher Sicherheit falsche Informationen angeben; Der Leitfaden befürwortet die Generierung von Retrieval-Augmented und Langzeitgedächtnis-zu-Ground-Modelle in externen Daten¹⁵. Diese Techniken konzentrieren sich jedoch auf abrufbasierte Aufgaben; Zusammenfassung erfordert weiterhin Metriken, die halluzinierte Entitäten identifizieren und bestrafen. Frühere Arbeiten haben die Bedeutung der Bewertung auf Entitätsebene für die Faktentreukeit erkannt. Metriken wie FEQA und QuestEval versuchen, die faktische Konsistenz mit Frage-Antwort-Techniken ^16,17 zu bewerten. Diese Methoden erfordern jedoch häufig Referenzzusammenfassungen oder externe QA-Systeme, was die Skalierbarkeit einschränkt. Unsere Arbeit baut auf dieser Linie auf, indem wir den Entity Hallucination Index (EHI) verwenden, eine leichte empirische Metrik, die sich speziell auf die Treue benannter Entitäten konzentriert und die Entitäten in fünf Arten von Halluzinationsfaktoren einteilt, wie in Abbildung 1 dargestellt.

Belege deuten darauf hin, dass Halluzinationen allgegenwärtig sind, Bewertungsmetriken unvollkommen sind und RL-Techniken keine feinkörnigen Belohnungen bieten. Humanstudien zeigen, dass Zusammenfassungsmodelle in einem signifikanten Teil der Fälle halluzinieren, oft mit Tausch von Entitäten oder Erfindung von Details⁹. Bestehende Metriken betonen entweder n-Gramm-Überlappung oder behandeln Faktenhaftigkeit als binär, und aktuelle RL-Methoden optimieren ROUGE- oder grobe Faktensignale. Es gibt eine Lücke bei Entitätsmetriken, die messen, wann eine Zusammenfassung Entitäten erwähnt, die in der Quelle nicht vorhanden sind (negative Halluzination), Schlüsselentitäten auslässt (verlorene Fokus-Halluzination) und andere Szenarien. Die vorgeschlagene Feinabstimmungsmethode über den Entity Hallucination Index (EHI) schließt diese Lücke, indem Halluzinationen auf Entitätsebene quantifiziert und eine strukturierte Belohnung für Reinforcement Learning bereitgestellt wird. Durch die Integration von EHI in RLHF wollen wir große Sprachmodelle feinjustieren, um Halluzinationen auf Entitätsebene zu minimieren und Zusammenfassungen zu erstellen, die sowohl fließend als auch faktisch treu sind.

In dieser Arbeit schlagen wir einen neuartigen Feinabstimmungsansatz vor, der den Entity Hallucination Index (EHI) als Belohnungssignal nutzt, um Halluzinationen auf Entitätsebene zu reduzieren. EHI quantifiziert die Korrektheit und Verankerung von Entitäten, indem es extrahierte Entitäten aus Modellausgaben mit denen im Eingabedokument vergleicht, wodurch die Abhängigkeit von Referenzen¹⁸ reduziert werden kann. Die hier beschriebene Methode verzerrt das Modell dahin, entitätstreuere Zusammenfassungen zu erzeugen, ohne menschliche Faktualitätsanmerkungen zu benötigen.

Zusammenfassend wurden faktenbewusste Belohnungsmodelle zur Feinabstimmung^{von 19,20} verwendet. Im Gegensatz zu früheren Ansätzen, die auf groben Faktenbelohnungen oder menschengelabelten Datensätzen setzen, schlagen wir vor, EHI als direktes, automatisches Belohnungssignal zu feinjustieren, um so eine entitätsbasierte Zusammenfassung ohne zusätzliche Aufsicht zu fördern. Die neuartigen Beiträge dieser Studie sind wie folgt: (i) die Studie führt ein EHI-gesteuertes Feinabstimmungsmodell ein, das die Entitätentreue bei abstrakten Zusammenfassungen verbessert, (ii) die Studie präsentiert eine skalierbare Reinforcement Learning-Pipeline, die nicht von menschengelabelten Faktendatensätzen abhängt, (iii) die Studie zeigt empirische Verbesserungen der EHI-Werte in den Transkriptdatensätzen, XSUM-Nachrichtendatensatz und führt qualitative Analysen durch, um Reduktionen von Halluzinationen hervorzuheben, (iv) Die Studie teilt eine reproduzierbare, auf Colab basierende Implementierung, um weitere Forschung zur halluzinationsbewussten Zusammenfassung^{zu erleichtern 21}.

Diese Studie untersucht die Hypothese, dass die Optimierung von Sprachmodellen mit feingranulären, entitätsfokussierten Belohnungen wie EHI einen effektiven Weg bietet, um Treue und Zuverlässigkeit bei Zusammenfassungsaufgaben mit minimalem Berechnungsaufwand zu verbessern. Der Ansatz trägt zum wachsenden Feld der parametereffizienten Feinabstimmung für Treue in der Zusammenfassung bei, indem er (i) die Wirksamkeit sowohl über Encoder-Decoder (DistilBART, FlanT5) als auch über nur Decoder-Architekturen (Mistral) demonstriert, (ii) einen Rahmen bereitstellt, der an verschiedene Modelltypen, Domänen und Skalen angepasst werden kann, und (iii) eine Recheneffizienz im Vergleich zu vollständiger Umschulung bietet.

Protocol

Ziel dieser Studie ist es, ein Sprachmodell (LM) so zu feinjustieren, dass es Zusammenfassungen mit Halluzinationen mit reduzierter Entität erzeugt. Halluzinationen treten auf, wenn ein Modell "selbstbewusst falsche oder irrelevante Ergebnisse liefert", weil es Text nach statistischer Wahrscheinlichkeit und nicht nach faktischer Verifikation erzeugt. Dies wird erreicht, indem eine Belohnungsfunktion auf Basis des Entity Hallucination Index (EHI) entworfen und Reinforcement Learning angewendet wird, um diese zu maximieren.

Problemformulierung
Gegeben ein Eingabedokument X_i, ist das Ziel, eine Zusammenfassung Y_i zu erzeugen, sodass die in Y_i erwähnten Entitäten in X_i geerdet sind. Traditionelles Maximum-Likelihood-Training optimiert die faktische Konsistenz nicht explizit. Diese Trainingsmethoden bestrafen nicht die Einbeziehung erfundener Entitäten. Daher wird eine belohnungsgetriebene Feinabstimmungsstrategie eingeführt, bei der die Belohnung proportional zur Treue der Entität ist, gemessen mit EHI.

Datensatz und Methode
Es werden zwei Korpora verwendet: Erstens ein Dialogtranskriptionsdatensatz mit mehrfachen Sitzungsprotokollen und abstrakten Goldzusammenfassungen, und zweitens der XSUM-Nachrichtenzusammenfassungsbenchmark^22,23. Jeder Datensatz wurde bereinigt, abgeflacht und in 80 % Zug-, 10 % Validierungs- und 10 % Testpartitionen aufgeteilt. Die Dialoge sind reich an informeller Sprache und Pronomen, während XSUM prägnante Nachrichtenartikel enthält; Die Kombination ermöglicht es uns, sowohl In-Domain- als auch Out-of-Domain-Verallgemeinerungen zu evaluieren.

Die Entitätsextraktion erfolgt sowohl bei Quelldokumenten als auch bei Zusammenfassungen zur Berechnung des Entity Hallucination Index (EHI). Während der Feinabstimmung nutzt diese Studie ausschließlich den Training Split, während die Validierungs-EHI-Werte überwacht werden, um den besten Checkpoint auszuwählen. Endgültige Bewertungen werden auf dem zurückgehaltenen Testset berichtet, das vor und nach der Feinabstimmung der Modelle Nullschuss bleibt.

Zusammenfassend werden die Transkripte zunächst in einem abgeflachten Format organisiert und die Daten aufgeteilt. Das vortrainierte Modell erzeugt Baseline-Zusammenfassungen. Zweitens wird EHI mit transformatorbasiertem NER und den fünf Halluzinationsfaktoren berechnet. Während der Feinabstimmung wird das Modell mit der EHI-Belohnung über LoRa-Adapter aktualisiert. Abschließend werden Zusammenfassungen mit dem fein abgestimmten Modell erstellt und mit EHI, Entität F1 und anderen Metriken ausgewertet (Abbildung 2). Alle Experimente sind über den bereitgestellten Code und die Konfigurationsdateien reproduzierbar. Abbildung 3 zeigt den schrittweisen Prozessablauf für Datensatzvorbereitung, Basiszusammenfassung, EH-Berechnung, Feinabstimmung und Evaluation.

Basiszusammenfassung
Drei vortrainierte LLMs werden ausgewählt und ihre Ausgangszusammenfassungen erfasst: Flan-T5, Mistral (Nous-Hermes-2-Mistral-7B-DPO) und DistillBART 24,25,26. Jedes Modell wurde im Zero-Shot-Modus ausgeführt, um für jedes Eingabedokument (x_i) eine Anfangszusammenfassung (Y_{, i}) zu erstellen. Strahlsuche mit einer Strahlbreite von 4 und einer Längenstrafe von 1,0 wurde verwendet, um flüssige, aber prägnante Zusammenfassungen zu fördern. Diese Basiszusammenfassungen dienten dazu, die Prävalenz von Halluzinationen abzuschätzen und boten Ausgangspunkte für Feinabstimmung.

Entitätsextraktion und EHI-Berechnung
Um den Entity Hallucination Index (EHI) genau zu berechnen, ist ein robustes NER erforderlich. Anfangs wurde die Spacy für NER-Betrieb genutzt. Es ist bekannt, dass transformatorbasierte NER-Modelle genauer sind, aber Spacy war aus folgenden Gründen die ursprüngliche Wahl: (1) Transformer-basierte NER-Modelle selbst haben sich als Halluzinationen erwiesen als Spacy. (2) Dass Spacy statistisch ist, bringt die Recheneffizienz in Bezug auf Implementierungskosten und Ausführungszeit. (3) Es hilft uns auch zu beweisen, dass EHI robust darin ist, Halluzinationen zu reduzieren, selbst mit einem schwächeren NER-Modell. Angesichts der Tatsache, dass die Experimente auf etablierten Datensätzen durchgeführt werden und das en_core_web_sm von spaCy durchgeführt werden, ist das Modell spröde bei umgangssprachlichen^{Transkripten 13}. Spacy wird durch ein transformatorbasiertes NER-Modell (dslim/bert-base-NER) ersetzt, das ein BERT-Modell ist, das auf dem CoNLL-2003-Datensatz fein abgestimmt ist. BERT-basierte NER-Systeme haben gezeigt, dass sie SpaCy-Modelle bei domänenspezifischen Aufgaben übertreffen – zum Beispiel erreichte ein Aviation-BERT-NER-Modell einen F1 von 94,78 % und identifizierte 17 Entitäten, verglichen mit 93,73 % für das spaCy NER, das sieben Entitäten^{erkannte: 27}. Das BERT NER-Modell wurde über Hugging Face Transformers²⁸ konfiguriert und führte eine kleinschreibungsunsensitive Abgleichung durch. Um Pronomen und Oberflächenformvariationen zu erfassen, verwendete diese Methode zusätzlich einfache Regeln, die "Mr. Smith" und "Smith" derselben kanonischen Form zuordnen; Die vollständige Koreferenzauflösung bleibt jedoch zukünftige Arbeit. Die vergleichende Analyse der NER-Modelle an einer Stichprobe von 200 Datensätzen aus dem XSUM-Datensatz lässt sich aus Tabelle 1 ableiten.

Der Entity Hallucination Index (EHI) wird berechnet wie folgt:

wobei PH, EF, OF, NH, LF Werte darstellen, die jeweils Positive Halluzination (PH), Extraktivitätsfaktor (EF), Negative Halluzination (NH), überfokussierte Entitäten (OF) und verlorenen Fokus (LF) für Artikel i entsprechen.

Details zu Halluzinationsfaktoren:

Positive Halluzination (PH): Messgrößen neu eingeführter Entitäten, die faktisch korrekt und vorteilhaft sind.

Extraktivitätsfaktor (EF): Misst Entitäten, die genau aus dem Eingabedokument in die Zusammenfassung extrahiert wurden.

Negative Halluzination (NH): Erfassen halluzinierte Entitäten, die falsch sind oder nicht in der Eingabe geerdet sind.

Überfokussiert (OF): Es wird Zusammenfassungen bestraft, die sich zu sehr auf eine enge Teilmenge von Entitäten konzentrieren und Vielfalt übersehen.

Verlorener Fokus (LF): Bestraft Zusammenfassungen, die wichtige Elemente im Input weglassen.

Die Berechnung der obigen Faktoren ist in Abbildung 4 mit einer Beispielberechnung zur Veranschaulichung dargestellt. Betrachten wir ein Beispiel der Eingabedokument-Entitäten (I): "John", "AI", "Konferenz"-Referenz-Zusammenfassungsentitäten (R):"-"John", "KI"-generierte Zusammenfassungsentitäten (G):""-""KI"", "Technologie". Höhere Werte von EHI deuten auf bessere Entitätstreue hin, indem sie Zusammenfassungen belohnen, die sowohl extraktiv als auch positiv halluziniert sind (mit nützlichen, aber treuen Entitäten), während sie unbegründete, übermäßige oder fehlende Entität²⁰ bestrafen. Diese Faktoren wurden durch die Gesamtzahl der erkannten Entitäten normalisiert, sodass ein EHI zwischen 0 und 1 liegt. Die EHI-Validierung wurde während des Trainings überwacht, um den besten Kontrollpunkt auszuwählen. PH und EF belohnen nützliche neue Entitäten und korrekte Extraktion, während OF, NH und LF Wiederholung, Fabrikation und Auslassung bestrafen. Eine perfekte Punktzahl von 1,0 bedeutet, dass alle Entitäten in der Zusammenfassung geerdet oder vorteilhaft halluziniert sind, während eine Punktzahl von 0 darauf hinweist, dass keine benannte Entität in der Zusammenfassung in der Quelle erscheint.

Feinabstimmungsverfahren mit RL
Die detaillierten Hyperparameter-Konfigurationen für Feinabstimmung sind separat in Tabelle 2, Tabelle 3 und Tabelle 4 dargestellt, die Optimierertypen, Lernraten, Chargengrößen, Hardware-Spezifikationen und weitere Konfigurationsdetails für Mistral-7B, DistilBart und Flan-T5 darstellen. Das Ziel ist hier, die Modellparameter θ zu feinjustieren, indem die erwartete Belohnung des Entity Hallucination Index (EHI) über die generierten Zusammenfassungen maximiert wird. Formell wird für ein Eingabedokument X_i, eine generierte Zusammenfassung Y_i und Modellparameter θ das erwartete Belohnungsziel definiert als:

(2)

wobei EHI (y, x) den Entitätshalluzinationsindex bezeichnet, der zwischen der generierten Zusammenfassung Y_i und der Eingabe X_i berechnet wird.

Nach dem REINFORCE-Algorithmus²⁵ wird der Gradient dieses Ziels wie folgt geschätzt:

(3)

In der Praxis wurden Zusammenfassungen aus den Modellen entnommen, ihre entsprechenden EHI-Werte berechnet und Policy-Gradienten-Updates angewandt, um höhere Belohnungsergebnisse zu fördern. Um parametereffiziente Feinabstimmung zu ermöglichen, verwendete diese Studie die Low-Rank Adaptation (LoRA). Nur LoRA-Adapter wurden aktualisiert, während die Basismodellgewichte eingefroren blieben. Feinabstimmung erfolgte auf einer A100-GPU mit geringer Lernrate (z. B. 5 × ^10-6), einer Batchgröße von 4 und einer Gradientenakkumulierung über 8 Schritte mit Adam^{Optimizer 29}. Zusammenfassungen wurden alle 500 Updates neu generiert, um die Belohnungswerte zu aktualisieren, und das Training wurde fortgesetzt, bis die Validierungs-EHI konvergierte. Die REINFORCE-Basislinie wurde auf den laufenden Durchschnitt der jüngsten Belohnungen gesetzt, um die Varianz zu verringern. Zusätzlich zu EHI, Entity F1², ROUGE-1/2/L-Scores wurden protokolliert, um die allgemeine Qualität zu überwachen. Zusammenfassungen werden regelmäßig neu generiert, um Modellverbesserungen während der Feinabstimmung widerzuspiegeln.

Bewertungsmetriken
Die Ausgaben wurden mit Informativitätsmetriken wie Rouge-1, Rouge-2⁵ ausgewertet. Flüssigkeitsmetrik wie Rouge LCS⁵. Überlappende Entitätsmetrik Entität F1 und Halluzinationsmetriken wie EHI, FactCC und QAGS 2,6,18,30. FactCC verwendet einen Klassifikator, der auf synthetischen Widerspruchsdaten trainiert ist, um Sätze als von der Quelle impliziert oder widersprüchlich zu kennzeichnen. Der factCC gibt zwei Werte; die Punktzahlen wurden dort erfasst, wo das Etikett GÜLTIG ist. QAGS hingegen verwendet eine Frage-und-Antwort-Methode, die auf einem LLM läuft. Das leichte Modell T5 small wurde zur Generierung von Fragen auf dem^{Text 31} verwendet. Roberta_base_Squad2 wurde verwendet, um Antworten über den Ausgabetext³² zu generieren. Diese Modelle wurden wegen ihrer bequemen Rechenkosten für die Ausführung ausgewählt.

Results

Die Experimente konzentrieren sich hier auf quantitative Belege für die Wirkung, die EHI-gesteuertes Feinabstimmung bei der Reduzierung von Halluzinationen auf Entitätsebene über mehrere Modellarchitekturen und Datensätze hinweg hat. Die Ergebnisse zeigen konsistente Verbesserungen bei Halluzinationsmetriken, während die faktische Konsistenz erhalten bleibt und die Fragebeantwortungsfähigkeit erhalten bleibt.

Datensatzleistungen
Pe...

Discussion

QA-basierte Kennzahlen (z. B. FEQA/QuestEval/QAFactEval) und NLI-basierte Kennzahlen (z. B. FactCC/SummaC) erfordern zusätzliche QA-/Entailment-Komponenten und liefern oft Urteile auf Strafebene. Im Gegensatz dazu ist EHI ein leichter, referenzfreier, entitätsebener Score, der (i) direkt den primären Ausfallmodus anspricht, den wir beobachten – die Halluzination der Entität; (ii) modellunabhängig und schnell zu berechnen ist; und (iii) dient als dichte Belohnung für das Feinjustieren im ...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Colab NVIDIA A100 GPU	NVIDIA	N/A	Google Colaboratory Pro
DistilBART (Encoder–Decoder)	Hugging Face	https://huggingface.co/sshleifer/distilbart-cnn-12-6
dslim/bert-base-NER	Hugging Face (dslim)	https://huggingface.co/dslim/bert-base-NER	Fine-tuned BERT base für englische NER
Evaluation Models  QAGS (QA-basiert)	Salesforce Research	N/A	Faktizitätsklassifikator
Evaluationsmodelle (Faktizität) FactCC	Google Research	N/A	Faktizitätsklassifikator
Flan-T5 (Encoder–Decoder)	Google	https://huggingface.co/docs/transformers/main/en/model_doc/flan-t5	Open-Source, Text-zu-Text, großes Sprachmodell
Hugging Face Transformers	Hugging Face, Inc.	https://huggingface.co/docs/transformers/index	Modell-Laden & Feinabstimmung
Nous-Hermes-2-Mistral-7B-DPO	Mistral	https://huggingface.co/NousResearch/Nous-Hermes-2-Mistral-7B-DPO	Sprachmodell mit 7 Milliarden Parametern
Programmiersprache Python 3.10 (Colab-Runtime)	Python Software Foundation	Version 3.10	Kernapplikation
Streamlit	Open Source	https://streamlit.io/	Faktizitätsklassifikator
XLSUM-Datensatz	BUET	https://github.com/csebuetnlp/xl-sum
XSUM-Datensatz	University of Edinburgh	https://github.com/EdinburghNLP/XSum