Questo studio presenta un framework leggero per ridurre le allucinazioni nei modelli linguistici di grandi dimensioni attraverso la verifica a livello di affermazione e una soglia statistica adattiva. Correggendo selettivamente le affermazioni non supportate mediante l'inferenza del linguaggio naturale, l'approccio migliora l'accuratezza fattuale mantenendo una bassa latenza di risposta e un'efficienza pratica per il deployment.
Articolo di ricerca
Verifica delle asserzioni guidata da NLI adattiva con modellazione decisionale statistica per la riduzione delle allucinazioni a bassa latenza nei Large Language Models
In questo articolo
Sommario
Abstract
I modelli linguistici di grandi dimensioni (LLM) mostrano una tendenza critica a generare output linguisticamente fluenti ma fattualmente errati – un fenomeno noto come allucinazione – che comporta rischi significativi in applicazioni che richiedono elevata precisione. Le attuali strategie di mitigazione, tra cui la generazione assistita da recupero e il campionamento della coerenza interna, introducono ritardi sostanziali nell'inferenza oppure dipendono da infrastrutture esterne di conoscenza, limitandone l'applicabilità in contesti di utilizzo in tempo reale. Questo articolo propone un framework leggero per la verifica delle affermazioni in due fasi, che scompone le risposte degli LLM in affermazioni fattuali atomiche e verifica autonomamente ciascuna affermazione estratta confrontandola con un testo di riferimento generato separatamente attraverso un prompt isolato di richiamo fattuale. Sebbene il generatore e il verificatore condividano lo stesso modello linguistico sottostante, separare la generazione della risposta dal richiamo fattuale riduce la condizionalità diretta della risposta e attenua il bias di conferma durante la verifica, utilizzando l'inferenza del linguaggio naturale (NLI) e applicando una soglia statistica adattiva – definita come τ = µ + kσ sulla distribuzione dei punteggi di confidenza NLI – per correggere selettivamente solo le affermazioni contraddette. A differenza dei metodi basati su NLI precedenti, che si affidano a soglie decisionali fisse, il framework proposto adatta dinamicamente la propria soglia di verifica alla distribuzione di confidenza di ciascuna risposta, mostrando prestazioni costanti su tutti i benchmark valutati senza richiedere il riaddestramento del modello. Valutato su TruthfulQA e FEVER, il framework riduce il tasso di allucinazione dal 28% al 9% su TruthfulQA – una riduzione relativa del 67,9% – con un sovraccarico di soli 160 ms di latenza aggiuntiva rispetto all'LLM di base, superando SelfCheckGPT e FActScore in accuratezza nel rilevamento delle allucinazioni. Questi risultati indicano che il framework può offrire un equilibrio favorevole tra affidabilità fattuale e latenza della risposta nei benchmark valutati, anche se ulteriori validazioni in diversi domini e contesti di utilizzo sono necessarie.
Introduzione
I modelli linguistici di grandi dimensioni (Large Language Models, LLM) si sono affermati come componenti fondamentali dei moderni sistemi di intelligenza artificiale, dimostrando capacità notevoli in un'ampia gamma di compiti di elaborazione del linguaggio naturale, tra cui la generazione di testo, la risposta a domande, la sintesi e il ragionamento complesso1La loro capacità di produrre risposte fluide e coerenti nel contesto ha accelerato l'adozione in settori ad alto impatto come il supporto alle decisioni cliniche, l'analisi giuridica, l'ingegneria del software e la tecnologia educativa2Tuttavia, una limitazione critica e persistente ne compromette l'affidabilità in questi contesti: le allucinazioni, fenomeno per cui i modelli generano risposte fluenti dal punto di vista linguistico ma fattualmente errate, prive di supporto o del tutto inventate 3. Studi empirici riportano tassi di allucinazione compresi tra il 15% e oltre il 40%, a seconda del compito e del modello, con sistemi all'avanguardia come GPT-4 che mostrano inconsistenze fattuali misurabili in valutazioni specifiche per dominio2,3Questa limitazione comporta rischi seri in applicazioni che richiedono elevata precisione, nelle quali output errati possono portare a informazioni fuorvianti, diagnosi sbagliate o decisioni basate su fondamenta errate.4Le allucinazioni derivano fondamentalmente dalla natura probabilistica della modellazione del linguaggio: i modelli linguistici di grandi dimensioni (LLM) generano token prevedendo continuazioni statisticamente probabili delle sequenze di input, piuttosto che recuperando o ragionando su conoscenze fattuali verificate.5Di conseguenza, gli output generati potrebbero includere affermazioni plausibili ma inaccurate, introdurre asserzioni non supportate o confondere concetti semanticamente correlati ma fattualmente distinti.6.
Le strategie di mitigazione esistenti affrontano questo problema attraverso diversi paradigmi, ciascuno con limitazioni significative. La generazione aumentata mediante recupero (Retrieval-Augmented Generation, RAG) riduce le allucinazioni basando le risposte su documenti recuperati esternamente, ma introduce un notevole sovraccarico di latenza, richiede l'accesso a basi di conoscenza aggiornate e rimane vulnerabile ai fallimenti di recupero in domini specializzati o con risorse limitate7,8,9.
Sebbene il generatore di risposte e il generatore di riferimenti siano istanziati utilizzando lo stesso modello sottostante GPT-3.5 Turbo, essi operano in base a obiettivi di prompt e contesti di esecuzione diversi. Il generatore di risposte produce una risposta illimitata alla richiesta dell'utente, mentre il generatore di riferimenti esegue un compito isolato di richiamo fattuale senza accesso alla risposta precedentemente generata. Questa separazione riduce gli effetti diretti di condizionamento della risposta e limita il bias di conferma durante la verifica delle affermazioni. Il framework tratta quindi il riferimento generato come proceduralmente indipendente, piuttosto che statisticamente indipendente.
Ricerche recenti hanno inoltre esplorato strategie di decodifica leggere per ridurre le allucinazioni nella generazione del testo senza fare affidamento su recupero esterno o verifica ripetuta. Un approccio rappresentativo è la Decodifica mediante Confronto tra Strati (Decoding by Contrasting Layers, DoLA), che migliora la veridicità confrontando le rappresentazioni provenienti da strati intermedi e finali del transformer durante la decodifica. A differenza dei framework di verifica successiva alla generazione, questi metodi intervengono direttamente durante la generazione dei token e ottimizzano quindi una fase diversa del processo di generazione del linguaggio. Queste strategie complementari dimostrano che la riduzione delle allucinazioni può essere ottenuta sia durante la decodifica sia mediante verifica successiva alla generazione, con ciascun approccio che presenta specifici compromessi in termini di sovraccarico computazionale, complessità di implementazione e affidabilità fattuale.
I metodi di autoconsistenza migliorano l'affidabilità fattuale campionando più risposte e selezionando l'output più frequente o coerente, ma il loro costo computazionale aumenta linearmente con il numero di campioni, rendendoli inadatti per implementazioni sensibili alla latenza8. Gli approcci di affinamento iterativo, che rivisitano ripetutamente gli output attraverso cicli di retroazione autonoma, riducono progressivamente i tassi di errore ma allungano sostanzialmente il tempo di inferenza ad ogni passaggio aggiuntivo9. I metodi di verifica basati sull'inferenza linguistica naturale (NLI) offrono un'alternativa più mirata valutando l'implicazione semantica tra affermazioni generate e testi di riferimento, ma le implementazioni esistenti si basano su soglie decisionali fisse che non riescono ad adattarsi a diverse distribuzioni di confidenza, domini o comportamenti del modello10,11. Nel complesso, questi approcci o impongono un sovraccarico computazionale inaccettabile, o dipendono da infrastrutture esterne, oppure mancano dell'adattabilità necessaria per un'implementazione generalizzata. Un confronto delle principali caratteristiche di questi approcci di verifica delle allucinazioni è riportato nella Tabella Supplementare 1.
Questo articolo propone un framework leggero per la verifica delle affermazioni in due fasi, progettato per ridurre le allucinazioni nelle uscite dei modelli linguistici di grandi dimensioni (LLM) mantenendo una bassa latenza di risposta. Nella prima fase, l'LLM genera una risposta iniziale, che viene quindi scomposta in affermazioni fattuali atomiche. Nella seconda fase, ciascuna affermazione viene verificata mediante inferenza linguistica naturale (NLI) confrontandola con un riferimento fattuale generato separatamente attraverso un passaggio di ragionamento isolato che non ha accesso alla risposta originale generata; un valore soglia di confidenza derivato statisticamente governa la decisione di accettazione o correzione a livello di singola affermazione. I principali contributi di questo lavoro sono i seguenti: (1) Una pipeline di verifica a livello di affermazione in due fasi che separa la generazione della risposta dalla validazione fattuale, consentendo una valutazione indipendente e mirata di ogni affermazione atomica senza richiedere il recupero esterno o la rigenerazione completa della risposta; (2) Un meccanismo adattivo di sogliatura statistica basato sulla distribuzione dei punteggi di confidenza NLI (τ = µ + kσ), che determina dinamicamente i limiti di accettazione e correzione anziché fare affidamento su regole decisionali fisse, migliorando la robustezza in presenza di distribuzioni di confidenza variabili; (3) Una strategia di correzione selettiva che limita la rigenerazione soltanto alle affermazioni classificate come contraddittorie, riducendo in modo significativo il carico computazionale rispetto agli approcci basati sulla riesecuzione completa della risposta o su raffinamenti iterativi; (4) Una valutazione empirica su un benchmark focalizzato sulle allucinazioni, che dimostra come il framework proposto riduca i tassi di allucinazione dal 28% al 9%, mantenendo al contempo la latenza della risposta entro limiti pratici per l'implementazione.
Protocollo
Questo studio non ha coinvolto partecipanti umani, animali, campioni biologici o dati di pazienti. Pertanto, non era richiesta l'approvazione etica istituzionale né il consenso informato.
Panoramica del disegno dello studio
È stato implementato un framework di verifica a due stadi per migliorare l'affidabilità fattuale degli output dei modelli linguistici di grandi dimensioni (LLM). La procedura ha compreso la generazione di risposte, l'estrazione di affermazioni, la costruzione isolata di riferimenti, la verifica basata sull'inferenza del linguaggio naturale (NLI), la decisione statistica adattiva, la correzione selettiva e l'assemblaggio finale della risposta. Il framework è stato valutato utilizzando i dataset di benchmark TruthfulQA e FEVER.
Flusso di lavoro complessivo
Query dell'utente → Generazione della risposta iniziale → Estrazione delle affermazioni → Generazione indipendente delle referenze → Verifica tramite inferenza linguistica naturale (NLI) → Calcolo della soglia statistica → Correzione delle affermazioni → Risposta finale verificata. Il flusso di lavoro complessivo del framework adattivo di verifica delle affermazioni è illustrato in Figura 1.
Preparazione del set di dati
Il dataset TruthfulQA12, contenente 817 domande orientate ai fatti, è stato scaricato e preparato per la valutazione. Il dataset FEVER13 comprende 185.445 affermazioni annotate, etichettate come Supportate, Refutate o Informazioni Non Sufficienti; per la valutazione sono stati utilizzati i dati di sviluppo etichettati, con i relativi campi di affermazione, evidenza ed etichetta reale. Ogni affermazione è stata valutata rispetto all'evidenza fornita, mentre l'etichetta originale FEVER è stata mantenuta come risultato di riferimento per la verifica. Il dataset FEVER, che contiene coppie affermazione-evidenza per la verifica dei fatti, è stato ottenuto e preelaborato. Le domande e le affermazioni in ingresso sono state convertite in un formato testuale standardizzato. Prima degli esperimenti, sono state rimosse le voci duplicate e i campioni incompleti. TruthfulQA è stato suddiviso in sottoinsiemi di validazione e test. Circa il 20% dei campioni di TruthfulQA (164 domande) è stato utilizzato per l'ottimizzazione della soglia, mentre le rimanenti 653 domande sono state riservate per la valutazione delle prestazioni. Per FEVER, le affermazioni fornite dal benchmark sono state utilizzate direttamente come unità di verifica e non hanno subito la procedura di generazione della risposta ed estrazione dell'affermazione applicata a TruthfulQA. Le caratteristiche dei dataset di benchmark utilizzati per lo sviluppo e la valutazione del framework sono riassunte nella Tabella 1.
Generazione della risposta iniziale
A ciascuna query è stato sottoposto il modello linguistico di base. Le risposte sono state generate utilizzando il campionamento nucleus con una temperatura di 0,7 e un top-p di 0,9. La lunghezza massima dell'output è stata limitata a 256 token. Le risposte generate sono state archiviate senza alcun post-processing o modifica manuale. Il testo generato è stato inviato direttamente alla fase di estrazione delle affermazioni.
Estrazione delle affermazioni
Ogni risposta generata è stata scomposta in affermazioni fattuali indipendentemente verificabili. È stato utilizzato un prompt strutturato di scomposizione per identificare le affermazioni atomiche. Le affermazioni composte sono state separate in unità fattuali minime. Sono state rimosse opinioni soggettive, espressioni stilistiche e riempitivi conversazionali. Ogni affermazione estratta è stata archiviata come unità indipendente di verifica.
Esempio:
Risposta originale:
«Marie Curie era una fisica e chimica di origine polacca che condusse ricerche pionieristiche sulla radioattività.»
Affermazioni estratte: (1) Marie Curie era di origine polacca; (2) Marie Curie era una fisica e chimica; (3) Marie Curie ha condotto ricerche sulla radioattività.
Costruzione di riferimenti isolati:
Per ogni affermazione estratta, è stata generata una fonte fattuale indipendente. Al modello di verifica è stata fornita soltanto la query originale dell'utente. L'accesso alla risposta generata originale è stato limitato per evitare bias di conferma. È stato utilizzato un prompt di richiamo fattuale per favorire risposte concise e basate su evidenze. Le fonti generate sono state archiviate per successive verifiche.
Verifica dell'inferenza del linguaggio naturale
A ogni coppia dichiarazione-riferimento è stato sottoposto un modello NLI pre-addestrato. Il modello NLI ha classificato la relazione come: Conferma, Neutro o Contraddizione. Sono state registrate le probabilità di confidenza per tutte e tre le classi. È stato assegnato un punteggio di verifica con segno: valore positivo per la conferma, zero per il neutro, o un valore negativo per la contraddizione. Tutti i punteggi di verifica sono stati raccolti per il calcolo della soglia.
Calcolo adattivo della soglia statistica
La fiducia nella verifica prodotta dal modello NLI varia notevolmente tra le risposte, poiché query diverse generano un numero differente di affermazioni, livelli di complessità semantica e distribuzioni di fiducia. Una soglia globale fissa presuppone che tutte le risposte seguano un profilo di fiducia simile, il che raramente si osserva nella pratica. Per tenere conto di questa variabilità, il framework proposto stima il confine decisionale singolarmente per ogni risposta, utilizzando la media e la deviazione standard dei relativi punteggi di verifica. La media riflette il livello complessivo di fiducia della risposta, mentre la deviazione standard cattura la dispersione dei valori di fiducia tra le affermazioni estratte. Questa formulazione adattativa consente al criterio di accettazione di adattarsi all'incertezza specifica di ciascuna risposta, piuttosto che fare affidamento su una singola soglia per tutti gli input.
Sono stati calcolati la media (µ) e la deviazione standard (σ) di tutti i punteggi di verifica con segno.
La soglia decisionale adattativa è stata calcolata come:
dove τ rappresenta la soglia adattativa, µ indica il punteggio medio di verifica, σ indica la deviazione standard e k rappresenta il parametro di sensibilità.
Il parametro di sensibilità è stato inizializzato a 0,7. Le affermazioni classificate come implicazione con punteggi maggiori o uguali a +τ sono state accettate. Le affermazioni classificate come contraddizione con punteggi minori o uguali a −τ sono state segnalate per la correzione. Le affermazioni con punteggi compresi nell'intervallo (−τ, +τ) sono state mantenute come neutre.
Correzione selettiva delle affermazioni
Una richiesta è stata inoltrata per la correzione solo quando il modello NLI ha classificato la coppia affermazione-riferimento come Contraddizione e il corrispondente punteggio di verifica con segno soddisfaceva il criterio della soglia adattativa si ≤ -τ. Pertanto, la decisione di correzione è stata determinata congiuntamente dall'etichetta della classe NLI e dalla soglia statistica specifica per la risposta. Le affermazioni classificate come Implicazione con si ≥ τ sono state accettate, mentre quelle ricadenti nell'intervallo -τ < si < τ sono state considerate neutrali e mantenute senza correzione. Questo criterio combinato ha garantito che la correzione fosse applicata soltanto alle affermazioni che mostravano sia una contraddizione semantica sia prove di verifica negativa sufficientemente forti.
Ricostruzione della risposta
Le richieste accettate e corrette sono state organizzate nella loro sequenza originale. I confini delle frasi sono stati ripristinati per mantenere la leggibilità. Sono state apportate piccole correzioni grammaticali quando necessario. L'output assemblato è stato archiviato come risposta finale verificata.
Valutazione delle prestazioni
Il framework è stato valutato utilizzando quattro metriche: (1) Accuratezza: la proporzione di risposte che sono rimaste fattualmente corrette dopo la verifica; (2) Punteggio F1: la media armonica tra precisione e richiamo nel rilevamento delle allucinazioni; (3) Latenza della risposta: il tempo totale di elaborazione dalla presentazione della query alla generazione della risposta verificata; (4) Tasso di allucinazione
La latenza è stata riportata come tempo medio di esecuzione su misurazioni ripetute. Poiché i singoli valori di latenza per esecuzione non sono stati conservati, non sono state calcolate deviazioni standard né intervalli di confidenza.
Valutazione della correttezza specifica per il benchmark
Per TruthfulQA, la risposta finale verificata è stata confrontata con le risposte di riferimento validate dagli esseri umani e con gli elenchi di risposte errate del benchmark. Una risposta è stata considerata corretta quando le sue affermazioni fattuali erano coerenti con le informazioni della risposta accettata e non contenevano contenuti corrispondenti ai modelli di risposta errata identificati. Per FEVER, ogni affermazione nell'output finale è stata valutata rispetto alle prove associate e all'annotazione FEVER originale; le affermazioni supportate sono state considerate verificate dal punto di vista fattuale, mentre quelle confutate sono state considerate errate. I casi di tipo "Informazioni non sufficienti" sono stati mantenuti come indeterminati, piuttosto che essere trattati come prova fattuale positiva. Le decisioni a livello di singola affermazione sono state aggregate per ciascun benchmark al fine di calcolare l'accuratezza e il tasso di allucinazioni riportati.
Ambiente sperimentale
Il framework è stato implementato utilizzando Python 3.9. Le operazioni di elaborazione dei dati sono state eseguite mediante librerie per l'analisi numerica e tabellare. Il modello NLI ha operato in modalità inferenza, senza ulteriore ottimizzazione. Gli esperimenti sono stati eseguiti su una workstation dotata di processore Intel Core i5, 16 GB di RAM e sistema operativo a 64 bit. Tutte le valutazioni sono state effettuate in un contesto di inferenza a singolo passaggio, al fine di garantire un funzionamento a bassa latenza. Tutti gli esperimenti sono stati condotti utilizzando configurazioni hardware e software identiche, per assicurare una valutazione coerente tra i diversi set di dati e i metodi di riferimento.
Risultato previsto
Il protocollo è progettato per generare decisioni di verifica a livello di affermazione, identificando le affermazioni potenzialmente non supportate e inoltrando selettivamente quelle fortemente contraddette per la correzione. L'output previsto è una risposta verificata con ridotte incoerenze fattuali e un sovraccarico di elaborazione aggiuntivo limitato, in base alle prestazioni osservate durante la valutazione sperimentale.
Risultati
Generazione della risposta iniziale
Il modello linguistico di base ha generato risposte fluide e contestualmente pertinenti per domande provenienti da entrambi i dataset di riferimento. Tuttavia, un'analisi dettagliata ha rivelato affermazioni infondate e inaccurare dal punto di vista fattuale in diverse risposte. Nel dataset TruthfulQA, il sistema di base ha mostrato un tasso di allucinazione del 28%, mentre è stato osservato un tasso di allucinazione del 26% nel dataset FEVER. Questi risultati hanno confermato che la generazione diretta del linguaggio da sola era insufficiente per applicazioni che richiedono un'elevata affidabilità fattuale, stabilendo così la condizione di base rispetto alla quale sono state confrontate tutte le successive procedure di verifica.
Estrazione delle affermazioni
La procedura di estrazione delle affermazioni ha decomposto con successo le risposte generate in unità fattuali indipendenti e verificabili. Le risposte provenienti da TruthfulQA contenevano in media 3,2 affermazioni atomiche, mentre i campioni di FEVER consistevano generalmente di una singola affermazione. Il processo di decomposizione ha isolato le asserzioni fattuali senza introdurre informazioni aggiuntive, consentendo di valutare ogni singola affermazione separatamente. Questa osservazione ha sostenuto l'ipotesi secondo cui la verifica a livello di singola affermazione offre una maggiore precisione rispetto alla valutazione dell'intera risposta come un'unica unità.
Costruzione di riferimenti indipendenti
Sono state generate referenze indipendenti per ogni affermazione estratta, utilizzando un processo di ragionamento separato condizionato esclusivamente sulla query originale. Le referenze generate hanno fornito descrizioni fattuali concise sufficientemente distinte dalle risposte originali da poter fungere da fonti di verifica indipendenti. Il processo di generazione delle referenze è stato isolato dalla risposta iniziale per evitare di condizionare direttamente il riferimento fattuale sull'output precedente del modello. Questa separazione aveva lo scopo di ridurre il potenziale bias di conferma e di fornire una base controllata per la successiva verifica a livello di singola affermazione; lo studio non quantifica in modo indipendente l'entità di questo effetto. La generazione con successo di referenze indipendenti ha sostenuto il principio di progettazione proposto, basato sulla separazione tra richiamo della conoscenza e generazione della risposta.
Verifica dell'inferenza del linguaggio naturale
La fase di verifica NLI ha classificato efficacemente le coppie affermazione-riferimento nelle categorie di implicazione, contraddizione e neutralità. Le affermazioni contraddette hanno ricevuto costantemente punteggi di verifica negativi, mentre le affermazioni supportate da evidenze fattuali hanno ottenuto punteggi positivi. Le classificazioni neutre sono state assegnate alle affermazioni per le quali non era disponibile un'evidenza di supporto sufficiente. Questo comportamento ha dimostrato che l'inferenza semantica può identificare in modo affidabile affermazioni fattuali non supportate e fornire le evidenze necessarie per una correzione mirata. Rispetto a una semplice strategia di controllo della coerenza, la verifica NLI ha ridotto il tasso di allucinazioni dal 20% al 15%, indicando una maggiore capacità di rilevamento.
Soglia statistica adattiva
L'applicazione del thresholding statistico adattivo ha ulteriormente migliorato le prestazioni di verifica regolando dinamicamente i confini decisionali in base alla distribuzione dei punteggi di confidenza di ogni risposta. L'analisi della sensibilità della soglia ha dimostrato che le prestazioni sono migliorate all'aumentare del parametro di soglia da 0,3 a 0,7. Con un valore di sensibilità pari a 0,7, il framework ha raggiunto un'accuratezza di 0,87 riducendo al contempo le allucinazioni al 9% (Figura 2). I risultati completi dell'analisi di sensibilità per i valori valutati di k sono riportati nel Tabella Supplementare 2. Un ulteriore aumento della soglia oltre questo punto ha prodotto soltanto lievi miglioramenti dell'accuratezza, aumentando al contempo la latenza. Queste osservazioni confermano l'ipotesi secondo cui le soglie adattive risultano più efficaci delle soglie decisionali fisse nel gestire distribuzioni di confidenza variabili tra le diverse risposte.
La soglia adattiva riflette anche la variabilità dei punteggi di confidenza all'interno di ogni risposta. Le risposte con punteggi di verifica altamente coerenti producono una deviazione standard più piccola, determinando un confine decisionale più selettivo. Al contrario, le risposte contenenti affermazioni con valori di confidenza eterogenei presentano una deviazione standard maggiore, portando a una regione di accettazione più ampia e riducendo correzioni non necessarie per affermazioni incerte. Sebbene questo comportamento adattivo non possa eliminare ogni falso positivo o falso negativo, consente al confine decisionale di adattarsi alle caratteristiche di incertezza di ciascuna risposta, invece di applicare un criterio uniforme a tutti gli input.
Correzione selettiva delle richieste e assemblaggio della risposta
Sono state inviate per correzione solo le affermazioni identificate come contraddittorie, mentre quelle supportate e neutre sono state mantenute invariate. Questa strategia selettiva di correzione ha minimizzato la rigenerazione non necessaria e ha preservato la struttura originale della risposta. Dopo la correzione e la ricostruzione della risposta, il tasso di allucinazioni su TruthfulQA è diminuito dal 28% al 9%, con una riduzione relativa del 67,9%. Miglioramenti simili sono stati osservati su FEVER, dove le allucinazioni sono diminuite dal 26% al 10%. I confronti relativi ad accuratezza e tasso di allucinazioni tra le configurazioni valutate sono presentati nelle Figure 3 e 4, rispettivamente.
Valutazione delle prestazioni
La valutazione comparativa ha mostrato che il framework proposto ha ottenuto le prestazioni complessive più elevate tra tutti i metodi testati. Su TruthfulQA, il framework ha raggiunto un'accuratezza di 0,87 e un punteggio F1 di 0,85, superando sia la verifica con soglia fissa sia gli approcci basati sulla coerenza interna (Tabella 2, Figure 3 e 4). Su FEVER, il framework ha ottenuto un'accuratezza di 0,89 e un punteggio F1 di 0,87 (Tabella 3, Figure 3 e 4). Il contributo incrementale dei componenti del framework è stato esaminato tramite l'analisi di ablazione presentata nella Tabella 4. Questi miglioramenti hanno confermato che la combinazione della verifica a livello di affermazione con un processo decisionale statistico adattivo aumenta l'affidabilità fattuale su più dataset. L'accuratezza nel rilevamento delle allucinazioni per SelfCheckGPT, FActScore e il framework proposto è confrontata nella Figura 5.
Analisi della latenza
La pipeline completa di verifica ha mantenuto un basso carico computazionale. Il tempo medio di risposta è aumentato da 820 ms per il modello di base a 980 ms per il framework completo, rappresentando un incremento modesto nel tempo di elaborazione (Tabella 5). La generazione della risposta ha costituito la maggior parte della latenza totale, mentre le fasi di verifica e correzione hanno aggiunto un sovraccarico relativamente ridotto. La suddivisione del tempo di elaborazione per fase è riportata nella Tabella Supplementare 3. Rispetto ai sistemi di verifica basati sul recupero, che richiedevano circa 1600 ms per ogni query, il framework proposto ha ottenuto una latenza notevolmente inferiore pur mantenendo un'accuratezza fattuale comparabile. Questi risultati supportano l'ipotesi che la riduzione delle allucinazioni possa essere raggiunta senza compromettere l'usabilità in tempo reale.
Poiché la generazione della risposta si basa su un modello linguistico basato sul cloud, le singole misurazioni della latenza sono soggette a fluttuazioni dovute alle condizioni di rete e alla pianificazione lato server, piuttosto che a un tempo di esecuzione deterministico. Per questo motivo, sono state effettuate misurazioni ripetute al fine di ottenere valori medi rappresentativi, riducendo l'influenza della variabilità transitoria dell'esecuzione pur mantenendo confronti relativi tra i metodi valutati. I valori di latenza sono riportati come tempi medi di esecuzione calcolati su ripetute esecuzioni sperimentali. I singoli valori di latenza per ciascuna esecuzione non sono stati conservati; pertanto, non è stato possibile effettuare calcoli a posteriori di varianza, intervalli di confidenza o altre misure di variabilità. Di conseguenza, i valori di latenza e il confronto velocità-accuratezza in Figura 6 sono presentati come stime puntuali senza barre di errore.
In conclusione, i risultati hanno dimostrato che la combinazione di estrazione delle affermazioni, generazione indipendente di riferimenti, verifica tramite inferenza del linguaggio naturale, sogliatura statistica adattiva e correzione selettiva ha migliorato l'affidabilità fattuale degli output dei modelli linguistici di grandi dimensioni. Il framework ha ridotto il tasso di allucinazioni dal 28% al 9% su TruthfulQA e dal 26% al 10% su FEVER. I risultati indicano che la verifica adattiva a livello di affermazione ha migliorato le metriche di affidabilità fattuale limitando al contempo l'ulteriore latenza di risposta nelle condizioni valutate.
Disponibilità dei dati
I set di dati analizzati in questo studio sono disponibili pubblicamente attraverso le rispettive fonti ufficiali. Il manoscritto fornisce le informazioni sui set di dati, le configurazioni del modello e i dettagli metodologici necessari per supportare la riproduzione delle analisi descritte. I dati elaborati per la valutazione e i risultati supplementari generati durante lo studio sono forniti nei File Supplementari.
Figura 1: Flusso di lavoro del framework adattivo di verifica delle affermazioni. Una risposta iniziale generata da un modello linguistico di grandi dimensioni (LLM) viene scomposta in affermazioni fattuali, seguita da generazione indipendente di riferimenti, verifica basata su inferenza linguistica naturale (NLI), attribuzione di un punteggio di confidenza e sogliatura statistica. Le affermazioni che soddisfano il criterio di accettazione vengono mantenute, mentre quelle che soddisfano il criterio di correzione subiscono una correzione mirata prima dell'assemblaggio della risposta finale. Cliccare qui per visualizzare una versione ingrandita di questa figura.
Figura 2: Effetto del parametro di sensibilità (k) sull'accuratezza della verifica. Accuratezza su TruthfulQA e FEVER per valori di k pari a 0,3, 0,5, 0,7 e 1,0. L'accuratezza è aumentata con k su entrambi i dataset, con k = 0,7 selezionato per la valutazione principale. Cliccare qui per visualizzare una versione ingrandita di questa figura.
Figura 3: Confronto dell'accuratezza tra i diversi metodi di verifica. Accuratezza del modello linguistico di base, della verifica basata su NLI e del framework di verifica adattiva proposto su TruthfulQA e FEVER. Cliccare qui per visualizzare una versione ingrandita di questa figura.
Figura 4: Confronto del tasso di allucinazioni tra diversi metodi di verifica. Tassi di allucinazione per il modello LLM di base, la verifica basata su NLI e il framework proposto su TruthfulQA e FEVER. Il framework proposto ha ridotto il tasso dal 28% al 9% su TruthfulQA e dal 26% al 10% su FEVER. Cliccare qui per visualizzare una versione ingrandita di questa figura.
Figura 5: Accuratezza del rilevamento delle allucinazioni tra diversi metodi. Accuratezza di rilevamento di SelfCheckGPT, FActScore e del framework proposto su TruthfulQA e FEVER. Cliccare qui per visualizzare una versione ingrandita di questa figura.
Figura 6: Compromesso tra tempo di risposta e accuratezza nei diversi metodi di verifica. Relazione tra latenza di risposta e accuratezza per i metodi valutati su TruthfulQA e FEVER, che illustra il compromesso prestazioni-latenza associato al framework proposto e agli approcci comparativi. Cliccare qui per visualizzare una versione ingrandita di questa figura.
| Dataset | Campioni utilizzati | Domini | Lunghezza media della risposta (token) | Tasso di allucinazione del modello linguistico di base |
| TruthfulQA | 817 | 38 (scienze, storia, diritto, ecc.) | 42 | 28% |
| FEVER | 1.000 | Affermazioni fattuali generali | 18 | 26% |
Tabella 1: Caratteristiche del dataset di riferimento. Riepilogo dei dataset TruthfulQA e FEVER utilizzati per lo sviluppo e la valutazione del framework, inclusi il numero di campioni, l'accuratezza di base, la percentuale di allucinazioni di base e il numero medio di affermazioni per campione.
| Metodo | Accuratezza | Precisione | Richiamo | Punteggio F1 | Percentuale di allucinazioni |
| LLM di base (inferenza singola) | 0.72 | 0.71 | 0.69 | 0.7 | 28% |
| Verifica basata su NLI (soglia fissa) | 0.82 | 0.815 | 0.785 | 0.8 | 15% |
| SelfCheckGPT | 0.76 | 0.755 | 0.725 | 0.74 | 22% |
| FActScore | 0.85 | 0.8425 | 0.8175 | 0.83 | 11% |
| Framework proposto (soglia statistica) | 0.87 | 0.86 | 0.84 | 0.85 | 9% |
Tabella 2: Confronto delle prestazioni su TruthfulQA. Accuratezza, precisione, richiamo, punteggio F1 e tasso di allucinazione per il modello linguistico di base, SelfCheckGPT, FActScore, verifica NLI e il framework proposto.
| Metodo | Accuratezza | Precisione | Recupero | Punteggio F1 | Percentuale di allucinazioni |
| SelfCheckGPT | 0.78 | — | — | — | — |
| FActScore | 0.87 | — | — | — | — |
| LLM di base† | 0.74 | 0.73 | 0.71 | 0.72 | 26% |
| Verifica basata su NLI (Soglia fissa) | 0.83 | 0.8225 | 0.7975 | 0.81 | 14% |
| Framework proposto (Soglia statistica) | 0.89 | 0.8775 | 0.8625 | 0.87 | 10% |
Tabella 3: Confronto delle prestazioni su FEVER. Accuratezza, precisione, richiamo, punteggio F1 e tasso di allucinazione per il modello linguistico di base, SelfCheckGPT, FActScore, verifica NLI e il framework proposto.
| Configurazione | Accuratezza | Precisione | Recupero | F1 (aggiunto) | Tasso di allucinazione |
| Modello linguistico di base | 0.72 | 0.71 | 0.69 | 0.7 | 28% |
| Base + controllo secondario (senza NLI) | 0.78 | 0.7725 | 0.7475 | 0.76* | 20% |
| Base + verifica basata su NLI (soglia fissa) | 0.82 | 0.815 | 0.785 | 0.8 | 15% |
| Base + modulo decisionale statistico (completo) | 0.87 | 0.86 | 0.84 | 0.85 | 9% |
Tabella 4: Analisi di ablazione dei componenti del framework. Variazioni nell'accuratezza, nel punteggio F1 e nel tasso di allucinazione in seguito all'integrazione sequenziale della validazione secondaria, della verifica NLI e della soglia statistica adattiva.
| Metodo | Tempo Medio di Risposta (ms) |
| LLM di Base (Generazione Singola) | 820 |
| Meccanismo di Auto-Validazione | 910 |
| Framework Statistico Proposto | 980 |
| Verifica con Recupero Aumentato (RAG) | 1600 |
Tabella 5: Latenza di risposta tra i diversi metodi di verifica. Tempo medio di risposta e latenza aggiuntiva rispetto al modello linguistico di base per la Self-Validation, il framework proposto e la verifica basata sul recupero.
Tabella supplementare 1: Confronto tra approcci di verifica delle allucinazioni. Confronto tra il framework proposto e i metodi esistenti in termini di recupero esterno, verifica a livello di affermazione, soglia adattiva ed elaborazione efficiente in termini di latenza.Cliccare qui per scaricare il file.
Tabella supplementare 2: Analisi di sensibilità del parametro soglia (k). Accuratezza, precisione, richiamo, punteggio F1 e tasso di allucinazione sono stati ottenuti per valori del parametro soglia di 0,3, 0,5, 0,7 e 1,0. Un valore di k = 0,7 è stato utilizzato per la valutazione principale.Cliccare qui per scaricare il file.
Tabella supplementare 3: Tempo di elaborazione nelle diverse fasi della pipeline di verifica. Tempo medio di esecuzione e contributo percentuale della generazione della risposta iniziale, della decomposizione dell'affermazione, della generazione dei riferimenti, dell'inferenza NLI e della correzione selettiva rispetto al tempo totale di risposta.Cliccare qui per scaricare il file.
Tabella supplementare 4: Distribuzione degli errori identificati durante la verifica. Numero e percentuale di falsi negativi, falsi positivi ed errori di correzione, insieme alle principali categorie di allucinazione associate a ciascun tipo di errore.Cliccare qui per scaricare il file.
Discussione
Il framework proposto ha migliorato le prestazioni nella verifica fattuale evitando campionamenti ripetuti e il ricorso a recupero esterno. Su TruthfulQA, la percentuale di allucinazioni è diminuita dal 28% del modello LLM di base al 9% con il framework completo, mentre l'accuratezza è aumentata da 0,72 a 0,87. Su FEVER, la percentuale di allucinazioni è scesa dal 26% al 10%, con un'accuratezza passata da 0,74 a 0,89. Questi confronti devono essere interpretati alla luce delle condizioni sperimentali e delle implementazioni utilizzate in questo studio, piuttosto che come prova di una superiorità universale in ogni contesto di utilizzo. Il framework effettua una verifica a livello di affermazione successivamente alla generazione, avvalendosi di un riferimento fattuale isolato e di una correzione selettiva, offrendo un compromesso tra l'ancoraggio a conoscenze esterne, inferenze ripetute e una verifica leggera post-generazione. I generatori di risposta e di riferimento utilizzano lo stesso modello sottostante GPT-3.5 Turbo, ma operano con obiettivi di prompt diversi e in contesti di esecuzione separati. Il generatore di riferimento riceve soltanto la query originale e non ha accesso alla risposta precedentemente generata. Pertanto, i due processi di generazione sono indipendenti dal punto di vista procedurale piuttosto che statistico, e potrebbero mantenere bias fattuali correlati derivanti dal loro modello preaddestrato condiviso.
Confronto con gli approcci esistenti
La baseline NLI con soglia fissa applica una soglia di confidenza pari a 0,7, basandosi su lavori precedenti relativi alla verifica della fattualità basata sull'NLI14. SelfCheckGPT15 rappresenta un approccio di rilevamento delle allucinazioni senza risorse esterne, che genera più campioni stocastici e utilizza l'NLI per identificare affermazioni incoerenti. FActScore16 scompone le risposte generate in fatti atomici e li verifica rispetto a riferimenti recuperati da una fonte di conoscenza basata su Wikipedia. Al contrario, il framework proposto effettua una verifica a livello di singola affermazione senza richiedere la rigenerazione completa della risposta né il recupero di informazioni esterne.
DoLA è un approccio leggero complementare che migliora la generazione di informazioni fattuali confrontando le probabilità dei token derivati da diversi strati del transformer durante l'inferenza. Un confronto sperimentale diretto non è stato incluso perché DoLA modifica il processo di generazione dei token, mentre il framework proposto esegue una verifica a livello di affermazione e una correzione selettiva successivamente alla generazione. L'implementazione di DoLA richiederebbe l'accesso alle rappresentazioni interne degli strati del transformer, che non sono disponibili nell'API GPT-3.5 Turbo utilizzata in questo studio. L'assenza di recupero esterno riduce la dipendenza dal reperimento e i relativi requisiti di elaborazione, ma limita anche la verifica alle conoscenze disponibili per i modelli sottostanti. Di conseguenza, le falsificazioni complete o le affermazioni specializzate al di fuori della copertura conoscitiva del verificatore rimangono difficili da correggere.
Soglia statistica adattiva e correzione selettiva
La soglia adattativa deriva dalla distribuzione empirica dei punteggi di confidenza e regola il compromesso tra il richiamo nel rilevamento delle allucinazioni e la precisione della correzione. Un'analisi di sensibilità ha valutato i valori 0,3, 0,5, 0,7 e 1,0 su un sottoinsieme di validazione di TruthfulQA tenuto in disparte. Un valore di k = 0,7 ha fornito il compromesso più equilibrato tra riduzione delle allucinazioni ed efficienza computazionale per i benchmark valutati.
La soglia ottimale può variare tra diversi ambiti applicativi poiché la distribuzione dei punteggi di confidenza NLI dipende dalla natura del contenuto generato. Per l'applicazione a un nuovo dominio, un insieme di validazione rappresentativo dell'applicazione target può quindi essere utilizzato per valutare i valori candidati e selezionarne uno che bilanci le prestazioni nella verifica fattuale, il tasso di correzione e la latenza di elaborazione. Poiché l'ottimizzazione della soglia coinvolge un singolo parametro scalare anziché il riaddestramento dei modelli, l'adattamento non richiede modifiche ai modelli sottostanti.
La correzione selettiva limita la rigenerazione alle affermazioni classificate come Contraddizione e che soddisfano il criterio della soglia statistica. Questo evita l'elaborazione ripetuta di affermazioni che non soddisfano il criterio di correzione e distingue il framework dagli approcci di ricampionamento della risposta completa e di perfezionamento iterativo.
Compromesso tra latenza e prestazioni
Il framework proposto ha raggiunto un tempo medio di risposta di 980 ms rispetto a 820 ms per il modello linguistico di base e 1600 ms per la verifica con recupero aumentato. L'analisi per stadi ha mostrato che la generazione iniziale della risposta ha contribuito per l'83,7% alla latenza totale, mentre l'inferenza NLI ha contribuito per il 3,9% e la correzione selettiva ha contribuito mediamente a meno dell'1%. I valori di latenza sono riportati come tempi medi di esecuzione su ripetute esecuzioni sperimentali. I valori individuali di latenza per ciascuna esecuzione non sono stati conservati; pertanto, non è stato possibile effettuare a posteriori il calcolo della varianza, degli intervalli di confidenza o di altre misure di variabilità. Di conseguenza, i valori di latenza e il confronto velocità-accuratezza sono presentati come stime puntuali senza barre di errore. I valori di latenza riportati riflettono l'ambiente sperimentale utilizzato in questo studio e potrebbero variare in condizioni diverse di implementazione, in particolare quando vengono impiegati API di modelli linguistici basati su cloud. La latenza di rete, il carico del server e la disponibilità del servizio possono influenzare indipendentemente i tempi di risposta assoluti, indipendentemente dal framework di verifica proposto.
Analisi degli errori
Le affermazioni gestite in modo errato nel set di test TruthfulQA sono state classificate come falsi negativi, falsi positivi o errori di correzione. La distribuzione e le principali categorie di questi errori sono riassunte nella Tabella supplementare 4. I falsi negativi hanno rappresentato il 52,6% di tutti gli errori ed erano principalmente associati a allucinazioni temporali e sostituzioni fattuali sottili. Gli errori temporali potrebbero non essere rilevati quando il verificatore condivide il limite di addestramento del modello di base, mentre le sostituzioni fattuali sottili potrebbero ricevere punteggi NLI nella fascia Neutro anziché Contraddizione.
I falsi positivi hanno rappresentato il 35,9% degli errori ed erano dovuti principalmente a informazioni poco comuni, altamente specifiche o recentemente stabilite, al di fuori della copertura delle conoscenze ad alta affidabilità del modello verificatore. Questi casi hanno prodotto punteggi di inferenza logica (NLI) deboli nonostante le affermazioni fossero fattualmente corrette. Gli errori di correzione hanno costituito l'11,5% di tutti gli errori ed erano causati quando venivano identificate falsificazioni complete, ma il processo di correzione generava un’altra affermazione inaccurata a causa della limitata copertura delle conoscenze del verificatore.
Questi risultati indicano che gli errori residui derivano sia dalla discriminazione NLI che dalla copertura delle conoscenze del verificatore, in particolare per imprecisioni temporali, sostituzioni fattuali sottili, fatti poco comuni e falsificazioni complete.
Analisi statistica
Il tasso di allucinazioni è diminuito dal 15% con la verifica NLI a soglia fissa al 9% con il framework statistico proposto, mentre l'intero framework ha ridotto il tasso dal 28% del baseline al 9% su TruthfulQA. Queste differenze sono riportate come variazioni descrittive delle prestazioni, e non viene affermata alcuna significatività statistica formale poiché la valutazione attuale non include i risultati dei test statistici e le stime dell'effetto dimensionale necessarie per sostenere tale inferenza17,18.
Limitazioni
Le prestazioni di verifica del framework sono limitate dalle capacità del modello NLI sottostante. DeBERTa-v3-large potrebbe avere difficoltà con confronti numerici finemente dettagliati, ragionamenti temporali e affermazioni che richiedono inferenze multi-step attraverso più fatti. Ai limiti del modello NLI sono state inoltre associate falsi negativi derivanti da sostituzioni fattuali sottili, e debolezze sistematiche nel modello NLI potrebbero propagarsi nelle decisioni di verifica.
I generatori di risposta e di riferimento utilizzano lo stesso modello sottostante GPT-3.5 Turbo. Sebbene diversi obiettivi di prompt e contesti di esecuzione isolati garantiscano un'indipendenza procedurale, i due processi non sono statisticamente indipendenti e potrebbero mantenere bias fattuali correlati derivanti dal loro modello preaddestrato condiviso.
L'accoppiamento tra valutatore e verificatore rappresenta un'ulteriore limitazione. La valutazione finale delle allucinazioni utilizza lo stesso modello NLI impiegato per verificare le affermazioni all'interno della pipeline proposta. Ciò potrebbe introdurre un accordo tra verificatore e valutatore, influenzando il miglioramento misurato. I risultati riportati devono pertanto essere interpretati come prestazioni nell'ambito della procedura di valutazione basata su NLI, piuttosto che come prova completamente indipendente di riduzione delle allucinazioni. Una valutazione umana indipendente o un modello di valutazione sviluppato separatamente fornirebbero una convalida più solida.
La fase di decomposizione delle affermazioni è stata valutata esclusivamente per il suo contributo alla verifica end-to-end e non è stata analizzata in modo indipendente rispetto ai confini delle affermazioni annotate manualmente. Di conseguenza, lo studio non fornisce una stima quantitativa separata dell'accuratezza della decomposizione né del relativo errore individuale che si propaga alla verifica successiva.
La valutazione si è limitata a TruthfulQA e FEVER e a contenuti in lingua inglese. Pertanto, le prestazioni osservate non dimostrano una generalizzazione a domini specializzati, contesti multilingui o generazione di testi lunghi. Il valore ottimale di k potrebbe inoltre variare tra diversi domini applicativi poiché le distribuzioni dei punteggi di confidenza NLI dipendono dalla natura del contenuto generato. È quindi necessaria una calibrazione specifica per dominio e una valutazione più ampia prima di estendere i risultati oltre le condizioni analizzate in questo studio.
Infine, le misurazioni della latenza sono specifiche della configurazione sperimentale e possono variare tra diversi ambienti di esecuzione. Poiché le misurazioni individuali della latenza per ogni esecuzione non sono state conservate, non è stato possibile stimare a posteriori la variabilità e gli intervalli di confidenza. Una valutazione futura dovrebbe conservare le misurazioni individuali e includere una caratterizzazione statistica più ampia della latenza attraverso diversi ambienti di esecuzione.
Lavori futuri
Studi futuri dovrebbero affrontare le principali limitazioni identificate nel presente framework. È necessaria una calibrazione della soglia specifica per dominio, poiché il valore fisso (k = 0,7) selezionato utilizzando TruthfulQA potrebbe non essere ottimale per domini specializzati con distribuzioni diverse dei punteggi di confidenza NLI. Dati di validazione specifici per dominio potrebbero essere utilizzati per calibrare la soglia e, laddove necessario, applicare penalità asimmetriche per errori di falso negativo e falso positivo19.
La decomposizione migliorata delle affermazioni dovrebbe includere una valutazione indipendente mediante l'uso di limiti delle affermazioni annotati da esperti umani, al fine di quantificare completezza, correttezza e propagazione degli errori nei passaggi successivi. Modelli di decomposizione opportunamente affinati e misure di confidenza nella decomposizione potrebbero ulteriormente ridurre gli errori derivanti da affermazioni mal segmentate. Valutazioni comparative future dovrebbero inoltre includere approcci leggeri basati sul decodificatore, come DoLA, all'interno di un protocollo sperimentale unificato.
Un'arricchimento leggero basato sul recupero potrebbe contribuire a contrastare le invenzioni complete, che rimangono difficili da affrontare quando il verificatore non dispone di conoscenze fattuali sufficienti. Un recupero mirato come soluzione di ripiego per affermazioni contraddette a bassa confidenza potrebbe fornire un supporto fattuale esterno senza richiedere il recupero per ogni singola affermazione20.
È inoltre necessaria un'estensione multilingue poiché la valutazione attuale è limitata a benchmark in lingua inglese3. Studi futuri dovrebbero valutare modelli NLI multilingui e prompt specifici per la lingua per la decomposizione e la correzione delle affermazioni su benchmark multilingui per l'individuazione delle allucinazioni.
Conclusione
Questo studio ha presentato un framework di verifica delle affermazioni in due fasi, che combina la decomposizione in affermazioni atomiche, la generazione separata di riferimenti fattuali mediante prompt, la verifica tramite inferenza linguistica naturale (NLI), una soglia statistica adattiva e una correzione selettiva. Su TruthfulQA, il framework ha ridotto il tasso di allucinazioni dal 28% al 9%, aumentando la latenza media di 160 ms rispetto al modello linguistico di base (LLM). Su FEVER, il tasso di allucinazioni è diminuito dal 26% al 10%.
Il framework proposto ha raggiunto prestazioni competitive nella verifica fattuale senza ricorrere a campionamenti ripetuti dell'intera risposta né a recupero esterno. La soglia adattativa e la correzione selettiva hanno contribuito alle prestazioni osservate limitando al contempo l'overhead aggiuntivo di elaborazione. Tuttavia, i risultati sono limitati ai benchmark valutati e alle condizioni sperimentali considerate e restano soggetti alla dipendenza dal modello NLI, al coupling tra valutatore e verificatore, all'incertezza nella decomposizione delle affermazioni, alla calibrazione delle soglie specifiche per dominio e alla variabilità della latenza. È pertanto necessaria una valutazione più ampia, indipendente, specifica per dominio e multilingue prima di estendere i risultati a contesti di implementazione più ampi.
Dichiarazioni
Gli autori dichiarano di non avere conflitti di interessi.
Ringraziamenti
Gli autori desiderano esprimere la loro sincera gratitudine alla loro istituzione per aver fornito l'ambiente accademico e le risorse computazionali necessarie per condurre questa ricerca. Gli autori ringraziano inoltre gli sviluppatori e i responsabili della manutenzione dei dataset di benchmark disponibili pubblicamente utilizzati in questo studio, che hanno permesso una valutazione completa del framework proposto. Un particolare apprezzamento va ai colleghi e ai revisori per i loro commenti costruttivi, che hanno contribuito a migliorare la qualità e la chiarezza di questo lavoro. Gli autori riconoscono inoltre la comunità della ricerca open source per aver fornito le librerie software e gli strumenti che hanno facilitato l'esperimentazione, l'analisi dei dati e la visualizzazione dei risultati. I loro sforzi continui hanno notevolmente avanzato la ricerca nell'elaborazione del linguaggio naturale e nell'intelligenza artificiale affidabile. Gli autori dichiarano di non aver ricevuto alcun supporto finanziario esterno o finanziamenti per questa ricerca.
Materiali
| Nome | Azienda | Numero di catalogo | Commenti |
|---|---|---|---|
| Insieme di dati di benchmark FEVER | Compito condiviso FEVER (Thorne et al.) | https://fever.ai/dataset/fever.html | Insieme di dati pubblicamente disponibile per la verifica di fatti, composto da coppie affermazione-evidenza, utilizzato per la valutazione |
| GPT-3.5 Turbo (modello linguistico di grandi dimensioni B10+2:12:12 | OpenAI | Model ID: gpt-3.5-turbo; https://developers.openai.com/api/docs/models/gpt-3.5-turbo | Utilizzato sia come generatore di risposte che come generatore di riferimenti indipendente, accessibile tramite l'API di OpenAI |
| NumPy | Sviluppatori di NumPy (open source) | https://numpy.org/ | Libreria per il calcolo numerico utilizzata per calcoli statistici, inclusi media e deviazione standard dei punteggi di verifica NLI |
| Openai (libreria client Python) | OpenAI | https://github.com/openai/openai-python | Libreria client Python utilizzata per inviare prompt e recuperare completamenti da GPT-3.5 Turbo |
| pandas | Squadra di sviluppo di pandas (open source) | https://pandas.pydata.org/ | Libreria per l'analisi di dati tabulari utilizzata per la pre-elaborazione del dataset e la gestione dei risultati |
| Modello preaddestrato di classificazione Natural Language Inference (NLI) | Hugging Face model hub (modello basato sull'architettura Microsoft DeBERTa-v3-large) | MoritzLaurer/DeBERTa-v3-large-mnli-fever-anli-ling-wanli | Utilizzato in modalità inferenza, senza ulteriore addestramento, per classificare ogni coppia affermazione-riferimento come implicazione, neutralità o contraddizione |
| Python | Fondazione Python | Versione 3.9; https://www.python.org/downloads/release/python-390/ | Linguaggio di programmazione principale utilizzato per implementare il framework di verifica |
| SciPy | Sviluppatori di SciPy (open source) | https://scipy.org/ | Libreria per il calcolo scientifico utilizzata per supportare l'analisi statistica dei risultati sperimentali |
| Transformers (libreria Hugging Face Transformers) | Hugging Face | https://github.com/huggingface/transformers | Libreria Python utilizzata per caricare ed eseguire il modello NLI preaddestrato |
| Insieme di dati di benchmark TruthfulQA | Originariamente pubblicato da Lin, Hilton ed Evans | https://github.com/sylinrl/TruthfulQA | Benchmark pubblicamente disponibile composto da 817 domande orientate ai fatti, utilizzato per la taratura delle soglie e la valutazione |
| Computer workstation | Non specificato nel manoscritto (si prega di verificare produttore/modello) | Processore Intel Core i5; 16 GB di RAM; sistema operativo a 64 bit | Hardware utilizzato per eseguire tutti gli esperimenti in configurazioni identiche |
| Nota: tutti gli URL elencati sopra sono stati verificati ed erano attivi alla data di compilazione di questa tabella. |
Riferimenti
- Dai Z, et al. Promptagator: Few-shot dense retrieval from 8 examples [conference presentation]. Presented at: The Eleventh International Conference on Learning Representations; 2022. [https://iclr.cc/virtual/2023/poster/10937]
- Achiam J, et al. GPT-4 technical report. arXiv. 2023;arXiv:2303.08774. [https://arxiv.org/abs/2303.08774]
- Ji Z, et al. Survey of hallucination in natural language generation. ACM Comput Surv. 2023;55(12):1-38.
- Bender EM, McMillan-Major A, Shmitchell S, Gebru T. On the dangers of stochastic parrots: Can language models be too big? [conference presentation]. Presented at: 2021 ACM Conference on Fairness, Accountability, and Transparency; 2021. [https://dl.acm.org/doi/10.1145/3442188.3445922]
- Devlin J, et al. BERT: Pre-training of deep bidirectional transformers for language understanding [conference presentation]. Presented at: 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies; 2019. [https://arxiv.org/abs/1810.04805]
- Maynez J, Narayan S, Bohnet B, McDonald R. On faithfulness and factuality in abstractive summarization [conference presentation]. Presented at: 58th Annual Meeting of the Association for Computational Linguistics; 2020. [https://arxiv.org/abs/2005.00661]
- Brown T, et al. Language models are few-shot learners. Adv Neural Inf Process Syst. 2020;33:1877-901.
- Guu K, et al. Retrieval augmented language model pre-training [conference presentation]. Presented at: International Conference on Machine Learning; 2020. [https://arxiv.org/abs/2002.08909]
- Izacard G, Grave E. Leveraging passage retrieval with generative models for open domain question answering [conference presentation]. Presented at: 16th Conference of the European Chapter of the Association for Computational Linguistics; 2021. [https://arxiv.org/abs/2007.01282]
- Bowman SR, Angeli G, Potts C, Manning CD. A large annotated corpus for learning natural language inference [conference presentation]. Presented at: 2015 Conference on Empirical Methods in Natural Language Processing; 2015. [https://arxiv.org/abs/1508.05326]
- Platt J. Probabilistic outputs for support vector machines and comparisons to regularized likelihood methods. Adv Large Margin Classif. 1999;10(3):61-74.
- Lin S, Hilton J, Evans O. Truthfulqa: Measuring how models mimic human falsehoods. InProceedings of the 60th annual meeting of the association for computational linguistics (volume 1: long papers) 2022 May (pp. 3214-3252).
- Thorne J, Vlachos A, Christodoulopoulos C, Mittal A. FEVER: A large-scale dataset for fact extraction and verification [conference presentation]. Presented at: 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies; 2018. [https://aclanthology.org/N18-1074/]
- Williams A, Nangia N, Bowman SR. A broad-coverage challenge corpus for sentence understanding through inference. arXiv. 2017;arXiv:1704.05426.
- Manakul P, Liusie A, Gales M. SelfCheckGPT: Zero-resource black-box hallucination detection for generative large language models [conference presentation]. Presented at: 2023 Conference on Empirical Methods in Natural Language Processing; 2023.
- Min S, et al. FActScore: Fine-grained atomic evaluation of factual precision in long-form text generation. arXiv. 2023;arXiv:2305.14251.
- Cohen J. Statistical power analysis for the behavioral sciences. Routledge; New York; 2013.
- Kadavath S, et al. Language models (mostly) know what they know. arXiv. 2022;arXiv:2207.05221.
- Hendrycks D, et al. Aligning AI with shared human values. arXiv. 2020;arXiv:2008.02275.
- Lewis P, et al. Retrieval-augmented generation for knowledge-intensive NLP tasks. Adv Neural Inf Process Syst. 2020;33:9459-74.
Ristampe e permessi
