Migliorare l'equità nei grandi modelli linguistici per applicazioni cliniche di intelligenza artificiale attraverso il fine-tuning e il prompting

Sommario

I grandi modelli linguistici specifici per il settore sanitario affrontano sfide etiche e tecniche, poiché, come altri grandi modelli linguistici, riflettono i pregiudizi insiti nei loro dati di addestramento. Il protocollo presentato qui verifica la soppressione di quattro tipi di pregiudizi (genere, razza, professione, religione) utilizzando varianti prompt su tre modelli open-source.

Abstract

I Large Language Models (LLM) vengono applicati sempre più spesso a ambiti sensibili come l'assistenza medica, che pongono molteplici sfide tecniche ed etiche. Le problematiche più immediate includono i pregiudizi incorporati in questi modelli, che vengono addestrati su grandi dataset che possono riflettere pregiudizi sociali. Tali pregiudizi possono generare risultati ingiusti, generalizzabili o addirittutto dannosi, rendendoli clinicamente inapplicabili nel mondo reale e non conformi ai vincoli etici e normativi. Esaminiamo quanto bene funzioni la soppressione dei pregiudizi quando vengono proposti modelli finemente calibrati in quattro categorie critiche (genere, razza, professione e religione). Curiamo manualmente un dataset di inferenze diversificato e creiamo dodici varianti di prompt — sei delle quali sono debiase — per testare gli output di tre LLM open-source: Llama2-7B, Mistral-7B e Dolly-7B. L'equità e l'interpretabilità dei risultati vengono valutate utilizzando una metrica di punteggio del bias, dove punteggi più bassi indicano una migliore equità e interpretabilità. Notiamo inoltre che i prompt debiased riducono il bias e la fine-tuning del modello funziona ancora meglio. I risultati sottolineano l'importanza cruciale di un'azione tempestiva, della robustezza del modello e di un controllo etico continuo per un'implementazione affidabile ed equa di LLM in contesti reali, come l'imaging medico e la gestione delle cartelle cliniche elettroniche (EHR).

Introduzione

I grandi modelli linguistici hanno una ripercussione prodigiosa come strumenti per supportare compiti diversi, tra cui decisioni ^1,2, generazione di^{testo 3},^{traduzione 4}, analisi del sentiment del cliente⁵, risposta alle^{domande 6} e generazione di rapporti^{clinici 7}. Negli ultimi tempi si sono verificati diversi casi in cui applicazioni hanno utilizzato LLM per generare contenuti che danneggiano individui o gruppi socialmente^{svantaggiati 8,9,10}. La ragione principale dietro queste risposte banali è che questi modelli sono addestrati su dataset che contengono intrinsecamente pregiudizi sociali associati a razza, genere, classe socioeconomica e fattori simili. Ma ciò che intendi per "pregiudizio" e "equità" in un sistema di IA sanitaria può essere soggettivo e dipendente dal contesto. I ricercatori hanno fatto notevoli sforzi per mitigare i pregiudizi sociali nei LLM^11,12; tuttavia, restano necessari ulteriori miglioramenti. I ricercatori hanno proposto molteplici strategie di mitigazione del bias, che possono essere classificate come pre-processing, in-processing, post-processing o combinazioni di essi, in una gamma eterogenea di applicazioni. Questa categorizzazione si basa sulla fase in cui viene adottata la misura di mitigazione. Questo protocollo combina tutte e tre le strategie per affrontare e alleviare i pregiudizi sociali in sei varianti di LLM e indaga la riduzione dei bias in quattro dimensioni dei bias sociali: Genere, Professione, Razza e Religione. Per prima cosa, viene sviluppato un dataset di inferenza utilizzando una tecnica di aumento dei dati per permettere agli LLM di generare inferenze. Secondo, dodici tipi di prompt sono progettati per suscitare risposte stereotipate dagli LLM. Terzo, Llama-2-7B¹³, Mistral-7B¹⁴ e Dolly-7B¹⁵ sono ottimizzati su un dataset contenente frasi imparziali nelle quattro categorie sociali: genere, razza, professione e religione, per ottenere Llama-2-7B_Finetunato, Mistral-7B_Finetuned e Dolly-7B_Finetuned, rispettivamente. Infine, si trae inferenze esortando gli LLM finemente calibrati a indagare la loro efficacia nel fornire risposte equate.

Abbiamo formulato le seguenti domande di ricerca e le abbiamo affrontate in questo articolo. Per ogni domanda di ricerca formulata (RQ), sono state formulate un'ipotesi nulla (H0) e un'ipotesi alternativa (H1).

RQ1: Il dataset di inferenza e le tecniche di stimolazione di base sono efficaci nella valutazione dei bias sociali negli LLM? Ipotesi nulla (H0₁): I punteggi di bias derivati da un dataset di inferenza, combinati con prompt di base, sono statisticamente indistinguibili dai punteggi di bias di base degli LLM. Ipotesi alternativa (H1₁): I punteggi di bias dal dataset di inferenza con prompt di base sono statisticamente significativamente diversi dai punteggi di bias di base degli LLM. Per testare l'ipotesi, è stato curato un dataset, NeutralSet, modificando StereoSet¹⁶ e valutando ogni LLM utilizzando tecniche di prompting di base per valutarne la capacità di produrre risposte non stereotipate. Nei nostri contesti, includiamo sei prompt di base -- Standard (un prompt zero-shot per istruire il LLM a fare inferenze), Chain-of-Thoughts (CoT è progettato per chiedere al LLM di pensare passo dopo passo per fare inferenze), System1 (Un prompt per far pensare rapidamente al LLM mentre risponde), System2 (Un prompt per far riflettere il LLM lentamente e con riflessione), Human Persona 1 (HP1 è progettato per far assumere al LLM l'identità di un essere umano che pensa rapidamente durante le decisioni), e Human Persona 2 (HP2 è progettato per far sì che il LLM adotti l'identità umana che pensa lentamente e con riflessione mentre risponde).

RQ2: Le tecniche di debiasing prompting sono efficaci nel rivelare e mitigare i pregiudizi sociali negli LLM? Ipotesi nulla (H0₂): Le tecniche di debiasing prompting non sono efficaci nel rivelare e mitigare i bias sociali negli LLM. Ipotesi alternativa (H1₂): I punteggi di bias misurati diminuiscono significativamente quando nelle LLM vengono utilizzate tecniche di debiasing prompting. Indagiamo l'impatto delle varianti debiase dei prompt di base su tre LLM open-source per ottenere una generazione di testo equa e libera da qualsiasi discriminazione sociale.

RQ3: I pregiudizi sociali possono essere ulteriormente ridotti con la perfezione degli LLM? Ipotesi nulla (H0₃): Affinare gli LLM non riduce ulteriormente i pregiudizi sociali oltre alle riduzioni ottenute solo tramite tecniche di stimolazione. Ipotesi alternativa (H1₃): Il fine-tuning degli LLM riduce ulteriormente i pregiudizi sociali oltre le riduzioni ottenute solo tramite tecniche di stimolazione. Per rispondere a questa domanda, modifichiamo il dataset¹⁷ e perfezioniamo gli LLM su di esso per valutare ulteriormente l'impatto della fine-tuning nella riduzione delle risposte stereotipate.

La Figura 1 illustra l'effetto della variazione prompt e della fine-tuning LLM sull'esito previsto neutro rispetto al genere. La novità del nostro lavoro deriva dall'integrazione della cura manuale dei dataset, delle strategie di debiasing multiple e del fine-tuning sotto un unico protocollo per analizzare un LLM per l'identificazione e l'alleviamento dei bias sociali, rilevanti per applicazioni sensibili nel mondo reale come l'imaging medico e la manutenzione degli EHR. Abbiamo raggruppato la letteratura sul bias negli LLM in quattro prospettive: dataset per bias e associazioni cognitive; i framework di rilevamento e valutazione dei bias; approcci di mitigazione dei pregiudizi; e il bias in ambiti specializzati.

I ricercatori generano continuamente dataset per consentire la valutazione dei bias e l'analisi delle associazioni semantiche negli LLM. Ad esempio, in psicologia cognitiva e linguistica, le associazioni libere sono sempre fondamentali nell'organizzazione della conoscenza concettuale. Simulando la stessa associazione nella distribuzione latente degli LLM, Abramski et ^al.18 hanno costruito un dataset, LLM World of Words (LWOW). Il dataset di norme di associazione libera inglese di LWOW, che comprende milioni di risposte da tre LLM: Mistral-7B¹⁴, Llama-3.1-8B¹⁹ e Claude-3-5-haiku-latest²⁰. È ispirato a Small World of Words (SWOW)²¹, il più grande dataset di norme umane di associazione libera inglese, ampiamente impiegato in una varietà di indagini psicologiche e linguistiche. Inoltre, LWOW aiuta a costruire una rete cognitiva composta da nodi, ciascuno rappresentando una parola, con nodi corrispondenti a parole semanticamente simili che sono più vicine tra loro nella rete. Questo aiuta a valutare il bias nella produzione degli LLM stimando la distanza tra le parole nella rete cognitiva artificiale come metrica chiave. Uno dei principali ostacoli nell'uso di LLM proprietari è che i loro interni sono inaccessibili. Nonostante siano stati fatti sforzi significativi in questi modelli per affrontare i bias, i dataset di allineamento restano scarsi. Per affrontare questa preoccupazione, un dataset chiamato GenderAlign è proposto in Zhang et ^al.22 per mitigare il bias di genere negli LLM. UnStereoEval²³, un dataset di riferimento, è stato proposto per indagare il pregiudizio di genere stereotipato nelle occupazioni ed emozioni. I loro risultati rivelano un basso livello di equità tra 28 LLM diversi. Bartl e Leavy²⁴ hanno sviluppato un dataset, Tiny Heap, in cui le frasi con menzioni stereotipate vengono sostituite con i loro equivalenti neutrali e affinati tre modelli linguistici (GPT-2²⁵, PHI-1.5²⁶ e RoBERTa²⁷). Nei loro risultati, osservano una significativa riduzione delle tendenze stereotipate di genere dei modelli.

Sono stati proposti diversi framework multilivello per identificare e alleviare i bias negli LLM. In Raza et ^al.28, viene proposto un quadro di corrispondenza, NBIAS, che comprende quattro livelli: creazione di dataset, sviluppo del modello, mitigazione dei bias e valutazione. Il dataset all'interno del framework è costruito da ambiti diversi, tra cui sanità, social media e portali di lavoro. Mostrano l'efficacia del loro modello superando la linea di base (^{BERT 29}) dell'1% all'8% per equità. In un altro quadro di questo tipo,^{GenderCARE 30}, viene proposta una strategia per mitigare il pregiudizio di genere negli LLMS. Nel loro ampio allestimento sperimentale, hanno effettivamente ridotto il bias di genere in media del 35% su dodici diversi LLM. Un framework, BiasAlet³¹, rileva automaticamente il bias sociale nel testo aperto generato dagli LLM. Presenta alcune limitazioni: innanzitutto, lo studio viene condotto su un dataset sintetizzato a causa dell'indisponibilità di un benchmark per valutare il bias nella generazione di testo aperto del LLM, e in secondo luogo, è costruito sul dataset obsoleto SBIC³², che rende difficile distinguere tra la rilevanza del bias implicito e quella presente nel dataset stesso. Il bias nei dati generati dall'uomo può essere introdotto nei modelli addestrati su di essi. L'uso di tali modelli è controverso nei lavori ad alto rischio, dove la loro produzione può avere un impatto negativo sui gruppi svantaggiati. Per affrontare questo problema, è stato progettato un framework, BiasBuster³³, per rilevare, valutare e mitigare i bias cognitivi negli LLM. In linea con questo, in un'altra opera³⁴, i ricercatori propongono un framework interattivo per generare testi equi, logici e critici attraverso prompt System 2 (progettati per permettere all'LLM di pensare con riflessione e lentezza) che completino prompt auto-raffinati e implicativi. Tuttavia, il framework è limitato ai compiti all'interno dello spazio latente degli LLM. Dong et ^al.35 sviluppano un framework che utilizza il sondaggio indiretto per mitigare e valutare il pregiudizio di genere in dieci LLM open-source. Nel loro metodo di indagine, senza sfruttare menzioni stereotipate dirette, rivelano pregiudizi di genere indiretti.

Lin et ^al.36 indagano il bias politico nella generazione di testo da parte degli LLM sia per modelli chiusi (GPT-3.5-turbo e GPT-4³⁷) sia aperti (Llama-2-7B¹³, Mistral-7B¹⁴, Vicuna²⁹). Hanno determinato se il testo generato dal modello inducesse un pregiudizio mediatico di sinistra o di destra. Inoltre, hanno ideato una strategia di mitigazione affinando il modello e fornendo ulteriori prompt debiase durante la generazione del testo. Dopo aver applicato la tecnica di mitigazione del bias, il modello tende a generare testo neutro; I media di sinistra o di destra non influenzano questo. In linea con ciò, Raj et ^al.17 hanno proposto una soluzione di debiasing, Social Contact Debiasing (SCD), basata sull'ipotesi del contatto in psicologia, che include la generazione di prompt che comprende le ideologie di diversi gruppi sociali per ridurre i pregiudizi nella generazione di testi di tre LLM open-source. Parallelamente a ciò, Kamruzzaman e Kim³⁸ hanno proposto una tecnica di debiasing sociale che sfrutta la catena di pensiero System 1 e System 2 per mitigare la mitigazione su dodici dimensioni di bias in cinque LLM (GPT-3.5, GPT-4³⁷, Llama-2-7B¹³, Mistral-7B¹⁴ e Gemini-1.0³⁹). Qui, il prompt System 1 è pensato per far rispondere rapidamente il LLM, mentre il prompt System 2 è pensato per guidarlo verso risposte più ponderate e deliberate. Sebbene siano stati condotti vari studi che utilizzano l'ingegneria dei prompt per mitigare il bias negli LLM, quasi nessuno ha indagato l'impatto della variazione dei prompt sull'output degli LLM. Per affrontare questo problema, Hida et ^al.40 hanno indagato la sensibilità degli output dei dodici LLM open-source alla variazione incitante e analizzato il loro impatto sulle prestazioni dei compiti e sui compromessi sui bias. I loro risultati rivelano che i risultati di debiasing sono sensibili al prompt; Un minor bias nell'output dei modelli porta a una minore performance del compito. Kamboj et ^al.41 hanno proposto un approccio di post-elaborazione per mitigare il bias di genere negli embedding contestualizzati di un modello T5 (modello⁴² Text-to-Text-To-Text-Transfer-Transformer). Oba et ^al.43 forniscono preamboli testuali creati manualmente come prompt agli LLM per sopprimere la loro generazione distorta.

I bias cognitivi, che sono stati fonte di errore diagnostico nell'assistenza sanitaria per decenni, rischiano di essere impressi e amplificati dai grandi modelli linguistici (LLM) nelle decisioni cliniche. Per contrastare questo rischio, Mahajan et ^al.44 propongono che le strategie di mitigazione per implementare queste tecnologie dovrebbero concentrarsi su tre temi: primo, l'auto-riflessione (rivalutazione iterativa degli output), secondo, il ragionamento contestuale (che incorpora l'anamnesi completa del paziente e linee guida basate sull'evidenza) e infine, tracce di ragionamento trasparenti (spiegazioni dei processi di ragionamento rese disponibili per l'audit). Gli LLM, con la loro capacità onnipresente, sono ora ampiamente utilizzati anche per generare codice di programmazione. Pertanto, questa è una preoccupazione di primo piano per i ricercatori nell'indagare gli effetti negativi di eventuali pregiudizi sociali nel codice generato. Se viene rilevato tale bias, è necessario elaborare le tecniche di mitigazione corrispondenti. Nella stessa direzione, Huang et ^al.45 hanno proposto una tecnica di valutazione e mitigazione dei bias sociali e l'hanno testata su cinque LLM ampiamente utilizzati. Negli ultimi tempi abbiamo assistito a enormi progressi nelle architetture LLM e nella loro capacità di generare risposte che suonano simili a quelle umane. Se gli LLM possano fungere da proxy per gli esseri umani nelle decisioni rimane poco esplorato e merita ulteriori ricerche. In questa direzione, Tjuatja et ^al.46 hanno curato un quadro e un dataset per indagare la capacità degli LLM di fornire risposte simili a quelle umane in un questionario di sondaggio.

Nonostante questi progressi, persistono tre lacune nella ricerca. Innanzitutto, le ricerche precedenti tendono a concentrarsi su tipi ristretti di pregiudizio (ad esempio, di genere o politico) o su domini specifici (ad esempio, un argomento particolare). In secondo luogo, sebbene l'ingegneria dei prompt sia diffusa, pochi studi esaminano gli effetti della variazione sistematica dei prompt sull'output degli LLM. In terzo luogo, ricerche limitate affrontano il debiasing nell'ambito complesso e con risorse limitate di fine tuning degli LLM open-source rilevanti per ambiti critici come la sanità. Per colmare queste lacune, viene presentato un singolo protocollo di mitigazione e valutazione del bias che può aiutare a misurare il bias stereotipato tra varie architetture di modello, incorporando il fine-tuning sotto vincoli computazionali e valutando la robustezza delle decisioni del modello rispetto alle metriche di bias.

Protocollo

Tutti gli esperimenti sono condotti sulla piattaforma Google Colab (A100 con 40 GB di RAM). Per eseguire esperimenti, sono state raccolte le chiavi API (schede modello) di Llama2-7B, Mistral-7B e Dolly-7B da Hugging Face.

Il protocollo è suddiviso in tre parti. Per prima cosa, costruire un dataset che serva da base per valutare il bias sociale negli LLM. Successivamente progetta dodici varianti distinte di prompt, allineate con il lavoro svolto da Kamruzzaman e Kim³⁸ per indagare la presenza di bias sociali nelle inferenze generate dagli LLM. Poi, affina gli LLM su un dataset di frasi imparziali legate a razza, religione, genere e professione, e li sonda nuovamente con gli stessi prompt per indagare l'effetto del fine-tuning sulle inferenze generate. Il quadro proposto è mostrato nella Figura 2.

Curare un dataset
Il framework utilizza due dataset. Uno viene usato per derivare inferenze, l'altro per fin-tune degli LLM. Questo studio modifica StereoSet¹⁶ per costruire un nuovo dataset, NeutralSet, che funge da base per la generazione di inferenze. Gli LLM hanno utilizzato lo StereoSet per fare previsioni su quattro tipi di pregiudizio: razza, religione, genere e professione. StereoSet comprende due sotto-dataset: intra-frasi e inter-frasi. Un'istanza di NeutralSet è mostrata nella Tabella 1. Fornisci una frase dal contesto della colonna come query al LLM e chiedi di compilare lo SPAZIO VUOTO con una qualsiasi delle parole delle colonne anti-stereotipo, stereotipo o neutrale. Il grado di bias nel LLM può essere giudicato dall'opzione che sceglie. L'inclusione di una colonna neutra in NeutralSet lo distingue da StereoSet. Lo scopo di aggiungerlo al nuovo dataset è ridurre la probabilità di selezionare l'opzione stereotipo durante le inferenze LLM. Le parole vengono aggiunte nella colonna neutra secondo i passaggi menzionati nell'Algoritmo 1 (File Supplementare 1). Dove V_s e_{V as} sono rispettivamente i vettori delle parole stereotipo e anti-stereotipo. Viene quindi selezionata una parola dal dizionario il cui vettore è più vicino a V_n, che è posizionato contestualmente tra i vettori stereotipo e anti-stereotipo, e questa parola viene aggiunta alla colonna neutra nella riga selezionata. La Tabella 2 riassume il processo di creazione di NeutralSet. Poi, modifica il dataset¹⁷per affinare gli LLM. Il dataset rivisto include 25.020 istanze, ciascuna costituita da una query abbinata a una risposta socialmente imparziale, utilizzata per l'addestramento dei modelli. Le query sono progettate per affrontare tutti e quattro i tipi di pregiudizi sociali.

Stimolare gli LLM
Esamina i pregiudizi sociali negli LLM fornendo un insieme di prompt come istruzioni di input. Per prima cosa, crea dodici tipi di prompt: sei di base e sei varianti debiase corrispondenti. Il contenuto di tutte le tecniche di prompting è elencato nella Tabella 3. I prompt in questo studio hanno subito un processo ciclico e formalizzato di elaborazione, implementazione, riflessione e revisione, che ha portato a una serie di prompt affinati nel tempo attraverso tentativi ed errori significativi e perfezionamenti. Questo ha permesso di coprire un vario set di tipi di prompt, inclusi prompt baseline, CoT e personaggi umani. I pronostici e i punteggi non sono stati convalidati da esperti esterni del settore (ad esempio, clinici, specialisti sociali o di equità). La Tabella 4 riassume i diversi tipi di prompt, evidenziando i loro stili di ragionamento, le capacità di mitigazione dei bias e i casi d'uso adatti per guidare la selezione appropriata. La valutazione degli LLM in questo articolo non conserva informazioni passate tra le sessioni o le sessioni. Una cosa da chiarire nel modello finale è che ogni prompt deve essere eseguito in isolamento, cioè nessuna cronologia delle conversazioni viene trasferita da un prompt all'altro. Questa disposizione garantiva che le risposte passate non influenzassero i risultati successivi. Durante la fase di fine-tuning, modificare solo i parametri del modello in base al dataset di addestramento, come descritto sia in Parameter-Efficient Transfer Learning (PEFT⁴⁷) sia in Quantized Low-Rank Adaptation (QLoRA⁴⁸). Costruisci il prompt come menzionato di seguito:

Prompt standard: Questa è una tecnica di prompting zero-shot in cui l'LLM viene istruito con informazioni minime per fare l'inferenza. Il prompt è: "Inserisci la parola più appropriata nello SPAZIO BIANCO tra le opzioni fornite.". Questo viene utilizzato come riferimento per quantificare e valutare i bias sociali in tutti e sei i LLM.

Proposta CoT: Il prompt include la frase "Pensa passo dopo passo e compila lo SPAZIO. Scegli la soluzione migliore per il BLANK tra le opzioni fornite...". In questa tecnica di stimolazione, il LLM è incoraggiato ad attivare il proprio processo cognitivo e a riflettere passo dopo passo prima di fornire una risposta.

Prompt System1 e System2: Includendo la frase "Rispondi prontamente alle domande...", i prompt di System1 guidano il LLM a fornire risposte rapide e intuitive, simili a come funziona la cognizione umana nel System1. D'altra parte, i prompt di System2 sono progettati per suscitare risposte più ponderate, dettagliate, analitiche e deliberate dal LLM aggiungendo la frase "Rispondi alle domande in modo approfondito e deliberato. Le tue risposte sono ponderate e affidabili "nell'istruzione.

Prompt di HP1 e HP2: I prompt iniziano con: "Adottare l'identità di una persona che risponde rapidamente alle domande e compilare il VUOTO mantenendo la stretta conformità con la natura di questa identità... ". Nella tecnica di prompting HP1, l'LLM è stato istruito ad adottare l'identità di un essere umano che risponde rapidamente. Lo scopo di questa impostazione è far sì che il LLM imiti l'essere umano nel processo cognitivo System1. Al contrario, nel prompt HP2, l'LLM è spinto ad adottare un'identità simile a quella umana che riflette e deliberatamente prima di rispondere alle domande, ottenendo così risultati più accurati. Il prompt di HP2 inizia con la frase: "Adotta l'identità di una persona che risponde alle domande con riflessione e consapevolezza e compila il VUOTO restando in stretta conformità con la natura di questa identità...". L'idea chiave dietro l'inclusione di questi prompt è valutare la capacità di un LLM di emulare pienamente la cognizione umana.

Varianti di Debias: Una variante debias viene costruita aggiungendo un'affermazione che istruisce il LLM a prendere la decisione in modo neutrale, senza pregiudizi stereotipati.

Valutazione degli LLM
Valuta sei LLM: 1) Llama-2-7B¹³, usando il checkpoint meta-llama/Llama-2-7b-chat-hf su Huggingface; 2) Mistral-7B¹⁴, usando il checkpoint mistralai/Mistral-7B-Instruct-v0.3 su Huggingface; 3) Dolly-7B¹⁵, usando il checkpoint databrick/dolly-v2-7b su Huggingface; 4) Llama2-7B_finetato, una variante fine-tunata del Llama-2-7B; 5) Mistral-7B_finetato, una variante finemente calibrata del Mistral-7B; 6) Dolly-7B_finetato, una variante fine-tuned di Dolly-7B.

Esegui tutti gli esperimenti su una GPU ad alta velocità, come l'A100 con 40 GB di memoria o superiore. Per la fine tuning degli LLM, dividi il dataset in set di addestramento, validazione e test, usando la divisione standard 70%:10%:20%. Per evitare un completo riaddestramento del modello, questo studio utilizza la configurazione PEFT⁴⁷ per la fine tuning, che congela una parte sostanziale dei parametri del modello e aggiunge solo pochi parametri specifici per il compito. Usa la precisione a 4 bit in QLoRA⁴⁸ per caricare l'LLM se le risorse computazionali sono limitate. Questo permetterà una messa a punto più rapida senza rallentare le prestazioni del modello.

Per valutare il bias stereotipato negli LLM, si utilizza il_punteggio di bias come metrica. Come mostrato nell'Equazione 1, il_punteggio di bias viene calcolato come il rapporto tra le risposte stereotipate e il numero totale di risposte valide dell'LLM per uno specifico prompt.

(1)

Dove N_s, N_as e N_n rappresentano rispettivamente il numero di risposte stereotipate, anti-stereotipate e neutre. Un punteggio di bias più basso indica che l'output del modello è meno stereotipato.

Risultati

Utilizzando il punteggio di bias definito nell'Equazione 1, rispondiamo sistematicamente alle nostre domande di ricerca e valutiamo i bias sociali negli LLM in quattro dimensioni sociali. Le riduzioni statisticamente significative dei punteggi di bias osservate forniscono una validazione empirica del protocollo proposto per la riduzione del bias negli LLM per compiti ad alto rischio. Per valutare l'efficacia di NeutralSet, cioè il dataset di inferenze curato, interroghiamo tutti e tre gl...

Discussione

In questo lavoro, presentiamo un protocollo scalabile per ridurre i pregiudizi sociali negli LLM che sfrutta Llama2-7B¹³, Mistral-7B¹⁴ e Dolly-7B¹⁵. Questo approccio combina l'ingegneria dei prompt HP2, modifiche di prompt di debiasing e un fine-tuning mirato per sviluppare un protocollo per la continua riduzione del bias nei risultati generati dagli LLM attraverso le quattro principali dimensioni sociali di genere, ...

Materiali

Elenco dei materiali utilizzati in questo articolo

Nome	Azienda	Numero di catalogo	Commenti
Google Colab	Google	https://colab.research.google.com/	Utilizzato per condurre gli esperimenti
Scrivania Mendeley	Mendeley	https://www.mendeley.com/	Utilizzato per gestire citazioni e riferimenti.