Verbetering van eerlijkheid in grote taalmodellen voor klinische kunstmatige intelligentietoepassingen door fine-tuning en prompting

Samenvatting

Gezondheidszorgspecifieke grote taalmodellen staan voor ethische en technische uitdagingen, omdat zij, net als andere grote taalmodellen, de vertekeningen in hun trainingsdata weerspiegelen. Het hier gepresenteerde protocol verifieert de onderdrukking van vier soorten vooringenomenheid (geslacht, ras, beroep, religie) met promptvarianten verspreid over drie open source-modellen.

Samenvatting

Grote taalmodellen (LLM's) worden steeds vaker toegepast op gevoelige domeinen zoals medische zorg, die meerdere technische en ethische uitdagingen met zich meebrengen. De meest directe problemen zijn bias die in deze modellen zijn ingebouwd, die zijn getraind op grote datasets die mogelijk maatschappelijke vooroordelen weerspiegelen. Dergelijke biases kunnen resulteren in resultaten die oneerlijk, niet generaliseerbaar of zelfs schadelijk zijn, waardoor ze klinisch niet toepasbaar zijn in de echte wereld en niet voldoen aan ethische en regelgevende beperkingen. We onderzoeken hoe goed biasonderdrukking werkt wanneer fijn afgestelde modellen worden geïnspireerd in vier cruciale categorieën (geslacht, ras, beroep en religie). We cureren handmatig een diverse inferentiedataset en maken twaalf promptvarianten – waarvan zes bevooroordeeld zijn – om de output van drie open-source LLM's te testen: Llama2-7B, Mistral-7B en Dolly-7B. De eerlijkheid en interpreteerbaarheid van de uitkomsten worden geëvalueerd met behulp van een bias-scoring, waarbij lagere scores beter eerlijkheid en interpreteerbaarheid aangeven. We merken ook op dat onbevooroordeelde prompts de bias verminderen, en het fijn afstemmen van het model presteert nog beter. De resultaten benadrukken het cruciale belang van tijdig handelen, robuustheid van het model en voortdurende ethische controle voor een betrouwbare en eerlijke implementatie van LLM's in praktijkomgevingen, zoals medische beeldvorming en het bijhouden van elektronische patiëntendossiers (EPD).

Inleiding

Grote taalmodellen hebben een enorme weerklank als hulpmiddelen ter ondersteuning van diverse taken, waaronder besluitvorming ^1,2, tekstgeneratie³, tekstvertaling⁴, klantsentimentanalyse⁵, vraagbeantwoording⁶ en het genereren van klinische rapporten⁷. Er zijn de laatste tijd verschillende gevallen geweest waarin applicaties LLM's hebben gebruikt om content te genereren die maatschappelijk kansarme individuen of groepen schaadt ^8,9,10. De belangrijkste reden achter zulke clichéloze antwoorden is dat deze modellen zijn getraind op datasets die inherent maatschappelijke vooroordelen bevatten die samenhangen met ras, geslacht, sociaaleconomische klasse en vergelijkbare factoren. Maar wat je bedoelt met "bias" en "eerlijkheid" in een AI-systeem in de gezondheidszorg kan subjectief en contextafhankelijk zijn. Onderzoekers hebben aanzienlijke inspanningen geleverd om sociale vooroordelen in LLM's^11,12 te verminderen; toch blijft verdere verbetering noodzakelijk. De onderzoekers hebben meerdere strategieën voor het mitigeren van biasen voorgesteld, die kunnen worden ingedeeld als pre-processing, in-processing, post-processing of combinaties daarvan, over een heterogeen scala aan toepassingen. Deze categorisering is gebaseerd op het stadium waarin de mitigatiemaatregel wordt genomen. Dit protocol combineert alle drie de strategieën om sociale vooringenomenheid in zes varianten van LLM's aan te pakken en te verlichten en onderzoekt het verminderen van vooroordelen over vier dimensies van sociale vooroordelen: geslacht, beroep, ras en religie. Eerst wordt een inferentiedataset ontwikkeld met behulp van een data-augmentatietechniek om LLM's in staat te stellen inferenties te genereren. Ten tweede zijn twaalf soorten prompts ontworpen om stereotiepe reacties uit LLM's uit te lokken. Ten derde zijn Llama-2-7B¹³, Mistral-7B¹⁴ en Dolly-7B¹⁵ fijn afgesteld op een dataset met onbevooroordeelde zinnen over de vier sociale categorieën: geslacht, ras, beroep en religie, om Llama-2-7B_Finetuned, Mistral-7B_Finetuned en Dolly-7B_Finetuned te krijgen, respectievelijk. Tot slot worden conclusies getrokken door de fijn afgestemde LLM's te laten onderzoeken hoe effectief ze zijn in het geven van eerlijke antwoorden.

We formuleerden de volgende onderzoeksvragen en behandelden deze in dit artikel. Voor elke geformuleerde onderzoeksvraag (RQ) werden een nulhypothese (H0) en een alternatieve hypothese (H1) opgesteld.

RQ1: Zijn de inferentiedataset en basispromptingtechnieken effectief bij het evalueren van maatschappelijke biases in LLM's? Nulhypothese (H0₁): De biasscores die uit een inferentiedataset zijn afgeleid, gecombineerd met basisprompts, statistisch niet te onderscheiden van de basislijn-biasscores van de LLM's. Alternatieve hypothese (H1₁): Biasscores uit de inferentiedataset met basisprompts verschillen statistisch significant van de baseline biasscores van de LLM's. Om de hypothese te testen werd een dataset, NeutralSet, samengesteld door StereoSet¹⁶ aan te passen en elke LLM te evalueren met behulp van basispromptingtechnieken om het vermogen te beoordelen om niet-stereotiepe antwoorden te produceren. In onze settings bevatten we zes basisprompts -- Standard (Een zero-shot prompt om de LLM te laten instrueren inferenties te trekken), Chain-of-Thoughts (CoT is ontworpen om de LLM stap voor stap te vragen om conclusies te trekken), System1 (Een prompt om de LLM snel te laten denken tijdens het antwoorden), System2 (Een prompt om de LLM langzaam en bedachtzaam te laten denken), Human Persona 1 (HP1 is ontworpen om de LLM de identiteit van een mens te laten aannemen die snel denkt tijdens het nemen van beslissingen), en Human Persona 2 (HP2 is ontworpen om de LLM de menselijke identiteit te laten aannemen en langzaam en bedachtzaam te denken tijdens het antwoorden).

RQ2: Zijn de debiasing prompting-technieken effectief in het onthullen en verminderen van maatschappelijke vooroordelen in LLM's? Nulhypothese (H0₂): Debiasing prompting-technieken zijn niet effectief in het onthullen en verminderen van maatschappelijke biases in LLM's. Alternatieve hypothese (H1₂): Gemeten biasscores dalen significant wanneer debiasing promptingtechnieken worden gebruikt in LLM's. We onderzoeken de impact van bevooroordeelde varianten van de basisprompts op drie open-source LLM's om eerlijke tekstgeneratie te bereiken zonder sociale discriminatie.

RQ3: Kunnen maatschappelijke vooroordelen verder worden verminderd door de LLM's fijn af te stemmen? Nulhypothese (H0₃): Het fijn afstemmen van de LLM's vermindert maatschappelijke biases niet verder dan de reducties die alleen door promptingtechnieken worden bereikt. Alternatieve hypothese (H1₃): Het fijn afstemmen van LLM's vermindert maatschappelijke biases verder dan de reducties die alleen door promptingtechnieken worden bereikt. Om deze vraag te beantwoorden, passen we dataset¹⁷ aan en verfijnen we de LLM's erop om de impact van fine-tuning bij het verminderen van stereotyperesponsen verder te beoordelen.

Figuur 1 illustreert het effect van promptvariatie en LLM-fine-tuning op de genderneutrale voorspelde uitkomst. De nieuwheid van ons werk komt voort uit het integreren van handmatige datasetcuratie, meerdere debiasing promptstrategieën en fine-tuning onder één protocol om een LLM te analyseren voor maatschappelijke bias-identificatie en -verlichting, relevant voor gevoelige toepassingen in de praktijk zoals medische beeldvorming en EPD-onderhoud. We groepeerden de literatuur over bias in LLM's in vier perspectieven: datasets voor bias en cognitieve associaties; raamwerken voor het opsporen en evalueren van bias; benaderingen van vooringenomenheid; en vooringenomenheid in gespecialiseerde domeinen.

Onderzoekers genereren voortdurend datasets om bias-evaluatie en analyse van semantische associaties in LLM's mogelijk te maken. Zo zijn vrije associaties in cognitieve psychologie en taalkunde altijd cruciaal voor het organiseren van conceptuele kennis. Door dezelfde associatie in de latente verdeling van LLM's te simuleren, hebben Abramski et ^al.18 een dataset geconstrueerd, LLM World of Words (LWOW). De LWOW Engelse vrije associatienormen-dataset, bestaande uit miljoenen antwoorden van drie LLM's: Mistral-7B¹⁴, Llama-3.1-8B¹⁹ en Claude-3-5-haiku-latest²⁰. Het is geïnspireerd op Small World of Words (SWOW)²¹, de grootste dataset van menselijke Engelse vrije associatienormen, die veelvuldig is gebruikt in diverse psychologische en taalkundige onderzoeken. Verder helpt LWOW bij het opbouwen van een cognitief netwerk bestaande uit knooppunten, elk een woord vertegenwoordigend, met knooppunten die overeenkomen met semantisch vergelijkbare woorden die dichter bij elkaar in het netwerk liggen. Dit helpt om bias in de output van LLM's te evalueren door de afstand tussen woorden in het kunstmatige cognitieve netwerk als belangrijke maatstaf te schatten. Een groot struikelblok bij het gebruik van propriëtaire LLM's is dat hun interne onderdelen ontoegankelijk zijn. Hoewel er aanzienlijke inspanningen zijn geleverd in deze modellen om bias aan te pakken, zijn alignment-datasets nog steeds schaars. Om deze zorg aan te pakken, wordt in Zhang et ^al.22 een dataset genaamd GenderAlign voorgesteld om genderbias in de LLM's te verminderen. UnStereoEval²³, een benchmarkdataset, wordt voorgesteld om stereotiepe genderbias in beroepen en emoties te onderzoeken. Hun bevindingen tonen een laag niveau van eerlijkheid aan over 28 verschillende LLM's. Bartl en Leavy²⁴ ontwikkelden een dataset, Tiny Heap, waarin zinnen met stereotiepe vermeldingen worden vervangen door hun neutrale equivalenten en drie taalmodellen fijn worden afgestemd (GPT-2²⁵, PHI-1.5²⁶ en RoBERTa²⁷). In hun bevindingen zien ze een significante vermindering van de genderstereotiepe neigingen van de modellen.

Verschillende meerlaagse raamwerken zijn voorgesteld om biases in LLM's te identificeren en te verminderen. In Raza et ^al.28 wordt een raamwerk voorgesteld, NBIAS, dat uit vier lagen bestaat: datasetcreatie, modelontwikkeling, biasmitigatie en evaluatie. De dataset binnen het kader is opgebouwd uit diverse domeinen, waaronder gezondheidszorg, sociale media en werkgelegenheidsportalen. Ze tonen de effectiviteit van hun model aan door eerlijk te zijn met 1% tot 8% beter dan de basislijn (BERT²⁹). In een ander dergelijk kader, GenderCARE³⁰, wordt een strategie voorgesteld om genderbias in LLMS te verminderen. In hun uitgebreide experimentele opzet verminderden ze de genderbias effectief met gemiddeld 35% over twaalf verschillende LLM's. Een framework, BiasAlet³¹, detecteert automatisch sociale bias in de open tekst die door de LLM's wordt gegenereerd. Het heeft enkele beperkingen: ten eerste wordt de studie uitgevoerd op een gesynthetiseerde dataset vanwege het ontbreken van een benchmark om bias in de open-text generatie van de LLM te evalueren, en ten tweede is het gebaseerd op de verouderde dataset SBIC³², wat het moeilijk maakt om het belang van impliciete bias te onderscheiden van de bias in de dataset zelf. Bias in door mensen gegenereerde data kan worden geïntroduceerd in modellen die erop zijn getraind. Het gebruik van dergelijke modellen is controversieel in banen met hoge inzet, waar hun output een nadelige impact kan hebben op kansarme groepen. Om dit aan te pakken, is een framework, BiasBuster³³, ontworpen om cognitieve bias in LLM's te detecteren, evalueren en verminderen. In lijn hiermee stellen onderzoekers in een ander werk³⁴ een interactief kader voor om eerlijke, logische en kritische tekst te genereren via System 2-prompts (ontworpen om de LLM doordacht en langzaam te laten nadenken) die zelfverfijnde en implicatieve prompts aanvullen. Het raamwerk is echter beperkt tot de taken binnen de latente ruimte van de LLM's. Dong et ^al.35 ontwikkelen een raamwerk dat indirect probing gebruikt om genderbias in tien open-source LLM's te verminderen en te evalueren. In hun onderzoekende methode, zonder gebruik te maken van directe stereotiepe vermeldingen, onthullen ze indirecte genderbias.

Lin et ^al.36 onderzoeken de politieke vooringenomenheid in tekstgeneratie door de LLM's voor zowel gesloten (GPT-3.5-turbo en GPT-4³⁷) als open-einde modellen (Llama-2-7B¹³, Mistral-7B¹⁴, Vicuna²⁹). Zij bepaalden of de door het model gegenereerde tekst een links- of rechtsgerichte mediabias veroorzaakte. Bovendien ontwikkelden ze een mitigatiestrategie door het model fijn af te stemmen en extra onbevooroordeelde prompts te bieden tijdens tekstgeneratie. Na toepassing van de bias mitigatietechniek genereert het model meestal neutrale tekst; Linkse of rechts georiënteerde media beïnvloeden dat niet. In lijn hiermee hebben Raj et ^al.17 een debiasing-oplossing voorgesteld, Social Contact Debiasing (SCD), gebaseerd op de contacthypothese in de psychologie, die prompt generation omvat die de ideologieën van verschillende sociale groepen begrijpt om vooroordelen in de tekstgeneratie van drie open source LLM's te verminderen. Parallel hieraan hebben Kamruzzaman en Kim³⁸ een techniek voor sociale debiasing voorgesteld die gebruikmaakt van Systeem 1 en Systeem 2 van gedachte-aansturing om te mititeren over twaalf biasdimensies in vijf LLM's (GPT-3.5, GPT-4³⁷, Llama-2-7B¹³, Mistral-7B¹⁴ en Gemini-1.0³⁹). Hier is de System 1-prompt bedoeld om de LLM snel te laten reageren, terwijl de System 2-prompt bedoeld is om het te leiden naar meer doordachte en doordachte antwoorden. Hoewel er verschillende studies zijn uitgevoerd die gebruik maken van prompt engineering om de bias in LLM's te verminderen, heeft bijna niemand de impact van promptvariatie op de output van LLM's onderzocht. Om dit probleem aan te pakken, hebben Hida et ^al.40 de gevoeligheid van de output van de twaalf open-source LLM's onderzocht om variatie te stimuleren en hun impact op taakprestaties en afwegingen van bias geanalyseerd. Hun bevindingen tonen aan dat debias-resultaten gevoelig zijn voor de prompt; Minder bias in de output van de modellen leidt tot een lagere taakprestatie. Kamboj et ^al.41 hebben een post-processing benadering voorgesteld om genderbias in contextualiseerde embeddings van een T5-model (Text-To-Text-Transfer-Transformer model⁴²) te verminderen. Oba et ^al.43 bieden handmatig gemaakte tekstuele preambels als prompts aan LLM's om hun bevooroordeelde generatie te onderdrukken.

Cognitieve biases, die al decennialang een bron van diagnostische fouten in de gezondheidszorg zijn, lopen het risico te worden ingeprent in en versterkt door grote taalmodellen (LLM's) in klinische besluitvorming. Om dit risico tegen te gaan, stellen Mahajan et ^al.44 voor dat mitigatiestrategieën voor de implementatie van deze technologieën zich moeten richten op drie thema's: ten eerste zelfreflectie (iteratieve herwaardering van outputs), ten tweede contextueel redeneren (volledige patiëntengeschiedenis en evidence-based richtlijnen), en ten slotte transparante redeneersporen (uitleg van redeneerprocessen die beschikbaar zijn voor audit). LLM's, met hun alomtegenwoordige mogelijkheden, worden nu ook veel gebruikt om programmeercode te genereren. Daarom is dit een belangrijke zorg voor onderzoekers om de nadelige effecten van sociale bias in gegenereerde code te onderzoeken. Als zo'n bias wordt ontdekt, moeten de bijbehorende mitigatietechnieken worden ontwikkeld. In dezelfde richting stelden Huang et ^al.45 een techniek voor om sociale vooringenomenheid te evalueren en te mitigeren en deze te testen op vijf veelgebruikte LLM's. In recente tijden hebben we enorme vooruitgang gezien in LLM-architecturen en hun vermogen om antwoorden te genereren die menselijk klinken. Of LLM's als proxy voor mensen kunnen dienen bij besluitvorming blijft nog onderbelicht en verdient verder onderzoek. In deze richting worden een kader en een dataset samengesteld door Tjuatja et ^al.46 om het vermogen van LLM's te onderzoeken om mensachtige antwoorden te geven in een enquêtevragenlijst.

Ondanks deze vooruitgang blijven er drie onderzoeksgaten bestaan. Ten eerste richt eerder onderzoek zich vaak op smalle soorten vooringenomenheid (bijvoorbeeld geslacht of politiek) of specifieke domeinen (bijvoorbeeld een bepaald onderwerp). Ten tweede, hoewel prompt engineering wijdverbreid is, onderzoeken weinig studies de effecten van systematische promptvariatie op LLM-output. Ten derde richt beperkt onderzoek zich op debiasing in de uitdagende resource-beperkte fine-tuning setting van open-source LLM's die relevant zijn voor kritieke domeinen zoals de gezondheidszorg. Om deze hiaten aan te pakken, wordt een enkel bias-mitigatie- en evaluatieprotocol gepresenteerd dat kan helpen bij het meten van stereotiepe bias over verschillende modelarchitecturen, waarbij fine-tuning onder computationele beperkingen wordt geïntegreerd en de robuustheid van modelbeslissingen ten opzichte van bias-metrieken wordt beoordeeld.

Protocol

Alle experimenten worden uitgevoerd op het Google Collab-platform (A100 met 40 GB RAM). Voor het uitvoeren van experimenten werden API-sleutels (modelkaarten) van Llama2-7B, Mistral-7B en Dolly-7B verzameld van Hugging Face.

Het protocol is verdeeld in drie delen. Bouw eerst een dataset op die dient als basis voor het evalueren van sociale bias in LLM's. Vervolgens ontwerpen ze twaalf verschillende promptvarianten, afgestemd op het werk van Kamruzzaman en Kim³⁸ om de aanwezigheid van sociale bias in de door LLM's gegenereerde inferenties te onderzoeken. Vervolgens verfijn je de LLM's op een dataset van onbevooroordeelde zinnen gerelateerd aan ras, religie, geslacht en beroep, en onderzoek je ze opnieuw met dezelfde prompts om het effect van fine-tuning op de gegenereerde inferenties te onderzoeken. Het voorgestelde kader is weergegeven in Figuur 2.

Het cureren van een dataset
Het framework gebruikt twee datasets. De ene wordt gebruikt om inferenties af te leiden, de andere wordt toegepast om LLM's fijn af te stemmen. Deze studie past StereoSet¹⁶ aan om een nieuwe dataset te bouwen, NeutralSet, die dient als basis voor inferentiegeneratie. De LLM's gebruikten de StereoSet om voorspellingen te doen over vier soorten vooroordelen: ras, religie, geslacht en beroep. StereoSet bestaat uit twee subdatasets: intra-zin en inter-zinn. Een instantie van NeutralSet wordt weergegeven in Tabel 1. Geef een zin uit de kolomcontext als vraag aan de LLM en vraag om het BLANK in te vullen met een van de woorden uit de kolommen: anti-stereotype, stereotype of neutrale. De mate van vooringenomenheid in de LLM kan worden afgemeten aan de keuze van de keuze. De opname van een neutrale kolom in NeutralSet onderscheidt het van StereoSet. Het doel van het toevoegen aan de nieuwe dataset is om de kans te verkleinen dat je de stereotypeoptie kiest bij het trekken van LLM-inferenties. Woorden worden toegevoegd in de neutrale kolom volgens de stappen vermeld in Algoritme 1 (Aanvullend Bestand 1). Waar V_s en V_as respectievelijk de vectoren zijn van stereotype en antistereotype woorden. Vervolgens wordt een woord uit het woordenboek geselecteerd waarvan de vector het dichtst bij V_n ligt, dat contextueel tussen de stereotype- en anti-stereotype woordvectoren ligt, en dit woord wordt toegevoegd aan de neutrale kolom in de geselecteerde rij. Tabel 2 vat het proces samen van het aanmaken van NeutralSet. Pas vervolgens dataset¹⁷aan om de LLM's fijn af te stemmen. De herziene dataset bevat 25.020 instanties, elk bestaande uit een zoekopdracht gekoppeld aan een sociaal onbevooroordeeld antwoord, gebruikt voor het trainen van de modellen. Queries zijn ontworpen om alle vier de soorten sociale vooroordelen aan te pakken.

Aanleiding voor de LLM's
Onderzoek de sociale biases in LLM's door een set prompts als invoerinstructies te geven. Maak eerst twaalf soorten prompts: zes basisprompts en zes bijbehorende debiased varianten. De inhoud van alle promptingtechnieken staat vermeld in Tabel 3. De prompts in deze studie ondergingen een cyclisch, geformaliseerd proces van schrijven, uitvoeren, reflecteren en herzien, wat resulteerde in een reeks prompts die in de loop van de tijd werden verfijnd door veel trial-and-error en verfijning. Dit maakte dekking mogelijk van een diverse set prompttypes, waaronder baseline-, CoT- en mens-persona-prompts. Prompt-ontwerpen en -scores werden niet gevalideerd door externe domeinexperts (bijv. clinici, specialisten in sociale of rechtvaardigheid). Tabel 4 vat verschillende prompttypes samen, waarbij hun redeneerstijlen, bias-mitigatiemogelijkheden en geschikte gebruikssituaties worden benadrukt om de juiste selectie te sturen. De evaluatie van de LLM's in dit artikel behoudt geen eerdere informatie over runs of sessies. Een ding dat in het uiteindelijke model moet worden verduidelijkt, is dat elke prompt geïsoleerd moet worden uitgevoerd, wat betekent dat er geen gespreksgeschiedenis van de ene prompt naar de andere wordt overgenomen. Deze indeling zorgde ervoor dat eerdere antwoorden geen invloed hadden op latere uitkomsten. Tijdens de fine-tuningfase past u alleen de modelparameters aan op basis van de trainingsdataset, zoals uiteengezet in zowel Parameter-Efficient Transfer Learning (PEFT⁴⁷) als Quantized Low-Rank Adaptation (QLoRA⁴⁸). Stel de prompt op zoals hieronder vermeld:

Standaardprompt: Dit is een zero-shot prompting-techniek waarbij de LLM met minimale informatie wordt geïnstrueerd om de inferentie te maken. De prompt is: "Voeg het meest geschikte woord in de BLANCO in uit de gegeven keuzes." Dit wordt gebruikt als basis om sociale bias in alle zes LLM's te kwantificeren en te evalueren.

CoT-prompt: De prompt bevat de zin: "Denk stap voor stap en vul het LEGE INVUL. Kies de beste match voor de BLANK uit de aangeboden opties...". Bij deze aanmoedigingstechniek wordt de LLM aangemoedigd om zijn cognitieve proces te activeren en stap voor stap na te denken voordat hij een antwoord geeft.

System1- en System2-prompts: Door de zin "U reageert prompt op vragen..." op te nemen, leiden de System1-prompts de LLM om snelle, intuïtieve antwoorden te geven, vergelijkbaar met hoe menselijke cognitie werkt in System1. System2-prompts zijn daarentegen ontworpen om meer doordachte, gedetailleerde, analytische en doordachte antwoorden uit de LLM te krijgen door de zin toe te voegen: "Je beantwoordt vragen grondig en doelbewust. Je antwoorden zijn doordacht en betrouwbaar "in de instructie".

HP1- en HP2-prompts: De opdrachten beginnen met: "Neem de identiteit aan van iemand die de vragen snel beantwoordt en vul het BLANCO in, terwijl je strikt in overeenstemming blijft met de aard van deze identiteit... ". In de HP1-promptingtechniek kreeg de LLM de instructie om de identiteit aan te nemen van een mens die snel reageert. Het doel van deze setting is om de LLM de mens te laten imiteren in het System1-cognitieproces. Daarentegen wordt de LLM in de HP2-prompt gedreven om een mensachtige identiteit aan te nemen die doordacht en doordacht voordat hij vragen beantwoordt, waardoor nauwkeurigere resultaten worden behaald. HP2-prompt begint met de zin: "Neem de identiteit aan van een persoon die de vragen doordacht en doelbewust beantwoordt en vul het LEGE IN terwijl je strikt in overeenstemming blijft met de aard van deze identiteit...". Het belangrijkste idee achter het opnemen van deze prompts is het beoordelen van het vermogen van een LLM om menselijke cognitie volledig na te bootsen.

Debias-varianten: Een debiasvariant wordt geconstrueerd door een verklaring toe te voegen die de LLM instrueert de beslissing neutraal te nemen, zonder stereotiepe vooroordelen.

Evaluatie van de LLM's
Evalueer zes LLM's: 1) Llama-2-7B¹³, met behulp van het meta-llama/Llama-2-7b-chat-hf checkpoint op Huggingface; 2) Mistral-7B¹⁴, met gebruik van het mistralai/Mistral-7B-Instruct-v0.3 checkpoint op Huggingface; 3) Dolly-7B¹⁵, met gebruik van het databricks/dolly-v2-7b checkpoint op Huggingface; 4) Llama2-7B_finetuned, een fijn afgestemde variant van Llama-2-7B; 5) Mistral-7B_finetuned, een fijn afgestelde variant van Mistral-7B; 6) Dolly-7B_finetuned, een fijn afgestelde variant van Dolly-7B.

Voer alle experimenten uit op een snelle GPU, zoals de A100 met 40 GB geheugen of hoger. Voor het fijn afstemmen van de LLM's verdeel je de dataset in training, validatie en testsets, met de standaard 70%:10%:20% verdeling. Om volledige hertraining van het model te voorkomen, gebruikt deze studie de PEFT^{47-configuratie} voor fine-tuning, waarbij een aanzienlijk deel van de modelparameters bevriest en slechts enkele taakspecifieke parameters worden toegevoegd. Gebruik 4-bits precisie in QLoRA⁴⁸ om de LLM te laden als de rekenkrachten beperkt zijn. Dit maakt snellere fijnafstelling mogelijk zonder de prestaties van het model te verminderen.

Om stereotiepe bias in LLM's te evalueren, gebruik de_biasscore als maatstaf. Zoals getoond in Vergelijking 1, wordt de_biasscore berekend als de verhouding van stereotype antwoorden tot het totale aantal geldige antwoorden van de LLM voor een specifieke prompt.

(1)

Waarbij N_s, N_als en N_n respectievelijk het aantal stereotiepe, anti-stereotiepe en neutrale reacties vertegenwoordigen. Een lagere biasscore geeft aan dat de output van het model minder stereotiep is.

Resultaten

Met behulp van de biasscore gedefinieerd in Formule 1 beantwoorden we systematisch onze onderzoeksvragen en evalueren we maatschappelijke biases in LLM's over vier sociale dimensies. De statistisch significante verminderingen van de waargenomen biasscores bieden empirische validatie van het voorgestelde protocol voor bias-vermindering in LLM's voor taken met hoge inzet. Om de effectiviteit van NeutralSet, oftewel de gecureerde inferentiedataset, te beoordelen, bevragen we alle drie de va...

Discussie

In dit werk presenteren we een schaalbaar protocol om sociale biases in LLM's te verminderen, dat gebruikmaakt van Llama2-7B¹³, Mistral-7B¹⁴ en Dolly-7B¹⁵. Deze aanpak combineert HP2 prompt engineering, debiasing van prompt-aanpassingen en gerichte fine-tuning om een protocol te ontwikkelen voor voortdurende vermindering van bias in door LLM gegenereerde outputs over de vier belangrijkste maatschappelijke dimensies v...

Materialen

Lijst van materialen gebruikt in dit artikel

Naam	Bedrijf	Catalogusnummer	Opmerkingen
Google Colab	Google	https://colab.research.google.com/	gebruikt voor het uitvoeren van de experimenten
Mendeley Desktop	Mendeley	https://www.mendeley.com/	gebruikt voor het beheren van citaten en referenties.