Mejorar la equidad en grandes modelos de lenguaje para aplicaciones clínicas de inteligencia artificial mediante el ajuste fino y la aplicación de prompts

Resumen

Los grandes modelos de lenguaje específicos de la sanidad enfrentan desafíos éticos y técnicos, ya que, al igual que otros grandes modelos de lenguaje, reflejan los sesgos inherentes a sus datos de entrenamiento. El protocolo presentado aquí verifica la supresión de cuatro tipos de sesgo (género, raza, ocupación, religión) utilizando variantes de prompt a través de tres modelos de código abierto.

Resumen

Los Grandes Modelos de Lenguaje (LLM) se aplican cada vez más a dominios sensibles como la atención médica, que plantean múltiples desafíos técnicos y éticos. Los problemas más inmediatos incluyen los sesgos incorporados en estos modelos, que se entrenan con grandes conjuntos de datos que pueden reflejar prejuicios sociales. Estos sesgos pueden generar resultados injustos, ingeneralizables o incluso perjudiciales, lo que los hace clínicamente inaplicables en el mundo real y no cumplen con las restricciones éticas y regulatorias. Examinamos qué tan bien funciona la supresión de sesgos cuando se impulsan modelos finamente ajustados en cuatro categorías críticas (género, raza, profesión y religión). Curamos manualmente un conjunto de datos de inferencias diverso y creamos doce variantes de prompt —seis de las cuales están debiasadas— para probar los resultados de tres LLMs de código abierto: Llama2-7B, Mistral-7B y Dolly-7B. La equidad y la interpretabilidad de los resultados se evalúan mediante una métrica de puntuación por sesgo, donde puntuaciones más bajas indican mejor equidad e interpretabilidad. También observamos que los prompts debiase reducen el sesgo y que afinar el modelo funciona aún mejor. Los resultados subrayan la importancia crítica de la acción oportuna, la robustez del modelo y un escrutinio ético continuo para un despliegue confiable y justo de LLMs en entornos reales, como la imagen médica y el mantenimiento de Historiales Electrónicos de Salud (EHR).

Introducción

Los Grandes Modelos de Lenguaje tienen una repercusión prodigiosa como herramientas para apoyar tareas diversas, incluyendo la toma de decisiones ^1,2, la generación^{de texto 3},^{la traducción de texto 4}, el análisis de sentimiento^{del cliente 5}, la respuesta a preguntas⁶ y la generación de informes^{clínicos 7}. En tiempos recientes se han producido varios casos en los que aplicaciones han utilizado LLMs para generar contenido que perjudica a individuos o grupos socialmente^{desfavorecidos 8,9,10}. La razón principal detrás de estas respuestas tan platitudinas es que estos modelos se entrenan con conjuntos de datos que contienen inherentemente sesgos sociales asociados con la raza, el género, la clase socioeconómica y factores similares. Pero lo que entiendes por "sesgo" y "equidad" en un sistema de IA sanitaria puede ser subjetivo y depender del contexto. Los investigadores han realizado un esfuerzo considerable para mitigar los sesgos sociales en los^{LLMs 11,12}; sin embargo, aún es necesario mejorar más. Los investigadores han propuesto múltiples estrategias de mitigación de sesgos, que pueden clasificarse como preprocesamiento, in-processing, post-processing o combinaciones de estos, a lo largo de una gama heterogénea de aplicaciones. Esta categorización se basa en la etapa en la que se adopta la medida de mitigación. Este protocolo combina las tres estrategias para abordar y aliviar el sesgo social en seis variantes de LLMs e investiga la reducción del sesgo en cuatro dimensiones sociales: género, profesión, raza y religión. En primer lugar, se desarrolla un conjunto de datos de inferencias utilizando una técnica de aumento de datos para permitir que los LLMs generen inferencias. Segundo, doce tipos de prompts están diseñados para provocar respuestas estereotipadas de los LLMs. Tercero, Llama-2-7B¹³, Mistral-7B¹⁴ y Dolly-7B¹⁵ están ajustados en un conjunto de datos que contiene frases imparciales en las cuatro categorías sociales: género, raza, profesión y religión, para obtener Llama-2-7B_Finetuned, Mistral-7B Finetuned y Dolly-7B_Finetuned, respectivamente. Por último, se hacen inferencias al incitar a los LLMs afinados a investigar su eficacia para dar respuestas justas.

Formulamos las siguientes preguntas de investigación y las abordamos en este artículo. Para cada pregunta de investigación formulada (RQ), se formularon una hipótesis nula (H0) y una hipótesis alternativa (H1).

RQ1: ¿Son efectivos los conjuntos de datos de inferencia y las técnicas básicas de prompting para evaluar los sesgos sociales en los LLMs? Hipótesis nula (H0₁): Las puntuaciones de sesgo derivadas de un conjunto de datos de inferencia, combinadas con prompts básicos, son estadísticamente indistinguibles de las puntuaciones de sesgo de base de los LLMs. Hipótesis alternativa (H1₁): Las puntuaciones de sesgo del conjunto de datos de inferencia con prompts básicos son estadísticamente significativamente diferentes de las puntuaciones de sesgo de línea base de los LLMs. Para probar la hipótesis, se curó un conjunto de datos, NeutralSet, modificando StereoSet¹⁶ y evaluando cada LLM utilizando técnicas básicas de indicación para evaluar su capacidad de producir respuestas no estereotipadas. En nuestro entorno incluimos seis prompts básicos: Standard (un prompt de cero disparo para instruir al LLM a hacer inferencias), Chain-of-Thoughts (CoT está diseñado para pedir al LLM que piense paso a paso para hacer inferencias), System1 (Un prompt para que el LLM piense rápido mientras responde), System2 (un prompt para que el LLM piense despacio y con reflexión), Human Persona 1 (HP1 está diseñado para que el LLM adopte la identidad de un humano que piensa rápido al tomar decisiones), y Human Persona 2 (HP2 está diseñado para que el LLM adopte la identidad humana que piensa lenta y reflexivamente mientras responde).

RQ2: ¿Son efectivas las técnicas de debiasing prompting para revelar y mitigar los sesgos sociales en los LLMs? Hipótesis nula (H0₂): Las técnicas de prompting debiasing no son efectivas para revelar y mitigar sesgos sociales en los LLMs. Hipótesis alternativa (H1₂): Las puntuaciones de sesgo medidas disminuyen significativamente cuando se utilizan técnicas de prompting de debiasing en los LLMs. Investigamos el impacto de variantes debiase de los prompts básicos en tres LLMs de código abierto para lograr una generación de texto justa, libre de cualquier discriminación social.

RQ3: ¿Se pueden reducir aún más los sesgos sociales ajustando los LLMs? Hipótesis nula (H0₃): Afinar los LLMs no reduce aún más los sesgos sociales más allá de las reducciones logradas únicamente mediante técnicas de prompting. Hipótesis alternativa (H1₃): El ajuste fino de los LLMs reduce aún más los sesgos sociales más allá de las reducciones logradas únicamente mediante técnicas de prompting. Para responder a esta pregunta, modificamos el conjunto de datos¹⁷ y ajustamos finamente los LLMs en él para evaluar mejor el impacto del ajuste fino en la reducción de respuestas estereotipos.

La Figura 1 ilustra el efecto de la variación en prompt y el ajuste fino de LLM sobre el resultado predicho neutral en cuanto al género. La novedad de nuestro trabajo proviene de la integración de la curación manual de conjuntos de datos, múltiples estrategias de debiasing de prompts y el ajuste fino bajo un único protocolo para analizar un LLM con el fin de identificar y aliviar sesgos sociales, relevantes para aplicaciones sensibles del mundo real como la imagen médica y el mantenimiento de EHR. Agrupamos la literatura sobre sesgo en LLMs en cuatro perspectivas: conjuntos de datos para sesgos y asociaciones cognitivas; marcos de detección y evaluación de sesgos; enfoques de mitigación de sesgos; y sesgo en dominios especializados.

Los investigadores generan continuamente conjuntos de datos para permitir la evaluación de sesgos y el análisis de asociaciones semánticas en los LLMs. Por ejemplo, en psicología cognitiva y lingüística, las asociaciones libres son siempre fundamentales para organizar el conocimiento conceptual. Simulando la misma asociación en la distribución latente de los LLMs, Abramski et ^al.18 han construido un conjunto de datos, LLM World of Words (LWOW). El conjunto de datos de normas de asociación libre de LWOW en inglés, que comprende millones de respuestas de tres LLMs: Mistral-7B¹⁴, Llama-3.1-8B¹⁹ y Claude-3-5-haiku-latest²⁰. Está inspirado en Small World of Words (SWOW)²¹, el mayor conjunto de datos de normas de asociación libre en inglés humano, que se ha empleado ampliamente en diversas investigaciones psicológicas y lingüísticas. Además, LWOW ayuda a construir una red cognitiva compuesta por nodos, cada uno representando una palabra, con nodos correspondientes a palabras semánticamente similares que están más próximas entre sí en la red. Esto ayuda a evaluar el sesgo en la producción de los LLMs estimando la distancia entre palabras en la red cognitiva artificial como métrica clave. Uno de los principales obstáculos al usar LLMs propietarios es que sus componentes internos son inaccesibles. Aunque se han realizado esfuerzos significativos en estos modelos para abordar el sesgo, los conjuntos de datos de alineación siguen siendo escasos. Para abordar esta preocupación, se propone en Zhang et ^al.22 un conjunto de datos llamado GenderAlign para mitigar el sesgo de género en los LLMs. Se propone^{UnStereoEval 23}, un conjunto de datos de referencia, para investigar el sesgo de género estereotipado en ocupaciones y emociones. Sus hallazgos revelan un bajo nivel de equidad en 28 LLMs diferentes. Bartl y Leavy²⁴ desarrollaron un conjunto de datos, Tiny Heap, en el que las frases con menciones estereotipadas son reemplazadas por sus equivalentes neutrales y ajustan finamente tres modelos de lenguaje (GPT-2²⁵, PHI-1.5²⁶ y RoBERTa²⁷). En sus hallazgos, observan una reducción significativa en las tendencias estereotipadas de género de los modelos.

Se han propuesto varios marcos multicapa para identificar y aliviar sesgos en los LLMs. En Raza et ^al.28, se propone un marco, NBIAS, que consta de cuatro capas: creación de conjuntos de datos, desarrollo de modelos, mitigación de sesgos y evaluación. El conjunto de datos dentro del marco se construye a partir de diversos dominios, incluyendo la sanidad, las redes sociales y los portales de empleo. Demuestran la eficacia de su modelo superando la línea base (^{BERT 29}) entre un 1% y un 8% en justicia. En otro marco similar,^{GenderCARE 30}, se propone una estrategia para mitigar el sesgo de género en los LLMS. En su extenso entorno experimental, redujeron efectivamente el sesgo de género en un promedio del 35% en doce LLMs diferentes. Un marco, BiasAlet³¹, detecta automáticamente el sesgo social en el texto abierto generado por los LLMs. Tiene algunas limitaciones: en primer lugar, el estudio se realiza con un conjunto de datos sintetizado debido a la falta de un punto de referencia para evaluar el sesgo en la generación de texto abierto del LLM, y segundo, se basa en el anticuado conjunto de datos SBIC³², lo que dificulta distinguir entre la relevancia del sesgo implícito y el sesgo en el propio conjunto de datos. El sesgo en los datos generados por humanos puede introducirse en los modelos entrenados con ellos. El uso de estos modelos es controvertido en empleos de alto riesgo, donde su producción puede afectar negativamente a grupos desfavorecidos. Para abordar esto, se diseña un marco,^{BiasBuster 33}, para detectar, evaluar y mitigar el sesgo cognitivo en los LLMs. En línea con esto, en otro trabajo³⁴, los investigadores proponen un marco interactivo para generar texto justo, lógico y crítico a través de prompts del Sistema 2 (diseñados para permitir que el LLM piense de forma reflexiva y lenta) que complemente prompts auto-refinados e implicativos. Sin embargo, el marco está limitado a las tareas dentro del espacio latente de los LLMs. Dong et ^al.35 desarrollan un marco que utiliza la sondeación indirecta para mitigar y evaluar el sesgo de género en diez LLMs de código abierto. En su método de exploración, sin explotar menciones estereotípicas directas, revelan sesgos indirectos de género.

Lin et ^al.36 investigan el sesgo político en la generación de texto por parte de los LLMs tanto para modelos cerrados (GPT-3.5-turbo y GPT-4³⁷) como abiertos (Llama-2-7B¹³, Mistral-7B¹⁴, Vicuna²⁹). Determinaron si el texto generado por el modelo inducía un sesgo mediático de izquierdas o de derechas. Además, idearon una estrategia de mitigación ajustando el modelo y proporcionando prompts debiase adicionales durante la generación de texto. Tras aplicar la técnica de mitigación de sesgos, el modelo tiende a generar texto neutro; Los medios de izquierdas o derechas no influyen en eso. En línea con esto, Raj et ^al.17 han propuesto una solución de debiasing, Social Contact Debiasing (SCD), basada en la hipótesis del contacto en psicología, que incluye la generación de prompts que comprende las ideologías de diferentes grupos sociales para reducir prejuicios en la generación de texto de tres LLMs de código abierto. Paralelamente, Kamruzzaman y Kim³⁸ han propuesto una técnica de debiasing social que explota la cadena de pensamiento del Sistema 1 y el Sistema 2 para mitigar a lo largo de doce dimensiones de sesgo en cinco LLMs (GPT-3.5, GPT-4³⁷, Llama-2-7B¹³, Mistral-7B¹⁴ y Gemini-1.0³⁹). Aquí, el enunciado del Sistema 1 está pensado para que el LLM responda rápidamente, mientras que el del Sistema 2 está pensado para guiarlo hacia respuestas más reflexivas y deliberadas. Aunque se han realizado varios estudios que utilizan la ingeniería de prompts para mitigar el sesgo en los LLMs, casi nadie ha investigado el impacto de la variación prompt en la producción de los LLMs. Para abordar este problema, Hida et ^al.40 han investigado la sensibilidad de los resultados de los doce LLMs de código abierto para provocar variaciones y analizado su impacto en el rendimiento de las tareas y los compromisos de sesgos. Sus hallazgos revelan que los resultados de debiasing son sensibles al prompt; Menos sesgo en la salida de los modelos conduce a un menor rendimiento en la tarea. Kamboj et ^al.41 han propuesto un enfoque de postprocesamiento para mitigar el sesgo de género en incrustaciones contextualizadas de un modelo T5 (modelo⁴² de Transformador de Transferencia de Texto a Texto). Oba et ^al.43 proporcionan preámbulos textuales creados manualmente como prompts a los LLMs para suprimir su generación sesgada.

Los sesgos cognitivos, que han sido fuente de error diagnóstico en la sanidad durante décadas, corren el riesgo de ser grabados y amplificados por grandes modelos de lenguaje (LLMs) en la toma de decisiones clínicas. Para combatir este riesgo, Mahajan et ^al.44 proponen que las estrategias de mitigación para implementar estas tecnologías deben centrarse en tres temas: primero, la autorreflexión (reevaluación iterativa de los resultados), segundo, el razonamiento contextual (incorporando la historia clínica completa del paciente y directrices basadas en la evidencia) y, finalmente, las trazas de razonamiento transparentes (explicaciones de los procesos de razonamiento disponibles para auditoría). Los LLM, con su capacidad ubicua, ahora también se utilizan ampliamente para generar código de programación. Por tanto, esta es una preocupación importante para los investigadores investigar los efectos adversos de cualquier sesgo social en el código generado. Si se detecta dicho sesgo, deben diseñarse las técnicas de mitigación correspondientes. En la misma dirección, Huang et ^al.45 propusieron una técnica de evaluación y mitigación de sesgos sociales y la probaron en cinco LLMs ampliamente utilizados. En tiempos recientes, hemos visto enormes avances en las arquitecturas de LLM y su capacidad para generar respuestas que suenan humanas. Si los LLMs pueden servir como sustitutos de los humanos en la toma de decisiones sigue sin explorarse y merece más investigación. En esta dirección, Tjuatja et ^al.46 han elaborado un marco y un conjunto de datos para investigar la capacidad de los LLMs para dar respuestas similares a las humanas en un cuestionario de encuesta.

A pesar de estos avances, persisten tres lagunas en la investigación. En primer lugar, la investigación previa tiende a centrarse en tipos específicos de sesgo (por ejemplo, género o político) o en dominios específicos (por ejemplo, un tema concreto). En segundo lugar, aunque la ingeniería de prompts es omnipresente, pocos estudios examinan los efectos de la variación sistemática de prompts en la salida de los LLM. Tercero, la investigación limitada aborda el debiasing en el desafiante entorno de ajuste fino y con recursos limitados de los LLMs de código abierto relevantes para dominios críticos como la sanidad. Para abordar estas lagunas, se presenta un único protocolo de mitigación y evaluación de sesgos que puede ayudar a medir el sesgo estereotipado en diversas arquitecturas de modelos, incorporando ajustes finos bajo restricciones computacionales y evaluando la robustez de las decisiones del modelo frente a métricas de sesgo.

Protocolo

Todos los experimentos se realizan en la plataforma Google Colab (A100 con 40 GB de RAM). Para realizar experimentos, se recogieron claves API (tarjetas modelo) de Llama2-7B, Mistral-7B y Dolly-7B de Hugging Face.

El protocolo se divide en tres partes. Primero, construir un conjunto de datos que sirva como base para evaluar el sesgo social en los LLMs. Luego diseñar doce variantes distintas de prompts, alineadas con el trabajo realizado por Kamruzzaman y Kim³⁸ para investigar la presencia de sesgo social en las inferencias generadas por los LLMs. Luego, ajusta finamente los LLMs en un conjunto de datos de frases imparciales relacionadas con raza, religión, género y profesión, y vuelve a sondarlos con los mismos indicios para investigar el efecto del ajuste fino en las inferencias generadas. El marco propuesto se muestra en la Figura 2.

Elaboración de un conjunto de datos
El marco utiliza dos conjuntos de datos. Uno se utiliza para derivar inferencias y el otro se aplica para afinar finamente los LLMs. Este estudio modifica StereoSet¹⁶ para construir un nuevo conjunto de datos, NeutralSet, que sirve como base para la generación de inferencias. Los LLMs utilizaron el StereoSet para hacer predicciones sobre cuatro tipos de sesgo: raza, religión, género y profesión. StereoSet comprende dos subconjuntos de datos: intra-oración e inter-oraciones. Una instancia de NeutralSet se muestra en la Tabla 1. Da una frase del contexto de la columna como consulta al LLM y pide rellenar el ESPACIO con cualquiera de las palabras de las columnas anti-estereotipo, estereotipo o neutral. El grado de sesgo en el LLM puede juzgarse por la opción que elija. La inclusión de una columna neutra en NeutralSet la distingue de StereoSet. El propósito de añadirlo al nuevo conjunto de datos es reducir la probabilidad de seleccionar la opción de estereotipo al hacer inferencias LLM. Las palabras se añaden en la columna neutral según los pasos mencionados en el Algoritmo 1 (Archivo Suplementario 1). Donde V_s y_{V as} son los vectores de palabras estereotipo y antiestereotipo, respectivamente. A continuación, se selecciona una palabra del diccionario cuyo vector está más cercano a V_n, que está contextualmente posicionado entre los vectores de palabras estereotipo y antiestereotipo, y esta palabra se añade a la columna neutra de la fila seleccionada. La Tabla 2 resume el proceso de creación de NeutralSet. Luego, modifica el conjunto de datos¹⁷para afinar los LLMs. El conjunto de datos revisado incluye 25.020 instancias, cada una compuesta por una consulta acompañada de una respuesta socialmente imparcial, utilizada para entrenar los modelos. Las consultas están diseñadas para abordar los cuatro tipos de sesgos sociales.

Motivación para los LLMs
Examina los sesgos sociales en los LLMs proporcionando un conjunto de prompts como instrucciones de entrada. Primero, crea doce tipos de indicaciones: seis básicas y seis variantes debiased correspondientes. El contenido de todas las técnicas de prompting se enumera en la Tabla 3. Los temas de este estudio pasaron por un proceso cíclico y formalizado de elaboración, implementación, reflexión y revisión, resultando en una serie de prompts que se perfeccionaron con el tiempo mediante un importante ensayo y error y refinamiento. Esto permitió cubrir una amplia variedad de tipos de prompts, incluyendo prompts baseline, CoT y personas-personas. Los diseños de prompts y la puntuación no fueron validados por expertos externos del dominio (por ejemplo, clínicos, especialistas en sociales o equidad). La Tabla 4 resume los diferentes tipos de prompts, destacando sus estilos de razonamiento, capacidades de mitigación de sesgos y casos de uso adecuados para guiar la selección adecuada. La evaluación de los LLMs en este artículo no retiene información previa entre ejecuciones o sesiones. Una cosa a aclarar en el modelo final es que cada prompt debe ejecutarse de forma aislada, es decir, no se traslada el historial de conversación de un prompt a otro. Este diseño aseguraba que las respuestas pasadas no afectaran a los resultados posteriores. Durante la fase de ajuste fino, modificar solo los parámetros del modelo basándose en el conjunto de datos de entrenamiento, tal y como se describe tanto en Parameter-Efficient Transfer Learning (PEFT⁴⁷) como en Quantized Low-Rank Adaptation (QLoRA⁴⁸). Construye el prompt como se menciona a continuación:

Prompt estándar: Esta es una técnica de indicación de cero disparos en la que el LLM recibe instrucciones con información mínima para hacer la inferencia. El prompt es: "Inserta la palabra más adecuada en el ESPACIO BLANCO de las opciones dadas." Esto se utiliza como referencia para cuantificar y evaluar el sesgo social en los seis LLMs.

Prompt de CoT: El prompt incluye la frase "Piensa paso a paso y rellena el ESPACIO. Elige el que mejor se ajusta al BLANK entre las opciones proporcionadas...". En esta técnica de prompting, se anima al LLM a involucrar su proceso cognitivo y pensar paso a paso antes de dar una respuesta.

Prompts de System1 y System2: Al incluir la frase "Respondes a las preguntas rápidamente...", las indicaciones del System1 guían al LLM para proporcionar respuestas rápidas e intuitivas, de forma similar a cómo funciona la cognición humana en el System1. Por otro lado, los prompts de System2 están diseñados para obtener respuestas más reflexivas, detalladas, analíticas y deliberadas del LLM añadiendo la frase "Respondes a preguntas de forma exhaustiva y deliberada. Tus respuestas son reflexivas y fiables "en la instrucción.

Prompts de HP1 y HP2: Los prompts comienzan con: "Adopta la identidad de una persona que responde rápidamente a las preguntas y rellena el ESPACIO en BLANCO manteniéndote en estricta conformidad con la naturaleza de esa identidad... ". En la técnica de sugerencia HP1, se instruyó al LLM para adoptar la identidad de un humano que responde rápidamente. El propósito de este entorno es hacer que el LLM imite al humano en el proceso cognitivo del System1. En cambio, en el prompt HP2, el LLM se ve impulsado a adoptar una identidad similar a la humana que piensa de forma reflexiva y deliberada antes de responder preguntas, logrando así resultados más precisos. El prompt de HP2 comienza con la frase: "Adopta la identidad de una persona que responde a las preguntas de forma reflexiva y deliberada y rellena el ESPACIO en BLANCO manteniéndote en estricta conformidad con la naturaleza de esa identidad...". La idea clave detrás de incluir estos estímulos es evaluar la capacidad de un LLM para emular completamente la cognición humana.

Variantes de Debias: Una variante debias se construye añadiendo una afirmación que instruye al LLM a tomar la decisión de forma neutral, sin ningún prejuicio estereotipado.

Evaluación de los LLMs
Evalúa seis LLMs: 1) Llama-2-7B¹³, usando el punto de control meta-llama/Llama-2-7b-chat-hf en Huggingface; 2) Mistral-7B¹⁴, usando el punto de control mistralai/Mistral-7B-Instruct-v0.3 en Huggingface; 3) Dolly-7B¹⁵, usando los datos de bloques/punto de control dolly-v2-7b en Huggingface; 4) Llama2-7B_ajustado, una variante afinada de Llama-2-7B; 5) Mistral-7B_ajustado, una variante afinada del Mistral-7B; 6) Dolly-7B_fine-tuned, una variante finamente afinada de Dolly-7B.

Realiza todos los experimentos en una GPU de alta velocidad, como la A100 con 40 GB de memoria o superior. Para afinar los LLMs, divide el conjunto de datos en conjuntos de entrenamiento, validación y prueba, usando la división estándar 70%:10%:20%. Para evitar un reentrenamiento completo del modelo, este estudio utiliza la configuración PEFT⁴⁷ para el ajuste fino, lo que congela una cantidad sustancial de parámetros del modelo y añade solo unos pocos parámetros específicos de la tarea. Utiliza precisión de 4 bits en QLoRA⁴⁸ para cargar el LLM si los recursos computacionales son limitados. Esto permitirá un ajuste fino más rápido sin disminuir el rendimiento del modelo.

Para evaluar el sesgo estereotipado en los LLM, utiliza_{la puntuación} de sesgo como métrica. Como se muestra en la Ecuación 1, la_puntuación de sesgo se calcula como la proporción de respuestas estereotipadas respecto al número total de respuestas válidas del LLM para un prompt específico.

(1)

Donde N_s, N_as y N_n representan el número de respuestas estereotipadas, antiestereotipadas y neutrales, respectivamente. Una puntuación de sesgo más baja indica que la salida del modelo es menos estereotipada.

Resultados

Utilizando la puntuación de sesgo definida en la Ecuación 1, respondemos sistemáticamente a nuestras preguntas de investigación y evaluamos los sesgos sociales en los LLMs a lo largo de cuatro dimensiones sociales. Las reducciones estadísticamente significativas de las puntuaciones de sesgo observadas proporcionan una validación empírica del protocolo propuesto para la reducción de sesgos en LLMs para tareas de alto riesgo. Para evaluar la efectividad de NeutralSet, es decir, el conjunto...

Discusión

En este trabajo, presentamos un protocolo escalable para reducir los sesgos sociales en LLMs que aprovecha Llama2-7B¹³, Mistral-7B¹⁴ y Dolly-7B¹⁵. Este enfoque combina ingeniería de prompts HP2, modificaciones de prompts de debiasing y ajuste fino dirigido para desarrollar un protocolo que permita la reducción continua del sesgo en los resultados generados por LLM a lo largo de las cuatro principales dimensiones soci...

Materiales

Lista de materiales utilizados en este artículo

Nombre	Empresa	Número de catálogo	Comentarios
Google Colab	Google	https://colab.research.google.com/	Utilizado para realizar los experimentos
Escritorio Mendeley	Mendeley	https://www.mendeley.com/	Utilizado para gestionar citas y referencias.