$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
El objetivo de este estudio es afinar un modelo de lenguaje (LM) para generar resúmenes con alucinaciones de entidades reducidas. Las alucinaciones ocurren cuando un modelo "produce con confianza resultados incorrectos o irrelevantes" porque genera texto según la probabilidad estadística en lugar de la verificación fáctica. Esto se consigue diseñando una función de recompensa basada en el Índice de Alucinaciones de Entidades (EHI) y aplicando aprendizaje por refuerzo para maximizarla.
Formulación del problema
Dado un documento de entrada Xi, el objetivo es generar un resumen Yi de modo que las entidades mencionadas en Yi estén fundamentadas en Xi. El entrenamiento tradicional de máxima verosimilitud no optimiza explícitamente la consistencia fáctica. Estos métodos de formación no penalizan la inclusión de entidades fabricadas. Por ello, se introduce una estrategia de ajuste fino basada en recompensas, donde la recompensa es proporcional a la fidelidad de la entidad, medida mediante EHI.
Conjunto de datos y método
Se utilizan dos corpus: primero, un conjunto de datos de transcripción de diálogos con transcripciones de reuniones de varios turnos y resúmenes abstractos de oro, y segundo, el benchmark de resumen de noticiasXSUM 22,23. Cada conjunto de datos fue limpiado, aplanado y dividido en particiones del 80% de tren, 10% de validación y 10% de prueba. Los diálogos son ricos en lenguaje informal y pronombres, mientras que XSUM contiene artículos de noticias concisos; La combinación nos permite evaluar tanto la generalización dentro como fuera del dominio.
La extracción de entidades se realiza tanto en documentos fuente como en resúmenes para calcular el Índice de Alucinaciones de Entidades (EHI). Durante el ajuste fino, este estudio utiliza exclusivamente la división de entrenamiento, mientras que las puntuaciones EHI de validación se monitorizan para seleccionar el mejor punto de control. Las evaluaciones finales se reportan en el conjunto de pruebas que se ha extendido, que permanece sin disparo antes y después del ajuste fino de los modelos.
En resumen, primero, las transcripciones se organizan en un formato aplanado y se dividen los datos. El modelo preentrenado genera resúmenes de referencia. En segundo lugar, el EHI se calcula usando NER basado en transformadores y los cinco factores de alucinación. Durante el ajuste fino, el modelo se actualiza con la recompensa EHI mediante adaptadores LoRa. Finalmente, los resúmenes se generan utilizando el modelo ajustado y se evalúan usando EHI, Entidad F1 y otras métricas (Figura 2). Todos los experimentos son reproducibles mediante el código y los archivos de configuración proporcionados. La Figura 3 muestra el flujo de proceso paso a paso para la preparación del conjunto de datos, la síntesis de la línea base, el cálculo de EHI, el ajuste fino y la evaluación.
Resumen de la línea base
Se eligen tres LLMs preentrenados y se capturan sus resúmenes base: Flan-T5, Mistral (Nous-Hermes-2-Mistral-7B-DPO) y DistilBART 24,25,26. Cada modelo se ejecutaba en modo zero-shot para producir un resumen inicial (Yi) para cada documento de entrada (xi). Se utilizó búsqueda de haz con un ancho de haz de 4 y una penalización de longitud de 1,0 para fomentar resúmenes fluidos pero concisos. Estos resúmenes basales servían para estimar la prevalencia de alucinaciones y proporcionaban puntos de partida para el ajuste fino.
Extracción de entidades y cálculo EHI
Calcular con precisión el Índice de Alucinaciones de Entidades (EHI) requiere un NER robusto. Inicialmente, Spacy se utilizó para operaciones de la NER. Se entiende que los modelos NER basados en transformadores son más precisos, pero Spacy fue la elección inicial por las siguientes razones: (1) Los modelos NER basados en transformadores han demostrado alucinar más que Spacy. (2) El espaciamiento al ser estadístico aporta eficiencia computacional en términos de coste de implementación y tiempo de ejecución. (3) También nos ayuda a demostrar que el EHI es robusto en la reducción de alucinaciones incluso con un modelo de NER más débil. Sin embargo, dado que los experimentos se realizan con conjuntos de datos establecidos y el modelo en_core_web_sm de spaCy es frágil en las transcripcionescoloquiales 13. El espacio se sustituye por un modelo NER basado en transformadores (dslim/bert-base-NER), que es un modelo BERT ajustado con el conjunto de datos CoNLL-2003. Se ha demostrado que los sistemas NER basados en BERT superan a los modelos spaCy en tareas específicas de dominio; por ejemplo, un modelo Aviation-BERT-NER alcanzó un F1 del 94,78% mientras identificaba 17 entidades, frente al 93,73% de spaCy NER que reconocíasiete entidades 27. El modelo BERT NER se configuró mediante Hugging Face Transformers28 y realizó emparejamiento insensible a mayúsculas y mayúsculas. Para capturar pronombres y variaciones en la forma superficial, este método aplicaba además reglas simples que asignaban "Mr. Smith" y "Smith" a la misma forma canónica; sin embargo, la resolución completa de copreferencia sigue siendo trabajo futuro. El análisis comparativo de los modelos NER sobre una muestra de 200 registros del conjunto de datos XSUM puede inferirse de la Tabla 1.
El Índice de Alucinaciones de la Entidad (EHI) se calcula como:

donde PH, EF, OF, NH, LF representan puntuaciones correspondientes a Alucinación Positiva (HP), Factor de Extracción (FE), Alucinación Negativa (NH), Entidades Sobrefocalizadas (OF) y Enfoque Perdido (LF), respectivamente, para el artículo i.
Detalles de los factores de alucinación:
Alucinación positiva (HP): Medidas de entidades recién introducidas que son correctas y beneficiosas en el fado.
Factor de extracción (FE): Mide las entidades extraídas con precisión del documento de entrada en el resumen.
Alucinación negativa (NH): Captura entidades alucinadas que son incorrectas o no están fundamentadas en la entrada.
Demasiado enfocado (OF): Penaliza resúmenes que se centran excesivamente en un subconjunto reducido de entidades, faltando diversidad.
Foco perdido (LF): Penaliza resúmenes que omiten entidades importantes presentes en la entrada.
El cálculo de los factores anteriores se detalla en la Figura 4 con un ejemplo de cálculo para fines ilustrativos. Considerando un ejemplo de Entidades de Documento de Entrada (I):"John", "IA"," conferencia" Entidades de Resumen de Referencia (R):"John"," "IA" Entidades Resumen Generadas (G):"John", "IA"," tecnología". Valores más altos de EHI indican una mejor fidelidad a las entidades, recompensando resúmenes que son tanto extractivos como positivamente alucinados (introduciendo entidades útiles pero fieles), mientras que penalizan a entidades20 sin fundamento, excesivas o ausentes. Estos factores se normalizaron por el número total de entidades detectadas para producir una puntuación EHI entre 0 y 1. Durante el entrenamiento se monitorizó la validación EHI para seleccionar el mejor punto de control. PH y EF recompensan a entidades nuevas beneficiosas y la extracción correcta, mientras que OF, NH y LF penalizan la repetición, fabricación y omisión. Una puntuación perfecta de 1,0 significa que todas las entidades del resumen están ancladas o han tenido alucinaciones beneficiosas, mientras que una puntuación de 0 indica que ninguna entidad nombrada aparece en el resumen en la fuente.
Procedimiento de ajuste fino con RL
La configuración detallada de hiperparámetros para el ajuste fino se proporciona por separado en las Tablas 2, Tabla 3 y Tabla 4, que muestran los tipos de optimizadores, tasas de aprendizaje, tamaños de lote, especificaciones de hardware y otros detalles de configuración para Mistral-7B, DistilBart y Flan-T5, respectivamente. El objetivo aquí es afinar los parámetros del modelo θ maximizando la recompensa esperada del Índice de Alucinaciones de Entidades (EHI) a través de los resúmenes generados. Formalmente, para un documento de entrada Xi, un resumen generado Yi y parámetros del modelo θ , el objetivo de recompensa esperada se define como:
(2)
donde EHI (y, x) denota el Índice de Alucinaciones de la Entidad calculado entre el resumen generado Yi y la entrada Xi.
Siguiendo el algoritmoREINFORCE 25, el gradiente de este objetivo se estima como:
(3)
En la práctica, se tomaron resúmenes de los modelos, se calcularon sus correspondientes puntuaciones EHI y se aplicaron actualizaciones del gradiente de políticas para fomentar resultados de mayor recompensa. Para permitir un ajuste fino eficiente en parámetros de parámetros, este estudio utilizó la Adaptación de Rango Bajo (LoRA). Solo se actualizaron los adaptadores LoRA, mientras que los pesos del modelo base permanecieron congelados. El ajuste fino se realizó en una GPU A100 con una tasa de aprendizaje baja (por ejemplo, 5 × 10-6), tamaño de lote de 4 y acumulación de gradiente en 8 pasos con el optimizadorAdam 29. Los resúmenes se regeneraban cada 500 actualizaciones para actualizar las estimaciones de recompensas, y la formación continuaba hasta que el EHI de validación convergía. La línea base de REINFORCE se estableció como el promedio continuo de las recompensas recientes para reducir la varianza. Además de EHI, las puntuaciones de la Entidad F12 y ROUGE-1/2/L se registraron para monitorizar la calidad general. Los resúmenes se regeneran periódicamente para reflejar las mejoras del modelo durante el ajuste fino.
Métricas de evaluación
Los resultados se evaluaron utilizando métricas de Informatividad como Rouge-1,Rouge-2 5. Métrica de fluidez como la RougeLCS 5. Métrica de solapamiento de entidades Entidad F1, y métricas de alucinación como EHI, FactCC y QAGS 2,6,18,30. FactCC utiliza un clasificador entrenado con datos sintéticos de contradicción para etiquetar las oraciones como implicadas o contradichas por la fuente. El FactCC da dos puntuaciones; las partituras se capturaron donde la etiqueta es VÁLIDA. Por otro lado, QAGS utiliza un método de preguntas y respuestas que funciona en un LLM. El modelo ligero T5 pequeño se utilizó para generar preguntas sobre el texto31. Roberta_base_Squad2 se utilizaba para generar respuestas sobre el textode salida 32. Estos modelos se eligieron por su conveniente coste de cálculo para la ejecución.