Ajuste fino de grandes modelos de linguagem usando o Índice de Alucinação de Entidades para Resumo de Texto
9 de janeiro de 2026
Propomos uma abordagem de ajuste fino baseada em aprendizado por reforço para grandes modelos de linguagem que utiliza o Índice de Alucinação Enti (EHI) como sinal de recompensa para reduzir alucinações em nível de entidade na sumarização de texto. Experimentos com transcrições de reuniões mostram que esse método melhora a fidelidade e a precisão das entidades.
Este estudo utiliza o Índice de Alucinação de Entidades como um sinal de recompensa para reduzir a geração incorreta de entidades em textos resumidos por IA. As métricas atuais são duas simples, esse protocolo emprega recompensas de entidades detalhadas para melhorar a factualidade sem rótulos humanos. Para começar, use dois corpus principais, incluindo um conjunto de dados de transcrição de diálogos com transcrições de reuniões em múltiplas turnos e o benchmark de sumarização XSum News.
Limpe cada conjunto de dados, achate os dados e particione-os em conjuntos de 80% de treinamento, 10% de validação e 10% de teste. Realize a tokenização e extração de entidades usando um NER modelo D slim/NER baseado em transformador para garantir aterramento robusto. Gerar resumos iniciais no modo zero shot usando busca por feixe com largura de quatro para estimar a prevalência de alucinações de base.
Calcule o índice de alucinação de entidades como uma métrica de nível de entidade sem referência que categoriza as entidades em cinco fatores para quantificar a fidelidade. Recompense a extratividade e alucinações positivas e penalize alucinações negativas, entidades excessivamente focadas e perda de foco. Defina a função de recompensa como proporcional à fidelidade da entidade e maximize a recompensa EHI esperada entre os resumos gerados.
Aplique um mecanismo reforçado de atualização de estilo para otimizar os parâmetros do modelo visando maximizar a fidelidade das entidades. Use adaptação de baixo rank para permitir ajustes finos eficientes em parâmetros e atualize apenas os adaptadores LoRA, mantendo os pesos do modelo base congelados. Depois, aplique atualizações de gradiente de políticas para incentivar maiores resultados de recompensa e regenere resumos a cada 500 atualizações para atualizar as estimativas de recompensa.
Por fim, gere resumos finais usando os modelos ajustados e compare-os com os resultados da linha base. Avalie modelos quanto à informação usando Rouge um, Rouge dois e Rouge L, fluência e consistência factual usando CC de fatos e CAGs. O ajuste fino do EHI reduziu alucinações e melhorou a factualidade em modelos e conjuntos de dados com deslocamentos para a direita no EHI, e distribuições de CC de fato confirmando aumento da fidelidade das entidades e consistência factual, enquanto as pontuações CAGS permaneceram em grande parte inalteradas.
Os tipos de alucinação nociva de negativo, excesso de foco e perda de foco foram reduzidos em Mistral após ajustes finos, enquanto o fator extrativo quase dobrou. A análise de correlação mostrou que EHI e CAGS tiveram uma correlação fraca em Mistral e DistilBART, mas Flan-T5 apresentou uma correlação positiva mais forte. Os pesquisadores podem medir a fidelidade em nível de entidade e as taxas de alucinação em resumos usando o sinal automatizado de recompensa EHI.
O desafio mais crítico é a precisão do NER, pois erros de extração podem se propagar para cálculos incorretos de recompensa durante o treinamento. Estudos futuros podem integrar recompensas de resolução por coreferência e informação para equilibrar melhor a fidelidade com a cobertura resumida.
Veja a transcrição completa e aceda a milhares de vídeos científicos
Visão Geral
Este artigo apresenta um novo framework de ajuste fino guiado por recompensa para modelos de linguagem grandes (LLMs), destinado a reduzir alucinações em nível de entidade na sumarização abstrativa. Ao utilizar o Índice de Alucinação de Entidade (EHI) como métrica orientadora, a abordagem melhora a precisão factual dos resumos gerados sem comprometer a informatividade ou a generalização.
Componentes Principais do Estudo
Área da Ciência
- Processamento de Linguagem Natural
- Aprendizado de Máquina
- Sumarização de Texto
Contexto
- Os LLMs melhoraram significativamente a qualidade da sumarização abstrativa.
- A alucinação em nível de entidade, na qual entidades incorretas ou fabricadas aparecem nos resumos, continua sendo um desafio importante.
- Os modelos existentes frequentemente têm dificuldade para equilibrar informatividade e precisão factual.
- Métricas que penalizam diretamente entidades alucinadas ainda são pouco exploradas no treinamento de modelos.
Objetivo do Estudo
- Desenvolver um framework de ajuste fino que reduza a alucinação de entidades em modelos de sumarização.
- Introduzir e utilizar o Índice de Alucinação de Entidades (EHI) como sinal de recompensa.
- Demonstrar maior fidelidade factual e robustez em resumos gerados por modelos de linguagem grandes (LLM).
Métodos Utilizados
- Resumos iniciais gerados utilizando modelos pré-treinados (por exemplo, Flan-T5, DistilBART, Mistral) em conjuntos de dados estruturados de transcrições, como o XSUM.
- Extração de entidades nomeadas a partir dos resumos gerados e dos resumos de referência padrão.
- Cálculo do EHI mediante avaliação da precisão das entidades e penalização de entidades fabricadas.
- Ajuste fino por aprendizado por reforço utilizando um mecanismo de atualização no estilo REINFORCE com o EHI como sinal de recompensa.
Resultados Principais
- Modelos ajustados apresentaram taxas mais baixas de alucinação de entidades.
- A informatividade dos resumos foi mantida, apesar da redução na alucinação.
- Modelos orientados por EHI demonstraram melhor generalização em tarefas de sumarização fora do domínio.
- Robustez aprimorada e maior precisão factual foram observadas nas avaliações experimentais.
Conclusões
- O framework de recompensa baseado em EHI reduz efetivamente alucinações em nível de entidade na sumarização por LLM.
- A factualidade e a informatividade podem ser otimizadas conjuntamente usando esta abordagem.
- O método oferece uma direção prática para melhorar a confiabilidade de sistemas automatizados de sumarização.
Perguntas Frequentes
Relevância Executiva para a Indústria
A alucinação em nível de entidade na sumarização por modelos de linguagem grandes (LLM) representa um risco significativo para a integridade dos dados e a tomada de decisões na pesquisa e desenvolvimento (P&D) biofarmacêuticos. O framework de ajuste fino orientado pelo Índice de Alucinação de Entidade (EHI) aborda diretamente esse desafio, permitindo a extração mais confiável de informações factuais a partir de fontes textuais científicas e operacionais. A maior fidelidade factual na sumarização automatizada apoia uma confiança preditiva mais elevada e reduz riscos posteriores em fluxos de trabalho baseados no conhecimento.
Aplicações Estratégicas em P&D Biofarmacêutico
Descoberta Inicial e Validação de Alvo
- Melhora a precisão da mineração de literatura e dados para identificação de alvos ao minimizar entidades fabricadas.
- Apoia a desmistificação mecanicista ao garantir que as entidades extraídas reflitam relações biológicas reais.
- Permite a geração de hipóteses com maior confiança a partir de resultados de sumarização automática de texto.
Desenvolvimento de Triagem e Ensaio
- Facilita a extração padronizada de alvos e condições de ensaios a partir de diversas fontes de documentação.
- Reduz o risco de propagar informações incorretas sobre entidades nos fluxos de trabalho de triagem.
- Apóia a reprodutibilidade ao manter a fidelidade das entidades em resumos automatizados.
Pesquisa Translacional e Pré-clínica
- Aprimora o mapeamento de achados pré-clínicos para entidades relevantes à doença, reduzindo alucinações.
- Melhora a continuidade do rastreamento de entidades desde a descoberta até as fases de validação pré-clínica.
- Apoia o avanço ajustado ao risco ao fornecer evidências mais confiáveis em nível de entidade.
Integração de Pipeline e Fluxo de Trabalho
O framework de ajuste fino orientado por EHI integra-se à camada de informática de descoberta, triagem e pesquisas translacionais, apoiando a extração e sumarização robustas de entidades.
- Biologia da Descoberta: Permite testar hipóteses e esclarecer vias ao garantir a precisão das entidades em resumos extraídos.
- Triagem: Fornece resumos reproduzíveis e fiéis às entidades para documentação de ensaios e avaliação de compostos.
- Análise: Oferece pontuações quantitativas de EHI para padronizar e comparar saídas de resumo em diferentes condições.
- Pesquisa Translacional: Mantém a fidelidade das entidades no mapeamento de biomarcadores e doenças ao transitar da descoberta para as fases pré-clínicas.
- Reutilização Empresarial: Estabelece uma capacidade escalável de resumo orientada por recompensas para diversas fontes textuais da indústria biofarmacêutica.
Impacto Operacional e Empresarial
- Valor Científico: Aumenta a confiança preditiva e reduz a ambiguidade mecanicista em informações derivadas de texto.
- Valor Operacional: Padroniza a extração de entidades e a geração de resumos entre equipes e projetos.
- Valor Estratégico: Apoia decisões mais assertivas de prosseguir/não prosseguir ao melhorar a confiabilidade da extração automatizada de conhecimento.
- Impacto no Portfólio: Permite a priorização ajustada ao risco ao reduzir a propagação de dados incorretos sobre entidades.
Considerações sobre a Implementação
- Requer experiência em processamento de linguagem natural e aprendizado por reforço para o ajuste fino do modelo.
- Necessita de acesso a conjuntos de dados estruturados de transcrições e resumos de referência padrão-ouro para o cálculo do EHI.
- Exige acordo entre equipes sobre definições de entidades e padrões de extração.
- Pode exigir adaptação dos limiares do EHI para diferentes domínios biomédicos ou tipos de documentos.
- Depende da qualidade dos modelos pré-treinados iniciais e dos dados de referência para desempenho ideal.
