Ajuste fino de grandes modelos de linguagem usando o Índice de Alucinação de Entidades para Resumo de Texto

Summary

Propomos uma abordagem de ajuste fino baseada em aprendizado por reforço para grandes modelos de linguagem que utiliza o Índice de Alucinação Enti (EHI) como sinal de recompensa para reduzir alucinações em nível de entidade na sumarização de texto. Experimentos com transcrições de reuniões mostram que esse método melhora a fidelidade e a precisão das entidades.

Abstract

Avanços recentes em grandes modelos de linguagem (LLMs) levaram a melhorias notáveis na qualidade da sumarização abstrata. No entanto, alucinações – especialmente alucinações em nível de entidade, onde entidades inexistentes ou incorretas são introduzidas – continua sendo um desafio crítico. Neste trabalho, propomos uma estrutura de ajuste fino orientada por recompensas para modelos de sumarização usando o Índice de Alucinação de Entidades (EHI) como métrica orientadora. A metodologia aqui começa com a geração de resumos iniciais a partir de modelos pré-treinados como Flan-T5, DistilBART e Mistral (ou outro LLM popular) em conjuntos de dados estruturados de transcrições, XSUM. Calculamos o EHI extraindo entidades nomeadas tanto de resumos gerados quanto de referências gold, avaliando a precisão e penalizando entidades fabricadas. O processo de ajuste fino é guiado pelo aprendizado por reforço, onde o EHI serve como sinal de recompensa. Adotamos um mecanismo de atualização no estilo REINFORCE para otimizar o modelo de sumarização visando maximizar a fidelidade das entidades. Experimentos demonstram que modelos ajustados com EHI alcançam taxas de alucinação mais baixas sem comprometer a informação. Além disso, mostramos que modelos guiados por EHI generalizam melhor em tarefas de sumarização fora do domínio, sugerindo maior robustez. A abordagem aqui oferece uma direção prática para melhorar a factualidade na sumarização, enfatizando o papel crítico da representação precisa das entidades.

Introduction

Modelos de sumarização abstrata, impulsionados por grandes modelos de linguagem (LLMs), alcançaram resultados impressionantes em diversos domínios. No entanto, um desafio persistente permanece a alucinação, onde resumos gerados incluem informações incorretas ou fabricadas que não têm base na entrada^{de origem 1,2}. Em aplicações de alto risco, como resumo de reuniões, relatórios médicos ou documentação financeira, alucinações, especialmente envolvendo entidades nomeadas, podem minar significativamente a confiabilidade e a^{utilidade 3}.

Pesquisadoresde pesquisa realizaram uma avaliação humana em grande escala e descobriram que os sumimizadores frequentemente produzem alucinações — conteúdo que não é apoiado pelo documento de origem — e que essas alucinações estão correlacionadas com repetição e^{incoerência 1}. Outro estudo mostrou que modelos com maior abstração tendem a ser menos fiéis; O estudo deles relatou que resultados com mais abstração apresentavam menor precisão factual e mais frases^{infiéis 2}. O benchmark FRANK relatou que cerca de 30% dos resumos contêm inconsistências factuais, e outro estudo popular observou taxas de erro semelhantes, argumentando que altos níveis de alucinação tornam os resumos praticamente inúteis ^1,2. Alucinações podem ser categorizadas como intrínsecas (contradizendo a fonte) ou extrínsecas (não verificáveis pela fonte). Um tutorial sobre alucinações em sumarização abstrativa explica que alucinações intrínsecas ocorrem quando o conteúdo gerado contradiz a entrada (por exemplo, reportando erroneamente uma vacina aprovada como sendo rejeitada), enquanto alucinações extrínsecas adicionam fatos não verificáveis, como alegar ensaios clínicos para uma vacina que não são^{mencionados 4}. Também relatou que sumimizadores de última geração produzem conteúdo alucinado em cerca de 25% de seus resultados quando avaliados com ROUGE, BLEU e METEOR, e alerta que alucinações podem ser prejudiciais em áreas como saúde, direito ou cibersegurança.

Métricas tradicionais de n-gramas (ROUGE⁵, BLEU, METEOR) se correlacionam mal com os julgamentos humanos sobre a factualidade, levando ao desenvolvimento de métricas baseadas e livres de^{referências 6}. Métricas baseadas em QA, como FEQA e QuestEval, avaliam resumos perguntando se pares pergunta-resposta derivados do resumo podem ser respondidos usando o texto fonte. A FEQA correlaciona-se mais fortemente com os julgamentos humanos e mostra que resumos mais abstratos tendem a ser menos fiéis, enquanto o QuestEval melhora substancialmente a correlação com os julgamentos humanos em consistência, coerência, fluência e relevância. O QAFactEval refina essa abordagem selecionando respostas por frases nominais e gerando perguntas antes de respondê-las; essa estratégia melhora a correlação com as avaliações humanas no benchmark SummaC. Métricas de extração de informação (IE) representam o conhecimento como tuplas sujeito-relação-objeto, mas são vulneráveis a erros no processo de extração. Métricas de inferência em linguagem natural (NLI) — como FactCC e SummaC — classificam frases resumidas como implicadas ou contraditas pela fonte⁴. O FactCC utiliza dados pouco supervisionados para treinar um classificador que detecta consistência factual e destaca abrangências^{inconsistentes 2}. O SummaC aplica modelos NLI com a granularidade apropriada e fornece estimativas fortes de factualidade, mas o benchmark FRANK observa que essas métricas ainda tratam a factualidade como binária e carecem de uma estrutura^{unificada 1,7,8}. Dimensões de avaliação humana propostas pelos pesquisadores são amplamente adotadas⁹. Outro estudo de avaliação enfatiza que a consistência é a dimensão mais objetiva porque simplesmente verifica se o resumo é incluído pela fonte; ela aponta que até 92% dos resumos XSum contêm erros de^{fidelidade 9,10}. No entanto, a avaliação humana é demorada e cara, portanto métricas automáticas são essenciais para uma avaliação^{escalável 8}. Métricas atuais frequentemente agregam alucinações intrínsecas e extrínsecas em uma única pontuação, dificultando o diagnóstico^{de erro 4}.

Como o treinamento de máxima verosimilhança não otimiza diretamente a qualidade do resumo, o aprendizado por reforço (RL) tem sido aplicado para melhorar a relevância e a factualidade. Pasunuru e Bansal introduziram uma estrutura RL multi-recompensa que combina saliência (ROUGE) e recompensas de implicação, demonstrando desempenho^{de última geração 11}. RL foi aplicado para sumarização extrativa usando o algoritmo REFORCE; seu modelo maximiza as pontuações ROUGE e produz resumos mais informativos do que as abordagens baseadas em classificadores, como mostrado pelas avaliações humanas de perguntas^{e respostas 12}. Modelos multitarefa incorporam ainda geração de perguntas e geração de implicações para garantir cobertura e^{coerência 12}. Uma pesquisa abrangente de 2024 sobre sumarização abstrativa destaca a consistência factual como um desafio fundamental e defende que o RL incentive uma resumidão verdadeira. A pesquisa sugere recompensar resumos factualmente consistentes e incorporar fontes externas de conhecimento e controle de atributos para aumentar a precisão¹³. O RL a partir do feedback humano (RLHF) amplia essa ideia treinando um modelo de recompensa com base nas preferências humanas e ajustando o sumizador para maximizar essa recompensa^{aprendida 9}. O aprendizado por reforço a partir do feedback humano (RLHF) ganhou força para alinhar resultados de modelos com qualidades desejadas, como factualidade e^{utilidade 4,14}. ^{Embora RL e RLHF multi-recompensa} alinhem os modelos com as noções humanas de fidelidade, eles dependem de métricas grosseiras como ROUGE ou factualidade binária. Em contraste, o trabalho detalhado aqui propõe usar um índice de alucinação em nível de entidade detalhado como recompensa, o que é empírico e computacionalmente menos custoso sem feedback humano.

Apesar de inúmeros critérios, várias limitações persistem. Métricas N-gramas ignoram a correção semântica, métricas baseadas em QA e IE propagam erros de modelos de geração e extração de perguntas, e métricas NLI reduzem a factualidade a decisões binárias ^{de implicação 1,4,6}. No trabalho de pesquisa, foi enfatizado que métricas baseadas em modelos existentes têm dificuldade em identificar alucinações com uma granularidade fina porque operam no nível da frase ou documento e não conseguem isolar entidades específicas causando^{erros 4}. As avaliações humanas continuam sendo o padrão ouro, mas são caras e^{subjetivas 15}. Além disso, métricas existentes não distinguem entre alucinações intrínsecas e extrínsecas nem capturam o foco excessivo e subfoco das^{relações 1}. Grandes modelos de linguagem podem alucinar porque preveem texto com base em verosimilhança estatística, e não em verificação factual. Modelos geram resultados confiantes, porém incorretos, devido a limitações nos dados de treinamento, geração probabilística e falta de verificação de fatos, além de excesso de confiança e vieses que podem levá-los a afirmar informações falsas com alta certeza; O guia defende geração aumentada por recuperação e modelos de memória de longo prazo para terra em dados^{externos 15}. No entanto, essas técnicas focam em tarefas baseadas em recuperação; A sumarização ainda exige métricas que identifiquem e penalizem entidades alucinadas. Trabalhos anteriores reconheceram a importância da avaliação em nível de entidade para a factualidade. Métricas como FEQA e QuestEval tentam avaliar a consistência factual usando técnicas de resposta^{a perguntas 16,17}. No entanto, esses métodos frequentemente exigem resumos de referência ou sistemas externos de QA, limitando a escalabilidade. Nosso trabalho se baseia nessa linha empregando o Índice de Alucinação de Entidades (EHI), uma métrica empírica leve que foca especificamente na fidelidade de entidades nomeadas, categorizando as entidades em cinco tipos de fatores de alucinação, conforme mostrado na Figura 1.

Evidências indicam que alucinações são generalizadas, métricas de avaliação são imperfeitas e técnicas de RL carecem de recompensas detalhadas. Estudos em humanos mostram que modelos de sumarização alucinam em uma fração significativa dos casos, frequentemente trocando de entidades ou fabricando detalhes⁹. Métricas existentes enfatizam a sobreposição de n-gramas ou tratam a factualidade como binária, e os métodos atuais de RL otimizam sinais ROUGE ou factualidade grosseira. Existe uma lacuna para métricas em nível de entidade que medem quando um resumo menciona entidades que não estão presentes na fonte (alucinação negativa), omite entidades-chave (alucinação de foco perdido) e outros cenários. O método proposto de ajuste fino sobre o Índice de Alucinação da Entidade (EHI) preenche essa lacuna ao quantificar alucinações no nível da entidade e fornecer uma recompensa estruturada para o aprendizado por reforço. Ao integrar EHI ao RLHF, buscamos ajustar modelos de linguagem grandes para minimizar alucinações em nível de entidade e produzir resumos que sejam fluentes e fiéis aos fatos.

Neste trabalho, propomos uma abordagem inovadora de ajuste fino que utiliza o Índice de Alucinações da Entidade (EHI) como um sinal de recompensa para reduzir alucinações no nível da entidade. O EHI quantifica a correção e o fundamento das entidades comparando as entidades extraídas das saídas do modelo com as presentes no documento de entrada, permitindo uma redução da dependência das^{referências 18}. O método descrito aqui tendece o modelo para produzir mais resumos fiéis à entidade sem exigir anotações de factualidade humana.

Em resumo, modelos de recompensa conscientes da factualidade foram usados para ajustar^{finamente 19,20}. Diferentemente de abordagens anteriores que dependem de recompensas factuales grosseiras ou conjuntos de dados rotulados por humanos, propomos o ajuste fino usando o EHI como um sinal direto e automático de recompensa, promovendo assim uma sumarização baseada em entidades sem supervisão adicional. As contribuições inovadoras deste estudo são as seguintes: (i) o estudo introduz uma estrutura de ajuste fino guiada por EHI que melhora a fidelidade das entidades na sumarização abstrata, (ii) o estudo apresenta um pipeline escalável de aprendizado por reforço que não depende de conjuntos de dados factuales rotulados por humanos, (iii) o estudo demonstra melhorias empíricas nas pontuações EHI em conjuntos de dados de transcrições de reuniões, conjunto de dados de notícias XSUM e realiza análises qualitativas para destacar reduções nas alucinações, (iv) o estudo compartilha uma implementação reprodutível baseada em Colab para facilitar pesquisas adicionais sobre a sumarização consciente da^{alucinação 21}.

Este estudo avalia a hipótese de que otimizar modelos de linguagem com recompensas focadas em entidades detalhadas, como o EHI, oferece um caminho eficaz para aumentar a fidelidade e a confiabilidade em tarefas de sumarização com computação mínima. A abordagem contribui para o crescente campo de ajuste fino eficiente em parâmetros para fidelidade na sumarização ao: (i) demonstrar eficácia tanto em arquiteturas codificador-decodificador (DistilBART, FlanT5) quanto em arquiteturas apenas decodificador (Mistral), (ii) fornecer uma estrutura que pode ser adaptada a diferentes tipos de modelos, domínios e escalas, e (iii) oferecer eficiência computacional em comparação com o retreinamento completo.

Protocol

O objetivo deste estudo é afinar um modelo de linguagem (LM) para gerar resumos com alucinações de entidade reduzida. Alucinações ocorrem quando um modelo "produz com confiança resultados incorretos ou irrelevantes" porque gera texto baseado em probabilidade estatística, e não em verificação factual. Isso é alcançado projetando uma função de recompensa baseada no Índice de Alucinação da Entidade (EHI) e aplicando aprendizado por reforço para maximizá-la.

Formulação do problema
Dado um documento de entrada X_i, o objetivo é gerar um resumo Y_i de modo que as entidades mencionadas em Y_i estejam fundamentadas em X_i. O treinamento tradicional de máxima verosimilhança não otimiza explicitamente a consistência factual. Esses métodos de treinamento não penalizam a inclusão de entidades fabricadas. Portanto, é introduzida uma estratégia de ajuste fino orientada por recompensa, onde a recompensa é proporcional à fidelidade da entidade, medida usando EHI.

Conjunto de dados e método
São usados dois corpora: primeiro, um conjunto de dados de transcrição de diálogos com transcrições de reuniões em múltiplos turnos e resumos abstratos ouro, e segundo, o benchmark de resumo de notícias^{XSUM 22,23}. Cada conjunto de dados foi limpo, achatado e dividido em 80% de treinamento, 10% de validação e 10% de partições de teste. Os diálogos são ricos em linguagem informal e pronomes, enquanto o XSUM contém artigos de notícias concisos; A combinação nos permite avaliar tanto a generalização dentro quanto fora do domínio.

A extração de entidades é realizada tanto em documentos fonte quanto em resumos para calcular o Índice de Alucinações de Entidades (EHI). Durante o ajuste fino, este estudo utiliza exclusivamente a divisão de treinamento, enquanto as pontuações EHI de validação são monitoradas para selecionar o melhor ponto de verificação. As avaliações finais são reportadas no conjunto de teste que está em aberto, que permanece zero-shot antes e depois do ajuste fino dos modelos.

Em resumo, primeiramente, as transcrições são organizadas em um formato achatado e dividem os dados. O modelo pré-treinado gera resumos de linha base. Em segundo lugar, o EHI é calculado usando NER baseado em transformador e os cinco fatores de alucinação. Durante o ajuste fino, o modelo é atualizado com a recompensa EHI via adaptadores LoRa. Por fim, os resumos são gerados usando o modelo ajustado e avaliados usando EHI, Entidade F1 e outras métricas (Figura 2). Todos os experimentos são reproduzíveis através do código fornecido e dos arquivos de configuração. A Figura 3 mostra o fluxo de processo passo a passo para preparação de conjuntos de dados, sumarização de linha de base, cálculo de EHI, ajuste fino e avaliação.

Resumo da linha de base
Três LLMs pré-treinados são escolhidos, e suas sumarizações básicas são capturadas: Flan-T5, Mistral (Nous-Hermes-2-Mistral-7B-DPO) e DistilBART 24,25,26. Cada modelo era executado em modo zero-shot para produzir um resumo inicial (Y_i) para cada documento de entrada (x_i). A busca por feixe com largura de feixe de 4 e penalidade de comprimento de 1,0 foi usada para incentivar resumos fluentes, porém concisos. Esses resumos de base serviram para estimar a prevalência de alucinações e forneceram pontos de partida para ajustes finos.

Extração de entidades e computação EHI
Calcular com precisão o Índice de Alucinação da Entidade (EHI) requer um NER robusto. Inicialmente, o Spacy foi usado para operações da NER. Entende-se que modelos NER baseados em transformadores são mais precisos, mas Spacy foi a escolha inicial pelos seguintes motivos: (1) Modelos NER baseados em transformadores provaram alucinar mais do que Spacy. (2) O espaçamento sendo estatístico traz eficiência computacional em termos de custo de implementação e tempo de execução. (3) Também nos ajuda a provar que o EHI é robusto na redução de alucinações mesmo com um modelo NER mais fraco. No entanto, dado que os experimentos são feitos com conjuntos de dados estabelecidos e o modelo en_core_web_sm do spaCy é frágil nas transcrições^{coloquiais 13}. O espaçamento é substituído por um modelo NER baseado em transformador (dslim/bert-base-NER), que é um modelo BERT ajustado com base no conjunto de dados CoNLL-2003. Sistemas NER baseados em BERT demonstraram superar modelos spaCy em tarefas específicas de domínio — por exemplo, um modelo Aviation-BERT-NER atingiu um F1 de 94,78% ao identificar 17 entidades, comparado a 93,73% para o spaCy NER, que reconheceu^{sete entidades 27}. O modelo NER do BERT foi configurado via Hugging Face Transformers²⁸ e realizou correspondência insensível a maiúsculas minúsculas. Para capturar pronomes e variações na forma superficial, esse método aplicava ainda regras simples que mapeiam "Sr. Smith" e "Smith" para a mesma forma canônica; no entanto, a resolução total de copreferência ainda é trabalho futuro. A análise comparativa dos modelos NER em uma amostra de 200 registros do conjunto de dados XSUM pode ser inferida a partir da Tabela 1.

O Índice de Alucinação da Entidade (EHI) é calculado como:

onde PH, EF, OF, NH, LF representam pontuações correspondentes a Alucinação Positiva (HP), Fator de Extratividade (FE), Alucinação Negativa (NH), Entidades Excessivamente Focadas (OF) e Foco Perdido (LF), respectivamente, para o artigo i.

Detalhes dos fatores de alucinação:

Alucinação Positiva (HP): Medidas de entidades recém-introduzidas que são factualmente corretas e benéficas.

Fator de Extração (FE): Mede as entidades extraídas corretamente do documento de entrada no resumo.

Alucinação Negativa (NH): Captura entidades alucinadas que estão incorretas ou não fundamentadas na entrada.

Focado demais (OF): Penaliza resumos que focam excessivamente em um subconjunto restrito de entidades, faltando diversidade.

Foco Perdido (LF): Penaliza resumos que omitem entidades importantes presentes na entrada.

O cálculo dos fatores acima é detalhado na Figura 4 com um cálculo de exemplo para fins ilustrativos. Considerando um exemplo de Entidades de Documento de Entrada (I):"John"," "IA"," conferência" Entidades de Resumo de Referência (R):"John"," "IA" Entidades de Resumo Geradas (G):"John"," "IA"," tecnologia". Valores mais altos de EHI indicam melhor fidelidade à entidade, recompensando resumos que são tanto extrativos quanto positivamente alucinados (introduzindo entidades úteis, porém fiéis), enquanto penalizam entidades²⁰ sem fundamento, excessivas ou ausentes. Esses fatores foram normalizados pelo número total de entidades detectadas para produzir uma pontuação EHI entre 0 e 1. A validação EHI foi monitorada durante o treinamento para selecionar o melhor ponto de verificação. PH e EF recompensam novas entidades benéficas e a extração correta, enquanto OF, NH e LF penalizam repetição, fabricação e omissão. Uma pontuação perfeita de 1,0 significa que todas as entidades no resumo estão fundamentadas ou alucinavas benéficas, enquanto uma pontuação 0 indica que nenhuma entidade nomeada no resumo aparece na fonte.

Procedimento de ajuste fino com RL
A configuração detalhada dos hiperparâmetros para ajuste fino é fornecida separadamente nas Tabelas 2, Tabela 3 e Tabela 4, que mostram tipos de otimizadores, taxas de aprendizado, tamanhos de lote, especificações de hardware e outros detalhes de configuração para Mistral-7B, DistilBart e Flan-T5, respectivamente. O objetivo aqui é ajustar os parâmetros do modelo θ maximizando a recompensa esperada do Índice de Alucinação de Entidade (EHI) em resumos gerados. Formalmente, para um documento de entrada X_i, um resumo gerado Y_i e parâmetros do modelo θ , o objetivo esperado de recompensa é definido como:

(2)

onde EHI (y, x) denota o Índice de Alucinação da Entidade calculado entre o resumo gerado Y_i e a entrada X_i.

Seguindo o algoritmo^{REINFORCE 25}, o gradiente desse objetivo é estimado como:

(3)

Na prática, resumos foram amostrados dos modelos, seus correspondentes EHI foram calculados e atualizações do gradiente de políticas foram aplicadas para incentivar resultados de maior recompensa. Para possibilitar ajustes finos eficientes em parametros, este estudo utilizou Adaptação de Baixo Nível (LoRA). Apenas os adaptadores LoRA foram atualizados, enquanto os pesos do modelo base permaneceram congelados. O ajuste fino foi realizado em uma GPU A100 com baixa taxa de aprendizado (por exemplo, 5 × ^10-6), tamanho de lote de 4 e acumulação de gradiente em 8 passos com o otimizador^{Adam 29}. Resumos eram regenerados a cada 500 atualizações para atualizar as estimativas de recompensa, e o treinamento continuava até que o EHI de validação convergisse. A linha base do REINFORCE foi definida para a média contínua das recompensas recentes para reduzir a variância. Além do EHI, Entidade F1², as pontuações ROUGE-1/2/L foram registradas para monitorar a qualidade geral. Os resumos são regenerados periodicamente para refletir melhorias do modelo durante o ajuste fino.

Métricas de avaliação
Os resultados foram avaliados usando métricas de Informatividade como Rouge-1, Rouge-2⁵. Métrica de fluência como a Rouge^{LCS 5}. Métrica de sobreposição de entidades Entidade F1, e métricas de alucinação como EHI, FactCC e QAGS 2,6,18,30. O FactCC utiliza um classificador treinado com dados sintéticos de contradição para rotular frases como implicadas ou contraditas pela fonte. O factCC dá duas pontuações; as partituras foram capturadas onde o rótulo é VÁLIDO. Por outro lado, o QAGS utiliza um método de perguntas e respostas que roda em um LLM. O modelo leve T5 pequeno foi usado para gerar perguntas no texto³¹. Roberta_base_Squad2 era usado para gerar respostas sobre o texto^{de saída 32}. Esses modelos foram escolhidos por seu custo conveniente de computação para execução.

Results

Os experimentos aqui focam em evidências quantitativas sobre o impacto que o ajuste fino guiado por EHI tem na redução de alucinações em nível de entidade em múltiplas arquiteturas de modelos e conjuntos de dados. Os resultados demonstram melhorias consistentes nas métricas de alucinação, mantendo a consistência factual e preservando a capacidade de responder perguntas e respostas.

Desempenho do conjunto de dados
Desempenho do conj...

Discussion

Métricas baseadas em QA (por exemplo, FEQA/QuestEval/QAFactEval) e métricas baseadas em NLI (por exemplo, FactCC/SummaC) exigem componentes auxiliares de QA/implicação e frequentemente fornecem julgamentos em nível de sentença. Em contraste, EHI é uma pontuação leve, sem referência, em nível de entidade, que (i) tem como alvo direto o modo primário de falha que observamos — alucinação de entidades; (ii) é independente do modelo e rápido para calcular; e (iii) serve como uma recompensa de...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Colab NVIDIA A100 GPU	NVIDIA	N/A	Google Colaboratory Pro
DistilBART (Encoder–Decoder)	Hugging Face	https://huggingface.co/sshleifer/distilbart-cnn-12-6
dslim/bert-base-NER	Hugging Face (dslim)	https://huggingface.co/dslim/bert-base-NER	Fine-tuned BERT base para NER em inglês
Evaluation Models  QAGS (QA-based)	Salesforce Research	N/A	Classificador de factualidade
Evaluation Models (Factuality) FactCC	Google Research	N/A	Classificador de factualidade
Flan-T5 (Encoder–Decoder)	Google	https://huggingface.co/docs/transformers/main/en/model_doc/flan-t5	modelo de linguagem grande, open-source, texto para texto
Hugging Face Transformers	Hugging Face, Inc.	https://huggingface.co/docs/transformers/index	Carregamento e ajuste fino de modelos
Nous-Hermes-2-Mistral-7B-DPO	Mistral	https://huggingface.co/NousResearch/Nous-Hermes-2-Mistral-7B-DPO	Modelo de linguagem com 7 bilhões de parâmetros
Programming Language Python 3.10 (Colab runtime)	Python Software Foundation	Versão 3.10	Implementação principal
Streamlit	Open Source	https://streamlit.io/	Classificador de factualidade
XLSUM dataset	BUET	https://github.com/csebuetnlp/xl-sum
XSUM dataset	University of Edinburgh	https://github.com/EdinburghNLP/XSum