O uso generalizado da internet e das redes sociais facilitou o acesso dos pacientes às informaçõesmédicas 1,2. As informações sobre o cuidado do câncer são frequentemente complexas e extensas, tornando particularmente difícil para os pacientes identificarem fontes precisas, relevantes e baseadas em evidênciascientíficas 3. Embora os recursos online possam ajudar na compreensão do paciente, eles também contêm uma quantidade substancial de informações médicasincorretas 3, o que pode afetar negativamente as decisões dos pacientes sobre seu cuidado4. Como a desinformação relacionada ao câncer pode afetar os desfechos dos pacientes5, há uma necessidade crescente de sistemas de inteligência artificial (IA) que possam ajudar usuários individuais a buscar, resumir e interpretar informaçõesmédicas 6.
Grandes modelos de linguagem (LLMs) permitem que os usuários acessem informações por meio de conversas em linguagemnatural 7; No entanto, a geração de desinformação (ou seja, alucinações) continua sendo uma preocupação séria no campomédico 8,9,10,11. Uma fonte chave de desinformação é a qualidade e precisão dos dados de treinamento usados para desenvolver o chatbot. Além disso, a natureza estática do treinamento de modelos significa que o conhecimento pode se tornar desatualizado com o tempo, limitando a capacidade dos LLMs de fornecer informações atuais e contextualmenteapropriadas 12,13. Essas limitações destacam a importância de estratégias eficazes de gestão do conhecimento para garantir que as respostas dos chatbots permaneçam precisas, relevantes e atualizadas. Em particular, sistemas que possam acessar e referenciar facilmente recursos atuais baseados em evidências, como diretrizes de prática clínica, são desejáveis em ambientes médicos, onde recomendações e padrões de cuidado evoluem continuamente. Para enfrentar esse desafio, a geração aumentada por recuperação (RAG), que gera respostas incorporando informações de fontes externas de conhecimento, tem recebido atenção crescente 10,13,14,15,16,17.
Embora o RAG tenha sido cada vez mais aplicado a chatbots médicos, pouca atenção tem sido dada a como as diretrizes de prática clínica devem ser incorporadas sistematicamente como fontes de informaçãode referência 18. Muitas diretrizes de prática clínica estão disponíveis publicamente na web; no entanto, ainda não está claro se a estrutura web existente pode servir diretamente como uma estrutura de recuperação para os sistemasRAG 18. Além disso, métodos práticos para construir informações de referência sem desenvolvimento manual de base de conhecimento ainda não foram bem estabelecidos.
Neste estudo, nosso objetivo foi estabelecer princípios de design para sistemas de IA de referência de diretrizes na área médica, desenvolvendo e avaliando um chatbot RAG baseado em diretrizes que utilize diretrizes clínicas de prática clínica de câncer disponíveis publicamente na web, permitindo assim acesso simples e oportuno a informações baseadas em diretrizes. Como prova de conceito, avaliamos a viabilidade técnica da recuperação de diretrizes, geração de resposta e restrição de resposta utilizando a estrutura web existente das diretrizes de prática clínica públicas disponíveis, com o objetivo de propor um protocolo de desenvolvimento reproduzível para sistemas RAG referenciados por diretrizes.