Um fluxo de trabalho de IA que combina representações bidirecionais de codificadores de transformadores (BERT) e redes neurais de grafos (GNNs) para recuperação de conhecimento em empresas digitais

Summary

Esse protocolo apresenta um fluxo de trabalho reproduzível impulsionado por IA que ajusta o BERT para extração de entidades e relações, utiliza redes neurais de grafos para alinhamento de ontologias, constrói grafos de conhecimento empresarial a partir de dados não estruturados e avalia sistematicamente o desempenho da recuperação semântica e a eficiência do suporte à decisão.

Abstract

Grandes volumes de dados organizacionais não estruturados podem dificultar para sistemas de gestão do conhecimento empresarial (KM) extraírem informações corretas e contextualmente relevantes, o que pode levar ao compartilhamento ineficiente de conhecimento e a decisões atrasadas. Este estudo sugere uma estrutura unificada impulsionada por inteligência artificial para superar essa limitação. Ele combina Redes Neurais de Grafos (GNNs) para alinhamento de ontologias e raciocínio semântico com Representações Bidirecionais de Codificadores de Transformers (BERT) refinadas para extração específica de entidades e relações de domínio. Coleta sistemática de dados, pré-processamento de corpus de texto empresarial, ajuste fino do BERT para identificar entidades e relações, conversão de triplos extraídos em grafos de conhecimento estruturados e alinhamento de ontologias baseados em GNN para garantir consistência semântica entre fontes de conhecimento heterogêneas, compõem o pipeline metodológico. Para avaliar a eficácia do sistema em cenários empresariais do mundo real, a estrutura também integra medidas de avaliação orientadas a tarefas, como precisão de recuperação, correção do alinhamento ontológico e latência de decisão. Quando comparado aos métodos base, a validação experimental em duas aplicações da indústria mostra uma redução de 35% na latência da tomada de decisão e um ganho de 21% na precisão da recuperação do conhecimento.

Além disso, o feedback dos usuários indica que a interface do KM aumentou a satisfação do usuário por meio de seus recursos de busca semântica e marcação contextual. A arquitetura sugerida facilita a construção de grafos de conhecimento reprodutíveis a partir de dados corporativos não estruturados, fundindo metodicamente raciocínio e alinhamento baseados em grafos com extração de informações baseada em aprendizado profundo. Os resultados demonstram que tanto os resultados estratégicos quanto operacionais da gestão de gestão melhoraram quando representações organizadas do conhecimento estão alinhadas com os procedimentos organizacionais. Considerando tudo, o método sugerido aumenta a precisão da recuperação, acelera os tempos de reação do fluxo de trabalho de decisão e oferece uma opção viável e escalável para sistemas de gestão de serviços em nível empresarial.

Introduction

A gestão eficaz de Gestão de Informação pode ser difícil de adotar em programas de transformação digital devido a repositórios de dados desconexos, diversas plataformas organizacionais e conhecimento fragmentado espalhado por documentos não estruturados. Uma estrutura reproduzível e tecnicamente implementável que extraia, estrutura, alinhe e operacionaliza o conhecimento empresarial metodicamente não foi proposta por muitas pesquisas, apesar de estudos anteriores terem analisado a adoção da IA e a transformação digital sob perspectivas organizacional e ^{setorial 1,2,3}. Os métodos atuais focam principalmente em consequências gerenciais ou estratégicas, mas não oferecem detalhes arquitetônicos suficientes para uma implantação em escala.

Sistemas convencionais de informação de gestão (MIS) e sistemas de planejamento de recursos empresariais (ERP) lidam principalmente com dados estruturados e facilitam relatórios transacionais, mas não podem processar texto não estruturado nem realizar raciocínio semântico consciente do contexto. Por outro lado, a entidade contextual e o RE a partir de corpora textuais^{complicados 4,5} são possibilitados por modelos baseados em transformadores como o BERT. De forma semelhante, as GNNs provaram ser altamente capazes de raciocínio relacional, aprendizado de representação de grafos e alinhamento de ontologias em uma variedade de campos^{diversos 6,7,8}. Apesar desses desenvolvimentos, pesquisas atuais geralmente utilizam esses modelos separadamente, em vez de incorporá-los em um pipeline coeso de gestão de negócios coeso.

Análise de Big Data, computação em nuvem, Internet Industrial das Coisas e aprendizado de máquina avançado são exemplos de avanços técnicos recentes que aceleraram a transformação digital em setores como manufatura, saúde, serviços profissionais e^governança 9,10,11,12. Ao mesmo tempo, os marcos de políticas internacionais dão forte ênfase à aplicação responsável da IA, enfatizando o alinhamento ético, a responsabilidade e a transparência nos sistemas^{digitais 13, 14 e 15}. No entanto, interpretabilidade ética e robustez técnica raramente são combinadas em uma única arquitetura em sistemas KM existentes.

Em relatórios ambientais, sociais e de governança (ESG), por exemplo, a tomada de decisão impulsionada pela IA pode ignorar questões morais complexas que exigem decisões de humanos. Uma diminuição na capacidade de avaliar dados utilizando a decisão^{técnica 16} pode resultar de uma dependência excessiva de dados. A função de aconselhamento realizada pelos PAs, que historicamente se baseava no conhecimento econômico e na interação com clientes, pode, em última análise, ser diminuída pela^{automação 17}. Isso pode atrapalhar porque as ferramentas destinadas a avançar a profissão podem, sem querer, comprometer habilidades humanas críticas.

A combinação natural de tecnologia digital de ponta com uma maior preocupação com o desempenho comercial e o empreendedorismo que manda as pessoas simboliza a Indústria 6.0, uma fase inovadora no desenvolvimento^{industrial 18}. Esta etapa, que se baseia na Indústria 4.0 e Indústria 5.0, é a próxima etapa de crescimento técnico. Ao visualizar um momento em que a invenção melhora, em vez de substituir, as aptidões humanas, a Indústria 6.0 amplia essas ideias¹⁹. Esse plano aborda preocupações morais sobre mecanização enquanto apoia a colaboração entre humanos e robôs, eficiência^{cumulativa 20}. O componente comercial da DL dos funcionários é importante, pois as interações com colegas dentro da empresa frequentemente moldam a competência e a compreensão de uma pessoa sobre tecnologia digital. Essa estratégia busca estar alinhada com estudos que tentam esclarecer maneiras de permitir que trabalhadores e novas tecnologias colaborem, de modo que diferentes empregos e operações possam ser realizados em empresas^21,22. Por lhes dar exposição a uma base de consumidores maior, a DL é vista como crucial para a sobrevivência das pequenas^{empresas 23}. Em comparação com as estruturas empresariais tradicionais, gestores de PMEs podem administrar suas empresas de forma mais eficiente e com menos ativos físicos utilizando avanços^{tecnológicos 24,25}.

O desenvolvimento da capacidade de publicidade online, que na prática melhora o desempenho dos negócios, depende de recursos tecnológicos como avanços tecnológicos e da conexão com os objetivos da^{empresa 26}. O foco eletrônico de uma empresa e a revolução técnica em seu ambiente de clientes, no entanto, funcionam como moderadores desses^{impactos 27}. As empresas podem usar o progresso e a sincronização de TI de forma mais eficaz para desenvolver suas capacidades promocionais online, integrando profundamente a tecnologia digital em seus negócios, produtos, ofertas e planos.

Os dois mecanismos das reservas tecnológicas de IA são os gastos de capital (capex), que podem ser usados para organização de plataformas de Big Data, adições e avanços, e esquemas de invenção em ciência da informação e aprendizado de máquina, ou custos operacionais, que são usados para conceder licenças para ferramentas de IA e Big Data dentro da organização, ou, finalmente, treinamentos relacionados à IA para membros da equipe²⁸. Os benefícios da adoção da IA são maiores para empresas que também atuam em outras tecnologias e seguem a estratégia interna de P&D, segundo o estudo²⁹de Lee sobre ativos de IA. Além disso, é fundamental decidir entre autoridades externas e a utilização de funcionários internos especializados em^IA. A posição dos recursos humanos nessa área de treinamento é um foco principal das pesquisas atuais, e os resultados mostram que empresas com conhecimento interno de IA investem no desenvolvimento desse talento para obter vantagem sobre os^{concorrentes 31,32}.

Interações proteicas foram previstas com GNNs em³³ casos, e as previsões foram verificadas com LLMs. A abordagem foi muito precisa e forneceu explicações interpretáveis. Técnicas avançadas de aprendizado de máquina e deep learning como o BERT têm sido usadas para estudar dados em grande escala de redes sociais em tempos de^{crise 34}. RNN, CNN e GCN ajudam a processar e classificar enormes quantidades de dados e podem ser aplicadas na detecção de^{tumores 35}. Os autores em^{36, 37, 38, 39}apresentam uma abordagem inovadora para aumentar sistemas de recomendação integrando grafos sociais e de conhecimento com modelos baseados em GNN.

Pesquisas anteriores não investigaram a fundo como a extração semântica baseada em transformadores e o raciocínio baseado em grafos podem ser sistematicamente integrados para melhorar tanto as funções operacionais quanto estratégicas de gestão de gestão, apesar de a IA e a Análise de Big Data serem reconhecidas como forças transformadoras em ambientes profissionais. Em particular, estruturas estabelecidas que (i) transformam textos corporativos não estruturados em grafos de conhecimento semanticamente alinhados, (ii) garantem consistência em nível de ontologia entre fontes distantes e (iii) avaliam estatisticamente o impacto do suporte à decisão empresarial estão ausentes.

Para fechar essa lacuna, este estudo prevê que, em comparação com sistemas tradicionais de KM baseados em ERP/MIS e baseados em palavras-chave, combinar extração de informações baseada em transformador adaptativo ao domínio com alinhamento e raciocínio de ontologias baseados em GNN aumentará significativamente a precisão da recuperação semântica e diminuirá a latência da decisão empresarial. Um framework executável de gestão de gestão de inteligência artificial (IA-Big Data Analytics) é proposto neste estudo. Ele pode realizar as seguintes tarefas: extração de entidades e relações específicas de domínio usando um modelo de transformador finamente ajustado; construção de grafos de conhecimento a partir de triplas extraídas; alinhamento de ontologias baseadas em GNN e raciocínio relacional; e avaliação orientada a tarefas usando métricas de precisão de recuperação, precisão de alinhamento e latência de decisão.

A novidade da abordagem sugerida é seu alinhamento de KM em duas camadas, que simultaneamente apoia a KM estratégica por meio da integração estruturada do conhecimento que melhora a agilidade organizacional e a capacidade de inovação; e Gestão de Gestão Operacional por meio de suporte aprimorado à decisão, otimização de processos e recuperação contextual. Este artigo oferece uma arquitetura de ponta a ponta, empiricamente comprovada, implementada em dois sistemas empresariais do mundo real, em contraste com pesquisas conceituais anteriores ou de modelo único. Os resultados experimentais mostram uma redução de 35% na latência de tomada de decisão e um aumento de 21% na precisão da recuperação. Além disso, ao conectar saídas impulsionadas por IA a representações de conhecimento semanticamente organizadas, o sistema melhora a interpretabilidade e facilita a tomada de decisões transparente e responsável. Este estudo cria um paradigma escalável e repetível para a construção de grafos de conhecimento corporativo e para KM inteligente em ambientes avançados de transformação digital, alinhados com os princípios da Indústria 6.0, ao fundir metodicamente a codificação contextual baseada em transformadores com raciocínio semântico baseado em grafos.

Protocol

Declaração ética

Este estudo foi revisado e aprovado pelo Conselho de Revisão Institucional (IRB) da Universidade Nacional da Malásia (UKM) antes da coleta dos dados (Id de Aprovação: UKM/FEP/2025/AI-047; Data de aprovação: 12 de março de 2025). O protocolo aprovado abrangia a administração de pesquisas estruturadas e entrevistas semiestruturadas envolvendo participantes humanos. Todos os participantes foram informados sobre o propósito do estudo, a natureza voluntária de sua participação e seu direito de se retirar a qualquer momento sem consequências, e o consentimento informado por escrito foi obtido antes de sua inclusão. O anonimato e a confidencialidade dos participantes foram mantidos estritamente, sem informações pessoais identificáveis incluídas na análise ou publicação, e todos os dados foram armazenados de forma segura e usados exclusivamente para fins de pesquisa acadêmica, de acordo com os padrões éticos institucionais e as diretrizes internacionais relevantes para pesquisa com sujeitos humanos.

Arquitetura geral do proposto arcabouço BERT–GNN KM

Inicialmente, um codificador transformer finamente ajustado era usado para processar texto não estruturado, incluindo documentos internos, interações com clientes e conteúdo de redes sociais. A arquitetura geral do sistema do fluxo de trabalho KM baseado em BERT–GNN é mostrada na Figura 1. Os dados empresariais usados neste estudo foram coletados em formatos digitais, incluindo arquivos estruturados de pesquisas, transcrições de entrevistas, relatórios internos da empresa e documentos de estudos de caso disponíveis publicamente. Todos os documentos foram consolidados em um corpus unificado para análise. O conteúdo textual era extraído dessas fontes e limpo para remover metadados irrelevantes, entradas duplicadas e artefatos de formatação. O corpus limpo foi então segmentado em frases e tokenizado para prepará-lo para processamento posterior de linguagem natural, como extração de texto usando analisadores, remoção de ruído, segmentação de frases e tokenização usando tokenizador de pedaços do Word. Esse conjunto de dados textual processado serviu como entrada para o modelo finamente ajustado para a extração de entidades^{e relações 33} , que possui 12 camadas com 12 cabeças de atenção e 768 unidades ocultas. Os dados extraídos foram organizados em um Grafo de Conhecimento, que fornecia uma representação estruturada e interconectada do conhecimento através do mapeamento ontológico do domínio empresarial. GNNs foram aplicados para alinhamento ontológico usando similaridade cosseno e raciocínio, para garantir que as relações semânticas entre domínios de conhecimento fossem capturadas com precisão e inferidas logicamente, removendo os duplicados por meio da similaridade da cadeia com o limiar 0,85. O conhecimento processado foi então utilizado dentro da camada de tomada de decisão, permitindo uma análise eficiente de dados e facilitando a tomada de decisões orientada por dados. Essa arquitetura transformava dados fragmentados em ativos de informação inteligentes e conscientes do contexto. A estrutura foi validada por meio de simulações de casos de negócio e comparada com sistemas convencionais de KM como Naive Bayes (NB), Support Vector Machine (SVM), Random Forest (RF), TF-IDF, LDA, BERT only e BERT com KG, com a divisão do conjunto de dados de 70:15:15 e a visão fixa de 42 para avaliar melhorias de desempenho na precisão da recuperação, latência de decisão e utilidade do conhecimento.

Figura 1. Arquitetura Geral do Sistema do Fluxo de Trabalho de Gerenciamento de Sistemas baseado em BERT-GNN. Arquitetura geral do sistema AI–BDA–GNN mostrando ingestão de dados multi-fonte, pré-processamento, BERT finamente ajustado para extração semântica, população KG, alinhamento/raciocínio de ontologias baseadas em GNN e a camada de tomada de decisão. Setas indicam fluxo de dados e ciclos opcionais de feedback para aprendizado online. Por favor, clique aqui para ver uma versão ampliada desta figura.

Aquisição de dados

O conjunto de dados utilizado neste estudo foi coletado de múltiplas fontes para apoiar a representatividade e validade externa. A coleta de dados primários por meio de pesquisas estruturadas e entrevistas semiestruturadas com profissionais dos setores de TI, manufatura, saúde e educação incluiu membros certificados da Câmara de Auditores Financeiros da Romênia. Os dados secundários incluíam documentos internos corporativos anonimizados, relatórios anuais e estudos de caso de transformação digital disponíveis publicamente. A coleta de dados foi feita dentro de um período de estudo bem definido, e todos os registros foram anonimizados com base na autorização ética institucional para proteger a confidencialidade e garantir o cumprimento.

Critérios de Seleção da Participação: Para garantir rigor metodológico e representatividade, os participantes foram escolhidos com base em critérios bem definidos de inclusão e exclusão. Além de estarem ativamente envolvidos em transformação digital, gestão de computadores, inteligência artificial, análise de big data ou iniciativas de sistemas de informação corporativos, os participantes elegíveis precisavam ter pelo menos três anos de experiência profissional em TI, manufatura, saúde, educação, contabilidade ou ambientes corporativos relacionados. Era necessário que profissionais certificados tivessem status ativo de certificação durante o período de coleta de dados (por exemplo, membros da Câmara de Auditores Financeiros da Romênia). Para compreender com precisão os materiais da pesquisa e da entrevista e dar permissão informada de acordo com o protocolo autorizado do IRB, os participantes também precisavam demonstrar proficiência em romeno ou inglês. Aqueles com menos de três anos de experiência relevante, status profissional inativo (se aplicável), sem envolvimento direto em processos de conhecimento ou tomada de decisão em nível empresarial, respostas incompletas às pesquisas (mais de 20% dados faltando) ou verificações de qualidade de dados malsucedidas foram todos excluídos. Além disso, transcrições de entrevistas que não eram suficientemente detalhadas ou pertinentes às técnicas de KM não foram incluídas na análise. Uma amostra participante competente, representativa do setor e analíticamente sólida era garantida por esses padrões.

Membros certificados da Câmara de Auditores Financeiros da Romênia (CAFR) eram uma população-alvo chave para a coleta de dados. Uma pesquisa online foi desenvolvida e distribuída por meio dos canais internos de comunicação do CAFR para apoiar a distribuição direcionada e altas taxas de resposta. Para formar uma amostra representativa, os históricos do CAFR foram revisados e 250 participantes registrados foram selecionados com base em características relevantes para o estudo.

Estrutura dos instrumentos da pesquisa: O estudo utilizou um questionário estruturado com 24 itens distribuídos em cinco domínios construtos: agilidade organizacional e eficiência operacional (5 itens), suporte à decisão estratégica e capacidade de inovação (5 itens), impacto da Análise de Big Data no compartilhamento de conhecimento (5 itens), adoção de IA em KM (5 itens) e eficácia percebida pelo usuário e usabilidade do sistema (4 itens). Uma escala de Likert de 5 pontos, com 1 indicando "discordo fortemente" e 5 indicando "concordo fortemente", foi usada para avaliar cada item. A ferramenta foi contextualizada para implementação de IA corporativa e modificada a partir de escalas de KM e transformação digital previamente validadas. Três acadêmicos e dois especialistas em negócios realizaram uma revisão especializada para confirmar a validade do conteúdo. Para melhorar a linguagem, medir a clareza e medir a confiabilidade, foi realizada uma pesquisa piloto com 20 profissionais; todos os componentes apresentavam valores alfa de Cronbach maiores que 0,80, mostrando forte consistência interna. Entrevistas semiestruturadas também foram realizadas para complementar os resultados da pesquisa. Cinco áreas temáticas foram abordadas no guia da entrevista: experiência com transformação digital, dificuldades com o fluxo de conhecimento empresarial, integração de IA e Big Data na tomada de decisão, obstáculos ao alinhamento semântico e questões de governança ética. Cada entrevista foi realizada com consentimento informado, durou aproximadamente de 45 a 60 minutos, foi gravada em áudio e depois transcrita para análise qualitativa.

Para avaliar o desempenho do framework BERT-GNN sugerido para KM em organizações que se transformam digitalmente, foi preparado um conjunto de dados grande e diversificado a partir de diferentes fontes e diversos setores. O conjunto de dados abrange aspectos quantitativos e qualitativos para representar as percepções dinâmicas sobre o fluxo de conhecimento e a mudança organizacional. Dados estruturados foram coletados de mais de 250 profissionais por meio de um questionário online composto por itens na escala Likert (intervalo 1–5) para medir os efeitos percebidos da Inteligência Artificial (IA) e da Análise de Big Data (BDA) no compartilhamento de conhecimento, inovação e agilidade empresarial. Simultaneamente, dados não estruturados foram coletados por meio de entrevistas semiestruturadas com 30 especialistas do domínio, fornecendo mais de 120.000 palavras de transcrição. Materiais semiestruturados adicionais, incluindo relatórios anuais da empresa e documentos digitais de estratégia (mais de 50 documentos), foram coletados para contextualizar padrões de adoção em escala empresarial. Além disso, 15 estudos de caso detalhados dos setores de TI, manufatura, saúde e educação foram adicionados para oferecer contextos práticos de transformação. Documentos internos da base de conhecimento (cerca de 200 MB), anonimizados por razões de privacidade, também foram incluídos para aprimorar a representação dos ativos de conhecimento operacional. Esse conjunto de dados multi-fonte permite um forte pipeline de treinamento e avaliação para modelos de deep learning e captura tanto os aspectos estratégicos quanto operacionais da KM. A Tabela 1 mostra a amostra populacional usada para avaliação.

Componente	Tipo	Fonte	Tamanho/Volume
Respostas de Pesquisas Profissionais	Estruturado	Pesquisas online de 250+ profissionais	~10.000 discos
Transcrições das Entrevistas	Não estruturado	Entrevistas semiestruturadas com 30 especialistas	~120.000 palavras
Relatórios da Empresa	Semiestruturado	Relatórios anuais e documentos de estratégia digital	50+ documentos
Estudos de Caso	Misto	Casos de uso específicos de transformação digital para a indústria	15 casos detalhados
Conteúdo da Base de Conhecimento	Não estruturado	Documentos internos de organizações (anonimizados)	~200 MB

Pré-processamento de dados e ajuste fino de BERT

Os dados brutos dos documentos empresariais eram acessados a partir de listas selecionadas e pré-processados usando segmentação de frases, tokenização, remoção de palavras de parada e normalização para atender aos requisitos do tokenizador. O modelo pré-treinado foi então modificado para ajustar o modelo para uma tarefa específica, e ajustado para realizar uma tarefa de reconhecimento de entidade nomeada (NER) e extração de relações (RE). O modelo foi ajustado nos dados de corpus pré-processados para uma contagem de épocas específicas com o otimizador Adam. Por fim, foram produzidos embeddings de palavras contextualizados (R⁷⁶⁸) a partir de entidades identificadas e suas relações. Entidades normalizadas foram geradas por uma técnica de normalização baseada em ontologia, na qual diferentes entidades, como sinônimos, foram convertidas em forma normalizada. Cada entidade normalizada distinta era um nó, enquanto a relação entre entidades era chamada de aresta na representação do grafo de conhecimento. As incorporações de entidades normalizadas geradas pelo modelo formaram as características iniciais dos nós da Rede Neural de Grafos. Na etapa seguinte, a Rede Neural de Grafos foi treinada com o método de predição supervisionada de links, com amostragem negativa obtida por corrupção de arestas. No treinamento, há uma perda de entropia cruzada ao longo de várias épocas. O framework treinado foi avaliado utilizando Precisão de Recuperação de Conhecimento, Latência de Tomada de Decisão e Taxa de Satisfação do Usuário como métricas de avaliação.

Uma abordagem híbrida de anotação foi usada para criar rótulos de treinamento para RE e NER. Dois especialistas independentes no assunto anotaram manualmente um corpus específico de domínio de documentos empresariais, como relatórios internos, logs de interação com clientes e documentos de políticas, usando um esquema de ontologia pré-determinado que identificava categorias de entidades (como Organização, Processo, Tecnologia, Função, KPI) e tipos de relacionamento (como suportes, depends_on e melhorias). Para garantir uniformidade na direção de relação e na detecção de fronteiras de entidades foram criadas, foram criadas diretrizes abrangentes de anotação. 20% do conjunto de dados foi duplamente anotado para avaliar a confiabilidade. O Kappa de Cohen foi usado para testar a concordância entre anotadores, e os resultados mostraram forte concordância (κ = 0,87 para rotulagem de entidades e κ = 0,82 para extração de relações). A supervisão fraca foi então usada para expandir o conjunto de dados anotado manualmente usando correspondência de padrões baseada em regras e restrita por ontologia, com filtragem baseada em confiança para reduzir o ruído. Para garantir total reprodutibilidade, todos os procedimentos de anotação, definições de ontologia, divisões de conjuntos de dados e sementes aleatórias foram registrados.

A eficiência na precisão foi medida no nível do documento, a latência foi estimada com base no tempo de resposta de ponta a ponta da consulta, e os usuários ficaram satisfeitos usando os questionários da escala Likert. Ao final de cada estágio, foram estabelecidos pontos de verificação de protocolo seguintes. (i) checkpoint de saída BERT - entidades amostrais e triplos de relação extraídos; (ii) amostra de ponto de verificação KG de subgrafo construído com rótulos ontológicos; (iii) Ponto de verificação GNN - amostra de previsão de ontologia e ligação inferida; e (iv) checkpoint de recuperação - amostra de itens de conhecimento recuperados com rótulos de relevância.

O protocolo proposto é da seguinte estrutura: pipeline determinístico de múltiplos estágios com saídas intermediárias bem definidas, permitindo total reprodutibilidade. Passo 1, Após a ingestão e pré-processamento de dados empresariais brutos, semiestruturados e não estruturados, corpora de texto limpo e matrizes numéricas de características normalizadas serão gerados. Passo 2: A aplicação de modelos BERT fine-tuned será realizada para extração de conhecimento, fornecendo resultados explícitos na forma de entidades nomeadas, como Departamento, Processo, Documento e KPI; (ii) relações semânticas entre entidades, representadas como triplos sujeito-predicado-objeto. No Passo 3, esses triplos são transformados em um grafo de conhecimento inicial, no qual nós são entidades e relações são arestas tipadas, alinhadas com um esquema de ontologia predefinido. No Passo 4, a aplicação da Rede Neural de Grafos a este grafo para alinhamento e raciocínio de ontologias geraria embeddings melhorados, inferir relações e alinhar etiquetas de ontologia. O Passo 5 fornece o grafo de conhecimento finalizado e os resultados do raciocínio que alimentarão a recuperação semântica, o suporte à decisão e a avaliação de desempenho.

Todos os artefatos intermediários, incluindo listas de entidades, triplos de relação, grafos alinhados à ontologia e links inferidos, são gerados explicitamente em cada etapa deste protocolo, permitindo a replicação independente da pesquisa sem necessidade de lembretes.

O conjunto de dados é dividido em conjunto de treinamento, conjunto de validação e conjunto de testes de acordo com uma razão fixa de 70:15:15 para garantir a reprodutibilidade dos resultados do experimento. Tokenização, minúsculas, remoção de palavra de parada e encurtamento de sequência para 512 tokens são todos feitos para o BERT em termos de preparação de texto. Por outro lado, a normalização Z-Score é usada para normalizar características estruturais. Além disso, o modelo BERT é ajustado usando a biblioteca do framework de deep learning com o otimizador Adam, onde a taxa de aprendizado é 2e-5, o tamanho do lote é igual a 16 e o número de épocas é 5. As entidades e relações extraídas previstas são salvas em um formato padrão para a construção do grafo de conhecimento. Além disso, o embedding de nó em grafo de conhecimento (R⁷⁶⁸) é usado como entrada para o GNN para alinhamento e raciocínio de ontologias.

Interface BERT-GNN e fluxo de dados

Dentro do framework proposto, o codificador transformador é ajustado para executar duas tarefas de PLN: a tarefa NER e a tarefa RE em um corpus de texto empresarial. Por fim, as saídas dos modelos incluem embeddings contextualizados de tokens (R⁷⁶⁸), rótulos de classificação de entidades e tripletas relacionais sujeito-predicado-objeto. Entidades normalizadas são usadas construindo uma ontologia empresarial pré-definida, onde variações textuais e sinônimos da entidade são mapeados para um identificador de entidade. Cada entidade única normalizada recebe um novo nó de entidade dentro do grafo de conhecimento construído. Dependendo do tamanho do corpus da indústria, o grafo de conhecimento gerado nos cenários empresariais avaliados possui entre 18.000 e 25.000 nós de entidade e 42.000 e 60.000 arestas relacionais tipadas. Pessoa, Departamento, Processo, Produto, Organização e Documento são apenas alguns dos tipos de nós encontrados no grafo. Outros tipos de borda incluem works_for, gerenciamentos, belongs_to, produtos, approved_by e related_to. Um identificador distinto baseado em ontologia, derivado de uma ontologia empresarial predeterminada, é dado a cada nó. Como resultado, o grafo heterogêneo resultante possui arestas tipadas que representam relações normalizadas e nós tipados com propriedades de imersão semântica. Depois disso, a GNN obtém essas embeddings de nós para raciocínio relacional e alinhamento de ontologia. Crucialmente, o GNN funciona no grafo gerado sem propagar gradientes para o codificador BERT, garantindo treinamento modular e mantendo a separação dos componentes de raciocínio do grafo e extração semântica.

O BERT foi utilizado neste estudo para modelagem contextual de linguagem e extração de características semânticas. O modelo pode aprender de forma eficiente a prever os rótulos corretos de categorias para entradas de texto inovadoras quando ajustado usando dados rotulados adaptados a um objetivo específico de classificação. Como o BERT é bidirecional, ele considera tanto o contexto anterior quanto o seguinte de cada palavra, permitindo uma compreensão mais abrangente das relações dentro do texto. O codificador do modelo base BERT consiste em 12 blocos transformadores, cada um contendo 12 cabeças de autoatenção e um tamanho oculto de 768. Antes do processamento, o texto de entrada é dividido em tokens dependendo da abordagem de tokenização selecionada, que podem representar palavras ou subpalavras. A representação de sequência derivada usando BERT é descrita no Arquivo Suplementar 1. Os parâmetros do modelo são otimizados minimizando a probabilidade logarítmica do rótulo correto (Figura 2).

Figura 2. Processo Detalhado de Funcionamento do Modelo BERT usado para extração de Características Semânticas. Mostra as dimensões de entrada/saída e o papel dos embeddings contextuais para a população KG. Por favor, clique aqui para ver uma versão ampliada desta figura.

Construção de grafos de conhecimento usando GNN

O esquema para o Grafo de Conhecimento é pré-definido antes de construir o grafo. Isso proporciona consistência semântica. A ontologia é pré-definida em relação a um número finito de tipos tanto para entidades quanto para tipos de relação, junto com restrições de intervalo de domínio, que são úteis para o raciocínio. O esquema é aplicável para preencher o grafo a partir dos triplos coletados do modelo BERT, bem como para a mensagem consciente de relação que passa pelo GNN.

Dentro desse quadro, o Grafo do Conhecimento (KG) serve como uma representação estruturada do conhecimento empresarial, entidades de modelagem (por exemplo, departamentos, documentos, processos) e relações semânticas entre elas. As derivações matemáticas de KG são adicionadas no Arquivo Suplementar 1. Essa integração da construção KG e do raciocínio baseado em GNN permite o alinhamento de ontologias, inferência de relações e recuperação semântica aprimorada dentro do framework empresarial de KM.

O Grafo do Conhecimento (KG) é representado como um grafo heterogêneo G, enquanto sua estrutura é expressa por sua ontologia O. KG pode ser visto alternativamente como um conjunto de fatos expressos por afirmações de raciocínio predicativo. Esses fundamentos têm as descrições seguintes³⁴. O grafo G é variado, com V representando o conjunto de objetos ou nós (ambos podem ser usados de forma intercambiável) e representando o conjunto de relações. Um triplete () também pode ser usado para caracterizar, respectivamente, um par de objetos v₁ e sua associação . A derivação matemática da construção KG usando GNN é descrita no Arquivo Suplementar 1.

Alinhamento e raciocínio de ontologias baseados em BERT-GNN

O Algoritmo 1 mostra o Alinhamento e Raciocínio de Ontologias baseados em GNN. O processo começa inicializando as capacidades dos nós usando embeddings pré-extraídos junto com aqueles gerados por uma versão BERT ajustada de alta qualidade, que capta o significado semântico de cada entidade a partir de texto não estruturado. O grafo de conhecimento, composto por nós (entidades) e arestas (relações), é representado pelo uso de uma matriz de adjacência (A) e uma matriz de características (X).

O conjunto de regras ocorre por meio de mais de uma camada GNN. Em cada camada, a representação de um nó é atualizada por meio da agregação de dados de seus nós vizinhos, ponderados por sua conectividade (ou seja, usando a matriz de adjacência). Isso é formulado matematicamente usando um método de passagem de mensagens, onde as incorporações de nós são expandidas por meio de matrizes de pesos treináveis e passadas por uma característica de ativação não linear que inclui o ReLU. Uma etapa de normalização (por exemplo, normalização de camadas ou uso de matrizes de diploma como na equação GCN) garante um conhecimento estável de aquisição de camadas ao longo das camadas.

Após repetir esse processo para um intervalo pré-definido de camadas T, o modelo produz um conjunto final de Z de embedding de nós, que codificam cada vizinhança e sua forma e capacidades semânticas. Essas incorporações são então superadas por meio de uma camada suave de classificação máxima para prever rótulos ontológicos alinhados, incluindo ordenação de entidades (por exemplo, "Departamento", "Produto", "Projeto") ou papéis semânticos dentro da corporação.

Algoritmo 1: Alinhamento e raciocínio de ontologias baseados em GNN em BERT

O processo de alinhamento e raciocínio baseado em ontologias GNN operava sobre o Grafo de Conhecimento construído, que consistia em entidades representadas como nós e suas relações representadas como arestas. As representações iniciais dos nós foram derivadas de embeddings semânticos baseados em BERT e organizadas em uma matriz de características. A matriz de adjacência representava a estrutura de conectividade do grafo, e um número pré-definido de camadas GNN era aplicado para refinar representações de nós. Para cada camada, o modelo atualizava cada nó agregando informações de seus nós vizinhos com base na estrutura do grafo. Essa agregação em Eqn (1) envolve multiplicar representações de nós vizinhos por matrizes de pesos treináveis, adicionar um termo de viés e aplicar uma função de ativação não linear.

(1)

Após cada atualização de camada, a normalização era aplicada para estabilizar o treinamento e garantir escalas de embedding consistentes. Uma vez processadas todas as camadas, as embeddings finais dos nós foram obtidas. Esses embeddings eram então passados por uma camada de classificação com uma função softmax para prever etiquetas de ontologia alinhadas ou classes de entidades. O procedimento produzia as incorporações finais refinadas de nós e os rótulos alinhados à ontologia previstos como saídas.

O método proposto permite o alinhamento semântico de entidades de múltiplas fontes e suporta o raciocínio sobre o grafo de conhecimento inferindo novos relacionamentos e classificando nós previamente não rotulados.

Figura 3. Alinhamento de ontologias e raciocínio semântico usando GNN. Ilustra passos de atualização e incorporação de mensagens de vizinhança. Por favor, clique aqui para ver uma versão ampliada desta figura.

As características agregadas são transformadas usando matrizes de pesos específicas de relação e uma função de ativação não linear (por exemplo, ReLU), gerando embeddings atualizados de nós que integram características semânticas derivadas do BERT com informações estruturais do grafo. Esses embeddings são então passados para uma camada de classificação softmax para prever rótulos de entidades ou classes de ontologia alinhadas. Esse processo estabelecido torna o GNN extremamente eficaz para raciocinar sobre grafos tecnológicos, auxiliando tarefas como desambiguação de entidades, inferência de cortejo e tipo semântico, contribuindo para estruturas de controle estatística mais inteligentes e impulsionadas pela IA (Tabela 2).

Componente	Descrição
Framework/Kits de Ferramentas	Python 3.9, PyTorch 2.0.1, Hugging Face Transformers 4.34, DGL 1.1 (Biblioteca Profunda de Grafos)
Hardware	GPU NVIDIA Tesla V100 (16GB), 128GB de RAM, Ubuntu 20.04
Pipeline de pré-processamento	Tokenização (Word Piece para BERT), remoção de palavra de parada, reconhecimento de entidades (SpaCy), normalização de z-score para características numéricas
Fontes do Conjunto de Dados	Pesquisa profissional (250+ respostas), transcrições de entrevistas (~120.000 palavras), relatórios de empresas (50+), estudos de caso (15), documentos internos (200MB)
Divisão de Dados	70% treinamento, 15% validação, 15% testes
Modelo de Codificador de Texto	Base BERT (sem caixa), 12 camadas, tamanho oculto 768, 12 cabeças de atenção
Ajuste fino BERT	4 épocas, tamanho do lote = 32, taxa de aprendizado = 2e-5, otimizador Adam, comprimento máximo de seq = 512
Construção de grafos	Extração de conhecimento baseada em tripletas (sujeito, predicado, objeto)
Tipo de grafo	Grafo heterogêneo com arestas multi-relacionais (entidades da saída do BERT)
Arquitetura GNN	Rede Neural de Grafos Heterogêneos de 2 camadas (modelo de passagem de mensagens)
Parâmetros Hiper GNN	Dimensão oculta = 128, Ativação = ReLU, Otimizador = Adam, Taxa de aprendizado = 0,001
Tipo Decodificador	Dist. Mult com pontuação do produto escalar para previsão de links
Função de Perda	Entropia cruzada binária para classificação de tercinos

Por fim, o protocolo conclui com a geração dos seguintes resultados: um grafo de conhecimento empresarial alinhado à ontologia, modelos BERT e GNN, resultados de recuperação e raciocínio de informações, e os relatórios do KRP, OAA, DML e USR. Esses fornecem a saída final em forma reproduzível. Para amostragem negativa durante o treinamento GNN, tercinos válidos são corrompidos por substituição de entidades de acordo com restrições de tipo definidas pela ontologia. Os alinhamentos de ontologias resultantes são validados para consistência e revisados manualmente por especialistas do domínio para garantir coerência semântica entre as entidades extraídas e as classes de ontologia canônicas.

Critérios de avaliação

Latência de Tomada de Decisão é a medida do tempo total que o sistema leva para fornecer uma resposta acionável após a consulta do usuário ter sido enviada. Seja i a consulta do usuário, o momento em que a consulta é enviada, o momento em que o sistema fornece a decisão final. A Latência de Tomada de Decisão (DML) é dada por:

(2)

onde é o número total de consultas avaliadas. Essa métrica mede o tempo total de resposta do framework proposto, desde a recuperação do conhecimento até a geração de respostas. Um valor menor para essa métrica é ideal, pois mostra um tempo de resposta do sistema mais rápido, o que é crucial para aplicações empresariais de tomada de decisão sensíveis ao tempo.

A Razão de Cobertura de Conhecimento é a razão da capacidade do sistema de recuperar todos os itens de conhecimento relevantes disponíveis para uma determinada consulta. Seja o conjunto de todos os itens de conhecimento relevantes para a consulta q, seja o conjunto dos itens de conhecimento realmente recuperados pelo sistema. A Razão de Cobertura do Conhecimento (KCR) é definida como:

(3)

Essa fórmula calcula a completude dos itens de conhecimento que são recuperados. É equivalente à medida de recordação usada em sistemas tradicionais de recuperação de informações.

Results

Pré-processamento de dados e ajuste fino de BERT

O dispositivo proposto integra uma versão BERT melhor ajustada para extração de compreensão não estruturada e uma Rede Neural de Grafos (GNN) para alinhamento e raciocínio de ontologias dentro de um framework de grafos de compreensão. A configuração experimental consistia em comparar o desempenho geral do aspecto BERT em tarefas NER e RE, enquanto o fator GNN passou a ser avaliado na previsão de...

Discussion

Este estudo apresenta uma estrutura unificada de KM empresarial que integra extração semântica contextual usando BERT com raciocínio relacional baseado em grafos e alinhamento de ontologias por meio de GNNs. Para possibilitar a ligação de entidades, raciocínio entre documentos e representação coerente do conhecimento entre fontes de dados empresariais díspares, a principal contribuição é a integração de modelagem contextual profunda de linguagem com inferência estruturada e consciente da...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Modelo pré-treinado BERT-Base (Não Caseado)	Google AI	N/A	Modelo de linguagem pré-treinado baseado em transformador (variante sem base de bert)
Biblioteca de Grafos Profundos (DGL)	AWS Labs	RRID: SCR_017054	Versão 2.1 usada para modelagem de redes neurais de grafos
Biblioteca de Visualização Matplotlib	Comunidade PyData	RRID: SCR_008624	Usado para gráficos de desempenho e análises visuais
Biblioteca de Grafos NetworkX	Comunidade PyPI	RRID: SCR_005317	Versão 3.2 usada para construção e análise de grafos
Biblioteca de Computação Numérica NumPy	Comunidade PyData	RRID: SCR_008633	Usado para operações numéricas e processamento de arrays
GPU NVIDIA (Tesla T4 / RTX 3080)	NVIDIA Corporation	RRID: SCR_016409	Acelerador de hardware habilitado por CUDA para treinamento de modelos
Biblioteca de Análise de Dados Pandas	Comunidade PyData	RRID: SCR_018214	Usado para manipulação de dados estruturados
Linguagem de Programação Python	Fundação de Software Python	RRID: SCR_008394	Versão 3.10 usada para desenvolvimento de modelos e processamento de dados
PyTorch Deep Learning Framework	Meta IA	RRID: SCR_018536	Versão 2.0 usada para implementação de redes neurais
Biblioteca de Aprendizado de Máquina Scikit-learn	Desenvolvedores Scikit-learn	RRID: SCR_002577	Versão 1.5 usada para pré-processamento e métricas de avaliação
Biblioteca de PLN Transformers	Rosto de Abraço	RRID: SCR_020989	Versão 4.40 usada para modelos pré-treinados de transformadores
Sistema Operacional Ubuntu Linux	Canonical Ltd.	RRID: SCR_018317	Ambiente de execução LTS versão 20.04