Un flujo de trabajo de IA que combina representaciones bidireccionales de codificadores de transformadores (BERT) y redes neuronales de grafos (GNN) para la recuperación de conocimiento en empresas digitales

Summary

Este protocolo presenta un flujo de trabajo reproducible impulsado por IA que ajusta finamente BERT para la extracción de entidades y relaciones, emplea redes neuronales de grafos para la alineación de ontologías, construye grafos de conocimiento empresarial a partir de datos no estructurados y evalúa sistemáticamente el rendimiento de recuperación semántica y la eficiencia del soporte a la decisión.

Abstract

Grandes volúmenes de datos organizacionales no estructurados pueden dificultar que los sistemas de gestión del conocimiento empresarial (KM) extraigan información correcta y contextualmente relevante, lo que puede llevar a un intercambio ineficiente de conocimientos y a un retraso en la toma de decisiones. Este estudio sugiere un marco unificado impulsado por inteligencia artificial para superar esta limitación. Combina Redes Neuronales de Grafos (GNNs) para alineamiento de ontologías y razonamiento semántico con Representaciones Bidireccionales de Codificadores Refinados de Transformadores (BERT) para la extracción específica de entidades y relaciones de dominio. La recopilación sistemática de datos, el preprocesamiento de corpus de texto empresarial, el ajuste fino de BERT para identificar entidades y relaciones, la conversión de triples extraídos en grafos de conocimiento estructurados y la alineación de ontologías basada en GNN para garantizar la consistencia semántica entre fuentes de conocimiento heterogéneas, conforman la cadena metodológica. Para evaluar la eficacia del sistema en escenarios empresariales reales, el marco también integra medidas de evaluación orientadas a tareas, como la precisión de recuperación, la corrección del alineamiento de ontologías y la latencia de la decisión. En comparación con los métodos de referencia, la validación experimental en dos aplicaciones industriales muestra una disminución del 35% en la latencia de toma de decisiones y un aumento del 21% en la precisión de recuperación de conocimiento.

Además, los comentarios de los usuarios indican que la interfaz de KM ha aumentado la satisfacción del usuario gracias a sus funciones de búsqueda semántica y etiquetado contextual. La arquitectura sugerida facilita la construcción de grafos de conocimiento reproducibles a partir de datos empresariales no estructurados al fusionar metódicamente el razonamiento basado en grafos y la alineación con la extracción de información basada en aprendizaje profundo. Los hallazgos demuestran que tanto los resultados estratégicos como operativos en gestión de gestión mejoran cuando las representaciones organizadas del conocimiento están alineadas con los procedimientos organizativos. En definitiva, el método sugerido aumenta la precisión de la recuperación, acelera los tiempos de reacción en los flujos de trabajo de decisión y ofrece una opción viable y escalable para sistemas de gestión de la gestión a nivel empresarial.

Introduction

La gestión de gestión eficaz puede ser difícil de adoptar en programas de transformación digital debido a repositorios de datos desconectados, diversas plataformas organizativas y conocimiento fragmentado distribuido en documentos no estructurados. No se ha propuesto un marco reproducible y técnicamente implementable que extraga, estructura, alinea y operacionalice metódicamente el conocimiento empresarial, a pesar de que estudios anteriores analizaron la adopción de la IA y la transformación digital desde perspectivas organizativas ^{y sectoriales 1,2,3}. Los métodos actuales se centran principalmente en las consecuencias gerenciales o estratégicas, pero no ofrecen suficiente detalle arquitectónico para un despliegue a escala.

Los sistemas convencionales de información de gestión (MIS) y los sistemas de planificación de recursos empresariales (ERP) gestionan principalmente datos estructurados y facilitan la elaboración de informes transaccionales, pero no pueden procesar texto no estructurado ni realizar razonamiento semántico consciente del contexto. Por otro lado, la entidad contextual y la RE a partir de complejos corpus textuales ^4,5 son posibles gracias a modelos basados en transformadores como BERT. De manera similar, los GNN han demostrado ser altamente capaces de razonamiento relacional, aprendizaje de representación de grafos y alineación de ontologías en una variedad de campos^{diversos 6,7,8}. A pesar de estos avances, la investigación actual suele utilizar estos modelos por separado en lugar de incorporarlos en una cadena cohesiva de gestión de los negocios (KM).

El análisis de Big Data, la computación en la nube, el Internet Industrial de las Cosas y el aprendizaje automático avanzado son ejemplos de avances técnicos recientes que han acelerado la transformación digital en industrias como la manufactura, la sanidad, los servicios profesionales y la^gobernanza 9,10,11,12. Al mismo tiempo, los marcos de política internacional ponen un fuerte énfasis en la aplicación responsable de la IA, enfatizando la alineación ética, la rendición de cuentas y la transparencia en los sistemas^digitales 13,14,15. No obstante, la interpretabilidad ética y la robustez técnica rara vez se combinan en una sola arquitectura en sistemas de KM existentes.

En los informes medioambientales, sociales y de gobernanza (ESG), por ejemplo, la toma de decisiones impulsada por IA puede ignorar cuestiones morales complejas que requieren decisiones de los humanos. Una disminución en la capacidad para evaluar datos utilizando la decisión¹⁶ puede deberse a una dependencia excesiva del conocimiento. La función de asesoramiento realizada por los PAs, que históricamente se ha basado en el conocimiento económico y la interacción con los clientes, podría verse finalmente disminuida por la^{automatización 17}. Esto podría alterar porque las herramientas destinadas a avanzar en la profesión podrían comprometer involuntariamente habilidades humanas críticas.

La combinación natural de tecnología digital de vanguardia con una mayor preocupación por el rendimiento comercial y el negocio que ordena a las personas simboliza la Industria 6.0, una etapa pionera en el desarrollo^{industrial 18}. Esta etapa, que se basa en la Industria 4.0 y la Industria 5.0, es la siguiente etapa de crecimiento técnico. Al visualizar un momento en el que la invención mejora en lugar de sustituir las aptitudes humanas, la Industria 6.0 amplía estas^{ideas 19}. Este plan aborda las preocupaciones morales sobre la mecanización mientras fomenta la colaboración entre humanos y robots, eficiencia^{acumulada 20}. El componente empresarial de la DL de los empleados es importante, ya que las interacciones con compañeros dentro de la empresa suelen moldear la competencia y comprensión de la tecnología digital de una persona. Esta estrategia busca estar en línea con estudios que intentan aclarar formas de permitir que trabajadores y nuevas tecnologías colaboren para que diferentes empleos y operaciones puedan realizarse en las empresas^21,22. Debido a que les da exposición a una base de consumidores más amplia, DL se considera crucial para la supervivencia de las pequeñas^{empresas 23}. En comparación con las estructuras empresariales tradicionales, los directivos de las pymes pueden gestionar sus empresas de forma más eficiente y con menos activos físicos utilizando los avances^{tecnológicos 24,25}.

El desarrollo de la capacidad de publicidad online, que en efecto mejora el rendimiento empresarial, depende de recursos tecnológicos como los avances tecnológicos y la conexión con los objetivos^{de la empresa 26}. Sin embargo, el enfoque electrónico de una empresa y la revolución tecnológica en el entorno de sus clientes actúan como moderadores de estos^impactos. Las empresas pueden utilizar de forma más eficaz el progreso y la sincronización de TI para desarrollar sus capacidades promocionales online integrando profundamente la tecnología digital en sus negocios, productos, ofertas y planes.

Los dos mecanismos de las reservas tecnológicas de IA son el gasto de capital (capex), que puede utilizarse para la organización de plataformas de Big Data, ampliaciones y avances, y los esquemas de invención en ciencia de la información y aprendizaje automático, o costes operativos, que se utilizan para conceder licencias para herramientas de IA y Big Data dentro de la organización, o, finalmente, formación relacionada con IA para miembros del personal²⁸. Los beneficios de adoptar la IA son mayores para las empresas que también se involucran en otras tecnologías y siguen la estrategia interna de I&D, según el estudio²⁹de Lee sobre las acciones de activos de IA. Además, es fundamental decidir entre el empleo de autoridades externas y la utilización de personal interno con experiencia en IA^. La posición de recursos humanos en este campo de formación es un foco principal de la investigación actual, y los resultados muestran que las empresas con conocimientos internos de IA inverten en desarrollar ese talento para obtener ventaja sobre sus^{rivales 31,32}.

Las interacciones proteicas se predijeron con GNNs en³³ y las predicciones se verificaron con LLMs. El enfoque fue muy preciso y proporcionó explicaciones interpretables. Técnicas avanzadas de aprendizaje automático y aprendizaje profundo como BERT se han utilizado para estudiar datos a gran escala de redes sociales en tiempos de^{crisis 34}. RNN, CNN y GCN ayudan a procesar y clasificar enormes cantidades de datos y pueden aplicarse en la detección de^{tumores 35}. Los autores en^{36, 37, 38, 39}presentan un enfoque novedoso para aumentar los sistemas de recomendación integrando tanto grafos sociales como de conocimiento con modelos basados en GNN.

La investigación previa no ha investigado a fondo cómo la extracción semántica basada en transformadores y el razonamiento basado en grafos pueden integrarse sistemáticamente para mejorar tanto las funciones operativas como estratégicas de la gestión de datos, a pesar de que la IA y el análisis de Big Data son reconocidos como fuerzas transformadoras en entornos profesionales. En particular, carecen de marcos establecidos que (i) transformen textos corporativos no estructurados en grafos de conocimiento semánticamente alineados, (ii) garanticen la consistencia a nivel de ontología entre fuentes distantes y (iii) evalúen estadísticamente el impacto del soporte a la toma de decisiones empresarial.

Para cerrar esta brecha, este estudio predice que, en comparación con los sistemas tradicionales de KM basados en ERP/MIS y basados en palabras clave, combinar la extracción de información basada en transformadores adaptativos al dominio con la alineación y razonamiento de ontologías impulsados por GNN aumentará considerablemente la precisión de la recuperación semántica y disminuirá la latencia de la decisión empresarial. En este estudio se propone un marco ejecutable de gestión de control de inteligencia artificial y análisis de big data. Puede realizar las siguientes tareas: extracción de entidades y relaciones específicas de dominio utilizando un modelo de transformador ajustado; construcción de grafos de conocimiento a partir de triples extraídos; alineamiento de ontologías basadas en GNN y razonamiento relacional; y evaluación orientada a tareas utilizando métricas de precisión de recuperación, precisión de alineamiento y latencia de decisión.

La novedad del enfoque sugerido es su alineación de KM de doble capa, que simultáneamente apoya la KM estratégica mediante una integración estructurada del conocimiento que mejora la agilidad organizativa y la capacidad de innovación; y Gestión de Gestión Operativa mediante un soporte a la decisión mejorado, optimización de procesos y recuperación contextual. Este artículo ofrece una arquitectura de extremo a extremo y empíricamente probada, implementada en dos sistemas empresariales del mundo real, en contraste con investigaciones conceptuales o de modelo único previas. Los resultados experimentales muestran una disminución del 35% en la latencia de toma de decisiones y un aumento del 21% en la precisión de la recuperación. Además, al conectar los resultados impulsados por IA con representaciones de conocimiento organizadas semánticamente, el sistema mejora la interpretabilidad y facilita la toma de decisiones transparente y responsable. Este estudio crea un paradigma escalable y repetible para la construcción de grafos de conocimiento empresarial y la gestión inteligente de la inteligencia en entornos avanzados de transformación digital, alineados con los principios de la Industria 6.0, fusionando metódicamente la codificación contextual basada en transformadores con razonamiento semántico basado en grafos.

Protocol

Declaración ética

Este estudio fue revisado y aprobado por la Junta de Revisión Institucional (IRB) de la Universidad Nacional de Malasia (UKM) antes de la recopilación de datos (Id de aprobación: UKM/FEP/2025/AI-047; Fecha de aprobación: 12 de marzo de 2025). El protocolo aprobado abarcaba la administración de encuestas estructuradas y entrevistas semiestructuradas con participantes humanos. Todos los participantes fueron informados sobre el propósito del estudio, la naturaleza voluntaria de su participación y su derecho a retirarse en cualquier momento sin consecuencias, y se obtuvo el consentimiento informado por escrito antes de su inclusión. Se mantuvieron estrictamente el anonimato y la confidencialidad de los participantes, sin que se incluyera información personal identificable en el análisis o publicación, y todos los datos se almacenaron de forma segura y se utilizaron exclusivamente con fines de investigación académica, conforme a los estándares éticos institucionales y las directrices internacionales relevantes para la investigación con sujetos humanos.

Arquitectura general del marco propuesto BERT–GNN KM

Inicialmente se utilizaba un codificador transformador finamente ajustado para procesar texto no estructurado, incluyendo documentos internos, interacciones con clientes y contenido de redes sociales. La arquitectura general del sistema del flujo de trabajo KM basado en BERT–GNN se muestra en la Figura 1. Los datos empresariales utilizados en este estudio se recopilaron en formatos digitales, incluyendo archivos estructurados de encuestas, transcripciones de entrevistas, informes internos de la empresa y documentos de estudio de caso disponibles públicamente. Todos los documentos se consolidaron en un corpus unificado para su análisis. El contenido textual se extrajo de estas fuentes y se limpió para eliminar metadatos irrelevantes, entradas duplicadas y artefactos de formato. El corpus limpiado se segmentaba entonces en oraciones y se tokenizaba para prepararlo para el procesamiento posterior del lenguaje natural, como la extracción de texto con analizadores, eliminación de ruido, segmentación de oraciones y tokenización usando tokenizador de piezas de Word. Este conjunto de datos textual procesado sirvió como entrada para el modelo ajustado de extracción de entidades^{y relaciones 33} , que tiene 12 capas con 12 cabezas de atención y 768 unidades ocultas. Los datos extraídos se organizaron en un Grafo de Conocimiento, que proporcionaba una representación estructurada e interconectada del conocimiento a través del mapeo ontológico del dominio empresarial. Se aplicaron GNN para el alineamiento de ontologías usando similitud coseno y razonamiento, para asegurar que las relaciones semánticas entre dominios de conocimiento se capturaran con precisión e inferieran lógicamente eliminando los duplicados mediante similitud de cadenas con el umbral 0,85. El conocimiento procesado se utilizó entonces dentro de la capa de toma de decisiones, permitiendo un análisis eficiente de datos y facilitando la toma de decisiones basada en datos. Esta arquitectura transformaba datos fragmentados en activos de información inteligentes y conscientes del contexto. El marco fue validado mediante simulaciones de casos de negocio y comparado con sistemas KM convencionales como Naive Bayes (NB), Support Vector Machine (SVM), Random Forest (RF), TF-IDF, LDA, BERT only y BERT con KG, con una división del conjunto de datos de 70:15:15 y un nivel fijo de 42 para evaluar mejoras de rendimiento en la precisión de la recuperación, la latencia de la decisión y la utilidad del conocimiento.

Figura 1. Arquitectura general del sistema del flujo de trabajo KM basado en BERT-GNN. Arquitectura general del sistema AI–BDA–GNN que muestra la ingesta de datos multifuente, preprocesamiento, BERT ajustado para extracción semántica, población KG, alineamiento/razonamiento de ontologías basadas en GNN y la capa de toma de decisiones. Las flechas indican el flujo de datos y bucles de retroalimentación opcionales para el aprendizaje online. Por favor, haz clic aquí para ver una versión ampliada de esta figura.

Adquisición de datos

El conjunto de datos utilizado en este estudio se recopiló de múltiples fuentes para apoyar la representatividad y la validez externa. La recopilación de datos primarios mediante encuestas estructuradas y entrevistas semiestructuradas con profesionales de los sectores de TI, manufactura, sanidad y educación incluyó miembros certificados de la Cámara de Auditores Financieros de Rumanía. Los datos secundarios incluían documentos internos empresariales anonimizados, informes anuales y estudios de caso de transformación digital disponibles públicamente. La recogida de datos se realizó dentro de un periodo de estudio bien definido, y todos los registros se anonimizaron por motivos de autorización ética institucional para proteger la confidencialidad y garantizar el cumplimiento.

Criterios de selección de participación: Para garantizar el rigor metodológico y la representatividade, los participantes fueron seleccionados en base a criterios bien definidos de inclusión y exclusión. Además de participar activamente en la transformación digital, la gestión de la información, la inteligencia artificial, el análisis de big data o iniciativas de sistemas de información empresariales, los participantes elegibles debían contar con al menos tres años de experiencia profesional en TI, manufactura, sanidad, educación, contabilidad o entornos empresariales relacionados. Era necesario que los profesionales certificados tuvieran estatus activo de certificación durante el periodo de recopilación de datos (por ejemplo, miembros de la Cámara de Auditores Financieros de Rumanía). Para comprender con precisión los materiales de la encuesta y la entrevista y dar permiso informado conforme al protocolo autorizado del IRB, también se requería que los participantes demostraran dominio del rumano o del inglés. Se excluyeron aquellos con menos de tres años de experiencia relevante, estatus profesional inactivo (si procede), sin participación directa en procesos de conocimiento o toma de decisiones a nivel empresarial, respuestas incompletas a encuestas (más del 20% de datos faltantes) o comprobaciones de calidad de datos fallidas. Además, no se incluyeron en el análisis las transcripciones de entrevistas que no eran suficientemente detalladas o pertinentes para las técnicas de KM. Estos estándares garantizaban una muestra de participante competente, representativa del sector y analíticamente sólida.

Los miembros certificados de la Cámara de Auditores Financieros de Rumanía (CAFR) eran una población objetivo clave para la recopilación de datos. Se desarrolló una encuesta en línea que se distribuyó a través de los canales internos de comunicación de CAFR para apoyar una distribución dirigida y altas tasas de respuesta. Para formar una muestra representativa, se revisaron las historias del CAFR y se seleccionaron 250 participantes registrados en función de características relevantes para el estudio.

Estructura de los instrumentos de encuesta: El estudio utilizó un cuestionario estructurado con 24 ítems distribuidos en cinco dominios de constructos: agilidad organizativa y eficiencia operativa (5 ítems), apoyo estratégico a la decisión y capacidad de innovación (5 ítems), impacto del análisis de Big Data en el intercambio de conocimiento (5 ítems), adopción de IA en KM (5 ítems) y efectividad y usabilidad del sistema percibidas por el usuario (4 ítems). Se utilizó una escala de Likert de 5 puntos, con 1 que denotaba "totalmente en desacuerdo" y 5 que denotaba "totalmente de acuerdo", para calificar cada ítem. La herramienta fue contextualizada para la implementación de IA empresarial y modificada a partir de escalas de KM y transformación digital previamente validadas. Tres académicos y dos expertos en negocios realizaron una revisión experta para confirmar la validez del contenido. Para mejorar el lenguaje, medir la claridad y medir la fiabilidad, se llevó a cabo una investigación piloto con 20 profesionales; todos los componentes tenían valores alfa de Cronbach superiores a 0,80, mostrando una fuerte consistencia interna. También se realizaron entrevistas semiestructuradas para complementar los resultados de la encuesta. La guía de entrevistas abordó cinco áreas temáticas: experiencia con transformación digital, dificultades con el flujo de conocimiento empresarial, integración de IA y Big Data en la toma de decisiones, obstáculos para la alineación semántica y cuestiones de gobernanza ética. Cada entrevista se realizó con consentimiento informado, duró aproximadamente entre 45 y 60 minutos, se grabó en audio y luego se transcribió para su análisis cualitativo.

Para evaluar el rendimiento del marco BERT-GNN sugerido para la gestión de la tecnología en organizaciones que se transforman digitalmente, se preparó un conjunto de datos grande y diverso a partir de diferentes fuentes y sectores distintos. El conjunto de datos abarca aspectos tanto cuantitativos como cualitativos para representar las percepciones dinámicas sobre el flujo de conocimiento y el cambio organizacional. Se recopilaron datos estructurados de más de 250 profesionales a través de un cuestionario en línea que consistía en ítems a escala Likert (rango 1–5) para medir los efectos percibidos de la Inteligencia Artificial (IA) y el análisis de Big Data (BDA) en el intercambio de conocimientos, la innovación y la agilidad empresarial. Simultáneamente, se recopilaron datos no estructurados mediante entrevistas semiestructuradas con 30 expertos del sector, proporcionando más de 120.000 palabras de transcripción. Se recopilaron materiales semiestructurados adicionales, incluyendo informes anuales de empresas y documentos estratégicos digitales (más de 50 documentos), para situar en contexto los patrones de adopción a escala empresarial. Además, se añadieron 15 estudios de caso detallados de los sectores de TI, manufactura, sanidad y educación para ofrecer contextos prácticos de transformación. Documentos internos de la base de conocimiento (alrededor de 200 MB), anonimizados por razones de privacidad, también se incluyeron para mejorar la representación de los activos de conocimiento operativo. Este conjunto de datos multifuente permite una sólida cadena de entrenamiento y evaluación para modelos de aprendizaje profundo y captura tanto los aspectos estratégicos como operativos de la KM. La Tabla 1 muestra la muestra poblacional utilizada para la evaluación.

Componente	Tipo	Fuente	Tamaño/Volumen
Respuestas a encuestas profesionales	Estructurado	Encuestas online de 250+ profesionales	~10.000 discos
Transcripciones de entrevistas	No estructurado	Entrevistas semiestructuradas con 30 expertos	~120.000 palabras
Informes de la empresa	Semiestructurado	Informes anuales y documentos de estrategia digital	50+ documentos
Estudios de caso	Mixta	Casos de uso específicos de la transformación digital para sectores	15 casos detallados
Contenido de la Base de Conocimiento	No estructurado	Documentos internos de organizaciones (anonimizados)	~200 MB

Preprocesamiento de datos y ajuste fino de BERT

Los datos en bruto de los documentos empresariales se accedían a partir de listas seleccionadas y preprocesados mediante segmentación de oraciones, tokenización, eliminación de palabras de parada y normalización para cumplir con los requisitos del tokenizador. El modelo preentrenado se modificó posteriormente para afinar el modelo para una tarea concreta, y se ajustó para realizar una tarea de reconocimiento de entidades nombradas (NER) y extracción de relaciones (RE). El modelo ha sido ajustado con los datos de corpus preprocesados para un recuento de épocas concretas con el optimizador Adam. Finalmente, se produjeron incrustaciones contextualizadas de palabras (R⁷⁶⁸) a partir de entidades identificadas y sus relaciones. Las entidades normalizadas se generaban mediante una técnica de normalización basada en ontologías, en la que diferentes entidades, como sinónimos, se convertían en forma normalizada. Cada entidad normalizada distinta era un nodo, mientras que la relación entre entidades se llamaba arista en la representación del grafo de conocimiento. Las incrustaciones de entidades normalizadas generadas por el modelo formaron las características iniciales del nodo de la Red Neuronal de Grafos. En el siguiente paso, se entrenó la Red Neuronal de Grafos con el método de predicción supervisada de enlaces con muestreo negativo obtenido mediante corrupción de aristas. En el entrenamiento, hay una pérdida de entropía cruzada a lo largo de varias épocas. El marco entrenado se evaluó utilizando la Precisión de Recuperación de Conocimiento, la Latencia en la Toma de Decisiones y la Tasa de Satisfacción del Usuario como métricas de evaluación.

Se utilizó un enfoque híbrido de anotación para crear etiquetas de entrenamiento para RE y NER. Dos expertos independientes en la materia anotaron manualmente un corpus específico de dominio de documentos empresariales, como informes internos, registros de interacción con clientes y documentos de políticas, utilizando un esquema de ontología predeterminado que identificaba categorías de entidades (como Organización, Proceso, Tecnología, Rol, KPI) y tipos de relaciones (como soportes, depends_on y mejoras). Para garantizar la uniformidad en la dirección de relación y la detección de fronteras de entidades, se crearon directrices de anotación completas. El 20% del conjunto de datos fue anotado doblemente para evaluar la fiabilidad. El Kappa de Cohen se utilizó para probar la concordancia entre anotadores, y los resultados mostraron una fuerte concordancia (κ = 0,87 para el etiquetado de entidades y κ = 0,82 para la extracción de relaciones). Posteriormente, se utilizó una supervisión débil para ampliar el conjunto de datos anotado manualmente mediante la correspondencia de patrones basada en reglas y con limitaciones de ontología, con filtrado basado en confianza para reducir el ruido. Para garantizar la completa reproducibilidad, se registraron todos los procedimientos de anotación, definiciones de ontologías, divisiones de conjuntos de datos y semillas aleatorias.

Se midió la eficiencia en la precisión a nivel de documento, se estimó la latencia en función del tiempo de respuesta de la consulta de extremo a extremo y los usuarios quedaron satisfechos utilizando los cuestionarios de la escala Likert. Al final de cada etapa, se establecieron los puntos de control del protocolo de seguimiento. (i) punto de control de salida BERT - entidades muestrales y triples de relación extraídos; (ii) muestra de punto de control KG de subgrafo construido con etiquetas de ontología; (iii) Punto de control GNN - ejemplo de predicción de ontologías y enlace inferido; y (iv) punto de control de recuperación - muestra de elementos de conocimiento recuperados con etiquetas de relevancia.

El protocolo propuesto tiene la siguiente estructura: pipeline determinista de varias etapas con salidas intermedias bien definidas, que permite una reproducibilidad total. Paso 1, Tras la ingestión y preprocesamiento de datos empresariales estructurados, semiestructurados y no estructurados, se generarán corpora de texto limpios y matrices numéricas de características normalizadas. Paso 2: Se realizará la aplicación de modelos BERT ajustados para la extracción de conocimiento, proporcionando resultados explícitos en forma de entidades nombradas, como Departamento, Proceso, Documento y KPI; (ii) relaciones semánticas entre entidades, representadas como tripletes sujeto-predicado-objeto. En el Paso 3, estos triples se transforman en un grafo de conocimiento inicial, en el que los nodos son entidades y las relaciones son aristas tipadas, alineadas con un esquema ontológico predefinido. En el Paso 4, la aplicación de redes neuronales de grafos a este grafo para alineación y razonamiento de ontologías generaría mejoras incrustaciones de nodos, inferiría relaciones y alinearía etiquetas ontológicas. El Paso 5 proporciona el grafo de conocimiento finalizado y los resultados del razonamiento que alimentarán la recuperación semántica, el apoyo a la decisión y la evaluación del rendimiento.

Todos los artefactos intermedios, incluyendo listas de entidades, triples de relación, grafos alineados con ontologías y enlaces inferidos, se generan explícitamente en cada etapa de este protocolo, permitiendo la replicación independiente de la investigación sin necesidad de recordatorios.

El conjunto de datos se divide en el conjunto de entrenamiento, el conjunto de validación y el conjunto de pruebas según una proporción fija de 70:15:15 para garantizar la reproducibilidad de los resultados del experimento. La tokenización, el minúsculo, la eliminación de palabras de parada y el acortamiento de secuencias a 512 tokens se hacen para BERT en cuanto a preparación de texto. Por otro lado, la normalización Z-Score se utiliza para normalizar características estructurales. Además, el modelo BERT se ajusta con precisión utilizando la biblioteca del framework de aprendizaje profundo con el optimizador Adam, donde la tasa de aprendizaje es 2e-5, el tamaño del lote es 16 y el número de épocas es 5. Las entidades y relaciones extraídas predichas se guardan en un formato estándar para la construcción del grafo de conocimiento. Además, la incrustación de nodos en grafo de conocimiento (R⁷⁶⁸) se utiliza como entrada para el GNN para alineación y razonamiento de ontologías.

Interfaz BERT-GNN y flujo de datos

Dentro del marco propuesto, el codificador transformador está ajustado para realizar dos tareas de PLN: la tarea NER y la tarea RE en un corpus de texto empresarial. Finalmente, las salidas del modelo incluyen incrustaciones contextualizadas de tokens (R⁷⁶⁸), etiquetas de clasificación de entidades y tripletes relacionales sujeto-predicado-objeto. Las entidades normalizadas se utilizan construyendo una ontología empresarial predefinida, donde las variaciones textuales y los sinónimos de la entidad se asignan a un identificador de entidad. A cada entidad normalizada única se le asigna un nuevo nodo de entidad dentro del grafo de conocimiento construido. Dependiendo del tamaño del corpus industrial, el grafo de conocimiento generado en los escenarios empresariales evaluados tiene entre 18.000 y 25.000 nodos de entidad y entre 42.000 y 60.000 aristas relacionales tipadas. Persona, Departamento, Proceso, Producto, Organización y Documento son solo algunos de los tipos de nodos que se encuentran en el grafo. Otros tipos de bordes incluyen works_for, manages, belongs_to, produces, approved_by y related_to. A cada nodo se le asigna un identificador distinto basado en ontologías derivadas de una ontología empresarial predeterminada. Como resultado, el grafo heterogéneo resultante tiene aristas tipadas que representan relaciones normalizadas y nodos tipados con propiedades de incrustación semántica. Después de eso, el GNN obtiene estas incrustaciones de nodos para razonamiento relacional y alineamiento de ontologías. De forma crucial, el GNN funciona sobre el grafo generado sin propagar gradientes hacia el codificador BERT, garantizando el entrenamiento modular y manteniendo la separación de los componentes de razonamiento del grafo y extracción semántica.

BERT se utilizó en este estudio para modelado contextual del lenguaje y extracción semántica de características. El modelo puede aprender a predecir eficientemente las etiquetas de categoría correctas para entradas de texto novedosas cuando se ajusta con datos etiquetados adaptados a un objetivo de clasificación específico. Dado que BERT es bidireccional, considera tanto el contexto anterior como el posterior de cada palabra, permitiendo una comprensión más completa de las relaciones dentro del texto. El codificador del modelo base BERT consta de 12 bloques transformadores, cada uno con 12 cabezas de autoatención y un tamaño oculto de 768. Antes de su procesamiento, el texto de entrada se divide en tokens según el enfoque de tokenización seleccionado, que pueden representar palabras o subpalabras. La representación de secuencia derivada usando BERT se describe en el Archivo Suplementario 1. Los parámetros del modelo se optimizan minimizando la probabilidad logarítmica de la etiqueta correcta (Figura 2).

Figura 2. Proceso de trabajo detallado del modelo BERT utilizado para extraer características semánticas. Muestra las dimensiones de entrada/salida y el papel de las incrustaciones contextuales en la población KG. Por favor, haz clic aquí para ver una versión ampliada de esta figura.

Construcción de grafos de conocimiento usando GNN

El esquema del Grafo de Conocimiento está predefinido antes de construir el grafo. Proporciona coherencia semántica. La ontología está predefinida en relación con un número finito de tipos tanto para entidades como para tipos de relación, junto con restricciones de rango de dominio, que son útiles para el razonamiento. El esquema es aplicable para poblar el grafo a partir de los triples recogidos del modelo BERT, así como para el mensaje consciente de la relación que pasa por el GNN.

Dentro de este marco, el Grafo de Conocimiento (KG) sirve como una representación estructurada del conocimiento empresarial, modelando entidades (por ejemplo, departamentos, documentos, procesos) y relaciones semánticas entre ellas. Las derivaciones matemáticas de KG se añaden en el archivo suplementario 1. Esta integración de la construcción KG y el razonamiento basado en GNN permite la alineación de ontologías, la inferencia de relaciones y una recuperación semántica mejorada dentro del marco empresarial de KM.

El Grafo de Conocimiento (KG) se representa como un grafo heterogéneo G, mientras que su estructura se expresa mediante su ontología O. KG puede verse alternativamente como un conjunto de hechos que se expresan mediante afirmaciones de razonamiento predicativo. Estos fundamentos tienen las siguientes^{descripciones 34}. El grafo G es variable, con V representando el conjunto de objetos o nodos (ambos pueden usarse indistintamente) y representando el conjunto de relaciones. Un triplete () también puede usarse para caracterizar respectivamente un par de objetos v₁ y su asociación . La derivación matemática de la construcción KG usando GNN se describe en el Archivo Suplementario 1.

Alineamiento y razonamiento de ontologías basados en BERT-GNN

El algoritmo 1 muestra el alineamiento y razonamiento de ontologías basados en GNN. El proceso comienza inicializando las capacidades de los nodos utilizando incrustaciones preextraídas junto con aquellas generadas mediante una versión BERT ajustada de alta calidad, que capta el significado semántico de cada entidad a partir de texto no estructurado. El grafo de conocimiento, compuesto por nodos (entidades) y aristas (relaciones), se representa mediante el uso de una matriz de adyacencia (A) y una matriz de características (X).

El conjunto de reglas avanza a través de más de una capa GNN. En cada capa, la representación de un nodo se actualiza mediante la agregación de datos de sus nodos vecinos, ponderada por su conectividad (es decir, usando la matriz de adyacencia). Esto se formula matemáticamente mediante un método de paso de mensajes donde las incrustaciones de nodos se expanden mediante matrices de pesos entreenables y se transmiten mediante una característica de activación no lineal que incluye ReLU. Un paso de normalización (por ejemplo, normalización de capas o el uso de matrices de diploma como en la ecuación GCN) garantiza un conocimiento estable de adquisición a lo largo de las capas.

Tras repetir este proceso para un rango predefinido de capas T, el modelo produce un conjunto final de incrustaciones de nodos Z, que codifican cada vecindario y su forma y capacidades semánticas. Estas incrustaciones se superan mediante una capa suave de clasificación máxima para predecir etiquetas ontológicas alineadas, incluyendo ordenaciones de entidades (por ejemplo, "Departamento", "Producto", "Proyecto") o roles semánticos dentro de la corporación.

Algoritmo 1: Alineamiento y razonamiento de ontologías basados en GNN en BERT

El proceso de alineación y razonamiento basado en la ontología GNN operaba sobre el Grafo de Conocimiento construido, que consistía en entidades representadas como nodos y sus relaciones representadas como aristas. Las representaciones iniciales de nodos se derivaron de incrustaciones semánticas basadas en BERT y se organizaron en una matriz de características. La matriz de adyacencia representaba la estructura de conectividad del grafo, y se aplicó un número predefinido de capas GNN para refinar las representaciones de nodos. Para cada capa, el modelo actualizaba cada nodo agregando información de sus nodos vecinos basándose en la estructura del grafo. Esta agregación en Eqn (1) consiste en multiplicar representaciones de nodos vecinos por matrices de pesos entrenóbles, añadir un término de sesgo y aplicar una función de activación no lineal.

(1)

Tras cada actualización de capa, se aplicó la normalización para estabilizar el entrenamiento y asegurar escalas de incrustación consistentes. Una vez procesadas todas las capas, se obtuvieron las incrustaciones finales de los nodos. Estas incrustaciones pasaban luego a través de una capa de clasificación con una función softmax para predecir etiquetas de ontologías o clases de entidades alineadas. El procedimiento producía las incrustaciones finales refinadas de nodos y las etiquetas alineadas con ontologías predichas como salidas.

El método propuesto permite la alineación semántica de entidades de múltiples fuentes y soporta el razonamiento sobre el grafo de conocimiento inferiendo nuevas relaciones y clasificando nodos previamente no etiquetados.

Figura 3. Alineamiento de ontologías y razonamiento semántico usando GNN. Ilustra los pasos de paso de mensajes vecinales e incrustación de actualizaciones. Por favor, haz clic aquí para ver una versión ampliada de esta figura.

Las características agregadas se transforman usando matrices de pesos específicas de la relación y una función de activación no lineal (por ejemplo, ReLU), generando incrustaciones de nodos actualizadas que integran características semánticas derivadas de BERT con información estructural del grafo. Estas incrustaciones se pasan luego a una capa de clasificación softmax para predecir etiquetas de entidades o clases de ontologías alineadas. Este proceso establecido hace que el GNN sea enormemente eficaz para razonar sobre grafos tecnológicos, ayudando a tareas como la desambiguación de entidades, la inferencia de corte y el tipo semántico, contribuyendo finalmente a estructuras de control estadísticas más inteligentes impulsadas por IA (Tabla 2).

Componente	Descripción
Marco/Kits de herramientas	Python 3.9, PyTorch 2.0.1, Transformadores de Caras Abrazadas 4.34, DGL 1.1 (Biblioteca de grafos profundos)
Hardware	GPU NVIDIA Tesla V100 (16GB), 128GB de RAM, Ubuntu 20.04
Pipeline de preprocesamiento	Tokenización (Word Piece para BERT), eliminación de palabra de parada, reconocimiento de entidades (SpaCy), normalización de puntuación z para características numéricas
Fuentes del conjunto de datos	Encuesta profesional (250+ respuestas), transcripciones de entrevistas (~120.000 palabras), informes de empresas (50+), estudios de caso (15), documentos internos (200MB)
División de datos	70% entrenamiento, 15% validación, 15% pruebas
Modelo codificador de texto	Base BERT (sin funda), 12 capas, tamaño oculto 768, 12 cabezas de atención
Ajuste fino de BERT	4 épocas, tamaño del lote = 32, tasa de aprendizaje = 2e-5, optimizador Adam, longitud máxima de secuencia = 512
Construcción de grafos	Extracción de conocimiento basada en tripletes (sujeto, predicado, objeto)
Tipo de grafo	Grafo heterogéneo con aristas multi-relacionales (entidades de la salida BERT)
Arquitectura GNN	Red Neuronal de Grafos Heterogéneos de 2 capas (modelo de paso de mensajes)
Hiperparámetros GNN	Dimensión oculta = 128, Activación = ReLU, Optimizador = Adam, Tasa de aprendizaje = 0,001
Tipo decodificador	Dist. Mult con puntuación por producto escalar para la predicción de enlaces
Función de pérdida	Entropía cruzada binaria para clasificación de tripletes

Finalmente, el protocolo concluye con la generación de los siguientes resultados: un grafo de conocimiento empresarial alineado con la ontología, modelos BERT y GNN, resultados de recuperación y razonamiento de información, y los informes del KRP, OAA, DML y USR. Estos proporcionan la salida final en forma reproducible. Para muestreo negativo durante el entrenamiento GNN, los tripletes válidos se corrompen mediante reemplazo de entidades según las restricciones de tipo definidas por la ontología. Los alineamientos resultantes de ontologías son validados para garantizar su consistencia y revisados manualmente por expertos del dominio para asegurar la coherencia semántica entre las entidades extraídas y las clases de ontología canónicas.

Criterios de evaluación

La latencia de toma de decisiones es la medida del tiempo total que tarda el sistema en proporcionar una respuesta accionable después de que se haya enviado la consulta del usuario. Sea i la consulta del usuario, el momento en que se envía la consulta, el momento en que el sistema proporciona la salida final de la decisión. La Latencia de Toma de Decisiones (DML) se da por:

(2)

donde es el número total de consultas evaluadas. Esta métrica mide el tiempo de respuesta total del marco propuesto, desde la recuperación del conocimiento hasta la generación de respuestas. Un valor menor para esta métrica es ideal, ya que muestra un tiempo de respuesta del sistema más rápido, lo cual es crucial para aplicaciones empresariales sensibles al tiempo.

La Relación de Cobertura de Conocimiento es la relación entre la capacidad del sistema de recuperar todos los elementos de conocimiento relevantes disponibles para una consulta determinada. Sea el conjunto de todos los elementos de conocimiento relevantes para la consulta q, es el conjunto de elementos de conocimiento realmente recuperados por el sistema. La Relación de Cobertura de Conocimiento (KCR) se define como:

(3)

Esta fórmula calcula la completitud de los elementos de conocimiento que se recuperan. Es equivalente a la medida de recuerdo utilizada en los sistemas tradicionales de recuperación de información.

Results

Preprocesamiento de datos y ajuste fino de BERT

El dispositivo propuesto integra una versión BERT mejor ajustada para la extracción de comprensión no estructurada y una Red Neuronal de Grafos (GNN) para alineación y razonamiento de ontologías dentro de un marco de grafos comprensivos. La configuración experimental consistía en comparar el rendimiento general del aspecto BERT en tareas NER y RE, mientras que el factor GNN se analizaba en la pre...

Discussion

Este estudio presenta un marco unificado de gestión de la inteligencia empresarial que integra la extracción semántica contextual usando BERT con razonamiento relacional basado en grafos y alineación de ontologías mediante GNNs. Para permitir la vinculación de entidades, el razonamiento entre documentos y la representación coherente del conocimiento entre diversas fuentes de datos empresariales, la principal contribución es la integración del modelado contextual profundo del lenguaje con...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Modelo preentrenado BERT-Base (sin cartuja)	Google AI	N/A	Modelo de lenguaje preentrenado basado en transformadores (variante sin carcasa en base bert)
Biblioteca de Grafos Profundos (DGL)	AWS Labs	RRID: SCR_017054	Versión 2.1 utilizada para el modelado de redes neuronales de grafos
Biblioteca de Visualización Matplotlib	Comunidad PyData	RRID: SCR_008624	Utilizado para gráficos de rendimiento y análisis visual
Biblioteca de grafos NetworkX	Comunidad PyPI	RRID: SCR_005317	Versión 3.2 utilizada para la construcción y análisis de grafos
Biblioteca de Computación Numérica NumPy	Comunidad PyData	RRID: SCR_008633	Utilizado para operaciones numéricas y procesamiento de matrices
GPU NVIDIA (Tesla T4 / RTX 3080)	NVIDIA Corporation	RRID: SCR_016409	Acelerador de hardware habilitado con CUDA para entrenamiento de modelos
Biblioteca de Análisis de Datos Pandas	Comunidad PyData	RRID: SCR_018214	Utilizado para manipulación de datos estructurados
Lenguaje de programación Python	Fundación de Software Python	RRID: SCR_008394	Versión 3.10 utilizada para el desarrollo de modelos y el procesamiento de datos
Marco de Aprendizaje Profundo PyTorch	Meta IA	RRID: SCR_018536	Versión 2.0 utilizada para la implementación de redes neuronales
Biblioteca de Aprendizaje Automático Scikit-Learn	Desarrolladores de Scikit-learn	RRID: SCR_002577	Versión 1.5 utilizada para preprocesamiento y métricas de evaluación
Biblioteca de PLN de Transformers	Cara de abrazo	RRID: SCR_020989	Versión 4.40 usada para modelos de transformadores preentrenados
Sistema operativo Ubuntu Linux	Canonical Ltd.	RRID: SCR_018317	Entorno de ejecución LTS versión 20.04