Uma abordagem inovadora usando transformador de visão com IA para análise de tomografia computadorizada para detecção de câncer de pulmão

Resumo

O uso dos Transformadores de Visão neste estudo permite que o câncer de pulmão seja classificado a partir de imagens de tomografia computadorizada, alcançando uma precisão de 98,18% em 1.190 exames. O modelo manteve um nível satisfatório de robustez, com níveis de precisão entre (80–88%) em imagens ruidosas e borradas, em comparação com modelos padrão de redes neurais convolucionais (CNN), em aplicações de diagnóstico de saúde para consumidores.

Resumo

O diagnóstico do câncer de pulmão continua sendo desafiador devido às sutis diferenças entre doenças benignas e malignas nos estudos de imagem. Embora as redes neurais convolucionais tradicionais (CNNs) tenham sido a base da análise de imagem médica, elas ainda têm aplicabilidade e robustez limitadas com variações de métodos de imagem. O avanço do aprendizado de máquina está transformando métodos tradicionais de diagnóstico em tecnologias de saúde voltadas para o consumidor, mudando processos de acessibilidade e atendimento personalizado ao paciente. Este artigo descreve o uso dos Transformadores de Visão (ViTs) para a tarefa de classificação do câncer de pulmão com tomografias computadorizadas, associadas a aplicações de saúde para consumidores. O modelo Vision Transformer foi treinado com um conjunto completo de 1.190 imagens CT e alcançou uma taxa de classificação de 98,18% com um Coeficiente de Correlação Matthews de 0,9676. Além disso, o desempenho do modelo foi validado em cenários simulados em tempo real usando ruídos em tempo real e conjuntos de dados borrados. Embora preserve métodos de validação com forte precisão diagnóstica, em todo o conjunto de dados o modelo ViT também superou o método convencional validado, apresentando uma precisão entre 80-88% para diferenciar entre imagens ruidosas e difusas, mesmo nessas circunstâncias. Embora os resultados iniciais forneçam informações promissoras sobre a robustez dos ViTs ao lidar com variação de imagem, ainda assim deve ser adotada uma abordagem cautelosa na contextualização dos resultados, já que os estudos de avaliação foram concluídos dentro de um conjunto de dados e configurações de simulação relativamente pequenos. Será valioso para futuros estudos de pesquisa usar conjuntos de dados maiores, mais representativos de condições clínicas reais, e conjuntos de dados clinicamente validados para determinar se os ViTs são vantajosos para a identificação clínica do diagnóstico oncológico e para melhorar a detecção precoce.

Introdução

O câncer de pulmão tem um peso global considerável, afetando milhões de vidas todos os anos. Devido à natureza agressiva do câncer e ao estado frequente de apresentação tardia da doença, a mortalidade associada ao câncer de pulmão é alta. A detecção precoce é essencial porque a intervenção pode melhorar muito a eficácia do tratamento e as taxas^{de sobrevivência 1}. A abordagem convencional para triagem preliminar e diagnóstico permanece com a utilização de tomografia computadorizada (TC) para permitir uma visualização mais detalhada das estruturas pulmonares. No entanto, a avaliação das imagens da tomografia é complexa e depende inteiramente dos revisores como radiologistas. A variabilidade tumoral em atributos como tamanho, formato e densidade também atenua a confiabilidade de qualquer observação humana. Fatores ambientais podem desafiar a precisão e a reprodutibilidade da tomada de decisão com base na análise humana.
Com esses fatores limitantes em mente, a literatura recente tem feito um forte esforço pela aplicação da inteligência artificial (IA) à imagem médica, com maior foco em modelos de aprendizado profundo (DL). DL, especialmente com Redes Neurais Convolucionais (CNNs), interromperam o padrão de observações em imagens médicas ao alterar as análises das^{imagens 2}. As CNNs aprimoraram significativamente os processos diagnósticos em oncologia, demonstrando a capacidade de identificar características sutis e complexas em dados de imagem que muitas vezes são indistinguíveis ao olho humano. Apesar desses avanços, as CNNs enfrentam limitações como o sobreajuste em pequenos conjuntos de dados, redução da robustez sob condições variáveis de aquisição e dependência de campos receptivos locais que podem não atender dependências globais. Embora abordagens híbridas CNN-Transformer tentem combinar priors convolucionais com mecanismos de atenção, ainda herdam vieses das arquiteturas convolucionais. A Figura 1 mostra algumas instâncias do conjunto de dados que apresentam diferentes classes.

Figura 1: Ilustração visual de diferentes classes mostrando fatias representativas de tomografia computadorizada de pulmões normais, benignos e malignos, destacando suas semelhanças e diferenças. Por favor, clique aqui para ver uma versão ampliada desta figura.

Imagens representativas de tomografia computadorizada são apresentadas para casos normais, benignos e malignos. Embora a marcação explícita de regiões discriminativas ajudasse na interpretação visual, a anotação manual exige radiologistas especialistas e estava além do escopo deste estudo.

Transformadores de Visão (ViTs), originalmente introduzidos para classificação de imagem^{natural 3}, apresentam uma alternativa promissora. Ao contrário das CNNs ou híbridos CNN-Transformer, os ViTs empregam uma estrutura totalmente orientada à atenção que captura informações contextuais globais em toda a imagem. Este estudo é especialmente relevante para a imagem por tomografia computadorizada, onde o caráter difuso e irregular dos atributos tumorais pode se estender por regiões, em vez de se limitar apenas aos campos receptivos locais. Enquanto as redes híbridas CNN-Transformer estabilizam o viés indutivo convolucional, os Transformadores de Visão (ViTs) implementam uma arquitetura totalmente baseada em atenção, permitindo que o modelo ViT capture dependências de longo alcance em imagens inteiras de tomografia computorizada – um benefício ao avaliar atributos tumorais pulmonares difusos ou irregulares.

O surgimento de modelos baseados em transformadores no campo da imagem médica é recente, com alguns exemplos em radiologia suave e histopatologia,4,5,6 que apresentaram vantagens notáveis em robustez a ruído, borrão e variabilidade entre scanners em comparação com os sistemas tradicionais de CNN, ao apoiar uma justificativa para o ViT nesse contexto clínico sem exagerar a novidade. Dada uma abordagem mais rigorosa para a imagem do câncer de pulmão em comparação com aplicações de saúde para consumidores, este estudo busca justificar a praticidade em uma área robusta da medicina baseada em evidências, ao mesmo tempo em que se posiciona entre a literatura não totalmente avassaladora recentemente disponível sobre transformers e suas aplicações. A literatura anterior demonstrou que as precisões das modalidades diagnósticas CNN caem drasticamente devido à variabilidade de aquisição⁷, onde o ViT correspondente se sai melhor com as mesmas perturbações,8 o que dá credibilidade ao conceito de usar um ViT em modalidades de avaliação e apresentar uma opção para aumentar a reprodutibilidade nos fluxos de trabalho diagnósticos. Além disso, questões práticas, como tamanho exigido do conjunto de dados, carga computacional e generalização para diferentes ambientes clínicos, são claramente abordadas no estudo, utilizando métodos como aumento de dados, aprendizado por transferência e variantes eficientes de^{ViT 9,10} para enfrentar esses potenciais desafios no uso real.

Este estudo se baseia nesse avanço implementando ViTs para estadiamento do câncer de pulmão usando dados de imagem de TC e examinando a robustez e generalização do modelo na presença de problemas de imagem do mundo real. Os dados de tomografia computorizada têm potencial para incluir artefatos, ruído e borrão em grau comum que podem obscurecer características significativas para os clínicos. Ao examinar a resiliência a essas mudanças na imagem, este estudo busca oferecer uma estrutura adicional de estadiamento que possa ser utilizada na prática ao tomar decisões relacionadas ao cuidado e tratamento.

As contribuições deste estudo envolvem: i) detectar especificamente câncer de pulmão a partir de imagens de tomografia computorizada no conjunto de dados IQ-OTH/NCCD usando e examinando o desempenho de um modelo Vision Transformer; ii) avaliar o desempenho do modelo em cenários reais de imagem clínica comuns aos dados de TC, como ruído e borrão; iii) comparação de precisão, sensibilidade e especificidade dos ViTs como alternativa aos modelos tradicionais de CNN.

A organização do restante deste artigo é a seguinte: a Seção II passa pela revisão da literatura que apresenta trabalhos anteriores relacionados à detecção de câncer de pulmão usando técnicas de aprendizado profundo e à progressão das CNNs para arquiteturas mais avançadas como as ViTs. A Seção III apresenta a abordagem adotada para este trabalho, que inclui pré-processamento de dados, informações sobre arquitetura de modelos e detalhes dos procedimentos de treinamento. A Seção IV apresenta os achados que abordam especificamente as características prescritivas das ViTs como método clínico e como elas podem aumentar a precisão e confiabilidade dos rastreamentos de câncer de pulmão. A Seção V resume as descobertas e contribuições para a prática e discute direções futuras no contexto do deep learning em um ambiente médico.

TRABALHO RELACIONADO:

O aprendizado profundo (DL) revolucionou a imagem médica nos últimos dez anos, especialmente no diagnóstico de câncer de pulmão. No início, a disciplina dependia de técnicas convencionais de aprendizado de máquina como Máquinas de Vetores de Suporte (SVMs) e árvores de decisão, que eram limitadas pela necessidade de recursos bem construídos e devidamente obtidos. Essas características lidavam mal com as complexidades dos quadros médicos e frequentemente injetavam subjetividade.

Uma mudança significativa foi trazida com a invenção das Redes Neurais Convolucionais (CNNs), que tornaram possível extrair automaticamente características hierárquicas dos dados¹¹. As CNNs têm sido amplamente utilizadas em estadiamento de câncer baseado em tomografia computadorizada, detecção de nódulos e classificação como benignas ou malignas. As CNNs são bem-sucedidas, mas têm limitações. Essas incluem diferenças nas configurações de coleta de imagens e a necessidade de grandes conjuntos de dados anotados, que são difíceis de encontrar devido a questões de privacidade e à natureza trabalhosa da anotação médica. A Tabela 1^{12, 13, 14, 15, 16, 17, 18, 19, 20} fornece o resumo de estudos recentes realizados na área de diagnóstico de câncer de pulmão.

Crasta, Lavina Jean, Rupal Neema e Alwyn Roshan Pais (2024) [20]

Apresentar uma nova estrutura de deep learning para detecção e classificação do câncer de pulmão usando imagens de tomografia computadorizada [20].

O artigo apresenta um 3D-VNet para segmentação e um 3D-ResNet para classificação, mostrando melhorias em precisão e robustez em relação aos métodos anteriores.

Crasta, Lavina Jean, Rupal Neema e Alwyn Roshan Pais (2024) [20]

Apresentar uma nova estrutura de deep learning para detecção e classificação do câncer de pulmão usando imagens de tomografia computadorizada [20].

O artigo apresenta um 3D-VNet para segmentação e um 3D-ResNet para classificação, mostrando melhorias em precisão e robustez em relação aos métodos anteriores.

Tabela 1: Resumo de estudos recentes que descrevem técnicas utilizadas e apresentam desempenho para contexto.

Ao usar processos de autoatenção que consideram todo o contexto da imagem de uma vez, os Transformadores de Visão (ViTs) estão começando a emergir como uma alternativa competitiva às CNNs em tarefas relacionadas à imagem. As ViTs são especialmente promissoras para imagens médicas, pois a importância de algumas regiões pode depender de partes mais distantes da imagem devido à sua capacidade global de processamento. No entanto, apesar de sua capacidade de lidar com tarefas complexas como reconhecer correlações entre diversos indicadores de doenças em exames, as ViTs ainda não são bem estudadas no campo da imagem médica.

As ViTs não foram amplamente exploradas no campo dos dispositivos de saúde centrados no consumidor. Este estudo visa reduzir a lacuna entre alta precisão e menor latência para dispositivos de saúde voltados ao consumidor, onde eles podem ter bom desempenho e fornecer previsões precisas em tempo real.

Protocolo

O conjunto de dados inclui um total de 1.190 fatias de tomografia computorizada de 110 casos, categorizadas em três classes: normais (55 casos), benignas (15 casos) e malignas (40 casos). Cada caso compreende múltiplas fatias de tomografia computorizada (variando de aproximadamente 80 a 200 fatias por caixa), oferecendo diversas vistas axiais da região torácica. As imagens de tomografia computorizada foram obtidas no DICOM usando o scanner SOMATOM com parâmetros padrão de imagem: tensão do tubo = 120 kV, espessura do corte = 1 mm, largura da janela = 350–1.200 Unidades de Hounsfield (HU) e valores centrais da janela = 50–600 HU, durante uma suspensão total de inspiração.

Todas as imagens foram totalmente desidentificadas antes da análise para remover qualquer informação pessoal identificável (PII). O conjunto de dados foi eticamente aprovado pelos conselhos institucionais de revisão dos centros médicos participantes, com consentimento por escrito renunciado pelo conselho de supervisão. Os casos incluíam indivíduos de origens variadas, como funcionários públicos, agricultores e moradores de várias províncias iraquianas (incluindo Bagdá, Wasit, Diyala, Salahuddin e Babilônia) com diversidade em gênero, idade, nível educacional e status de vida.

Como o conjunto de dados está disponível publicamente e foi desidentificado, não foi necessária aprovação ética adicional para seu uso neste estudo. O conjunto de dados segue os termos e condições especificados por seus colaboradores originais e pela plataforma de hospedagem.

A metodologia desta pesquisa utiliza um processo em múltiplas etapas projetado para criar um modelo de predição com a ajuda do conjunto de dados de câncer de^{pulmão IQ-OTH/NCCD 21}. Essa metodologia cria um terreno forte para dispositivos de saúde focados no consumidor, onde é necessária menos latência, o que pode proporcionar maior precisão. A Figura 2 mostra o mecanismo de funcionamento do modelo proposto.

Figura 2: Diagrama de fluxo de trabalho do modelo proposto representando pré-processamento, aumento, classificação do Transformador de Visão e etapas de avaliação. Por favor, clique aqui para ver uma versão maior desta figura.

1. Descrição do conjunto de dados

O conjunto de dados de câncer de pulmão IQ-OTH/NCCD foi coletado no Hospital Universitário de Oncologia do Iraque/Centro Nacional para Doenças Cancerígenas durante o outono de 2019. A parte de treinamento do conjunto de dados utilizado continha 1.097 imagens cuja descrição é dada na Tabela 2, que ilustra a contagem de exemplos de diferentes classes.

Classe	Número de imagens
Normal	416
Benigno	120
Maligno	561

Tabela 2: Amostras de imagens de tomografia computadorizada normais, benignas e malignas do conjunto de dados.

O conjunto de dados de câncer de pulmão IQ-OTH/NCCD foi escolhido por sua representação abrangente das tomografias normais, benignas e malignas. Embora outros conjuntos de dados, como LIDC-IDRI e NSCLC-Radiomics, estejam disponíveis, eles focam principalmente na detecção de nódulos ou carecem de amostras suficientes de casos benignos. O conjunto de dados IQ-OTH/NCCD é particularmente adequado para nosso estudo, pois permite que o Transformador Visual aprenda características discriminativas entre as três classes, possibilitando uma classificação robusta de padrões sutis em imagens de tomografia computorizada pulmonar.

2. Pré-processamento de dados

O pré-processamento é uma etapa importante para melhorar o desempenho do modelo por meio da consistência e dos ajustes apropriados nos dados que serão processados pela rede neural. Para garantir consistência no tamanho de entrada da rede neural, escalamos todas as imagens para a mesma dimensão de 256 x 256 pixels, e normalizamos os dados para um valor em pixel entre 0 e 1, na esperança de melhorar o treinamento e a convergência do modelo. A Tabela 3 contém os valores da técnica de aumento.

Técnica	Valor
Normalização	-
Redimensionamento	image_size x image_size
RandomRotation	fator=0,02
RandomZoom	height_factor=0,2, width_factor=0,2

Tabela 3: Técnicas de aumento aplicadas com intervalos de parâmetros.

Para aumentar a robustez do modelo contra o sobreajuste e melhorar sua capacidade de generalização, técnicas de aumento de dados como rotações aleatórias e zooms são aplicadas, simulando vários ângulos e tamanhos das manifestações do câncer de pulmão conforme podem aparecer em diferentes pacientes. Rotações aleatórias com ângulos amostrados uniformemente a partir de 0,02 radianos e transformações aleatórias de zoom com fatores variados de altura e largura foram aplicadas neste estudo. As imagens após o aumento são exibidas na Figura 3.

Figura 3: Imagens de tomografia após aumento demonstrando rotação, zoom e normalização para melhorar a generalização do modelo. Por favor, clique aqui para ver uma versão ampliada desta figura.

Essas técnicas de pré-processamento são necessárias, e a ampliação tem sido usada em todas as classes para garantir a robustez do modelo.

3. Arquitetura do modelo

Adaptando o inovador framework Vision Transformer (ViT) para lidar eficazmente com dados de imagens complexos, a arquitetura do modelo tem como objetivo categorizar as tomografias em três categorias: normais, benignas e malignas. Com esse método, são processadas imagens de entrada de 256 x 256 pixels. Para garantir consistência e promover um aprendizado de modelos mais eficiente, cada imagem passa por várias operações de pré-processamento, como redimensionamento e normalização. Para melhorar a resiliência do modelo a mudanças na escala e orientação da imagem, o projeto começa com uma camada de aumento de dados que utiliza métodos como normalização, redimensionamento, rotações aleatórias de 0,02 radianos e zooms aleatórios de até 20%. Após a ampliação, o modelo retira 16 x 16 patches de pixel de cada imagem, assim cada imagem tem 256 patches.

O Algoritmo 1 define o fluxo de trabalho do modelo proposto, como ele é construído e o ajuste fino realizado em relação ao modelo.

Algoritmo 1: Classificação do câncer de pulmão usando Transformadores de Visão
Entrada: Conjunto de imagens CT I do conjunto de dados IQ-OTH/NCCD
Resultado: Resultados de classificação C em categorias: Normal, Benigno, Maligno
Pré-processamento:
   for each image i in I do
i <- Resize(i, 256 x 256)         // Normalize and resize images
i <- Normalize(i)
i <- DataAugmentation(i)        // Apply random rotations and zooms
   end for
Configuração do modelo:
  Initialize Vision Transformer (ViT) Model
  Set number of patches P = 16 x 16
  Set number of heads H = 6 in multi-head attention
Formação:
  for epoch = 1 to MaxEpochs do
    for each batch b in I do
      Patches <- ExtractPatches(b, P)
      EncodedPatches <- PatchEncoder(Patches)
      AttentionWeights <- MultiHeadAttention(EncodedPatches, H)
      ClassLogits <- TransformerEncoder(AttentionWeights)
      Loss <- ComputeLoss(ClassLogits, TrueLabels)
      UpdateModelWeights(Loss)
    end for
    if EarlyStoppingCriteriaMet (Val_Loss No Improvement Patience = 5 Epochs) then
      break
    end if
  end for
Validação:
  Split data into TrainingSet (80%) and ValidationSet (20%)
  ComputeValidationMetrics(ValidationSet)
Avaliação:
  C <- Classify(I)
  ComputePerformanceMetrics(C)
  Return C

Para preservar as relações espaciais entre patches, esses patches são achatados (equação 1) em vetores de 768 dimensões (porque cada patch tem 16 x 16 x 3 = 768) e então enviados por uma camada de codificação de patch, que projeta cada vetor para um espaço de 64 dimensões integrando embeddings posicionais. O núcleo da arquitetura é composto por oito camadas transformadoras, cada uma com um mecanismo de atenção multi-cabeças com seis cabeças, permitindo que o modelo foque em diferentes partes da imagem simultaneamente e capture uma ampla gama de características. Ele é representado usando as equações 2, 3 e 4.

Onde μ é a média e σ² é a variância da entrada x, e ε é uma pequena constante para evitar divisão por zero.

Onde Q é a matriz de consulta, K é a matriz chave, V é a matriz de valores e d_k é a dimensão dos vetores chave.

Onde W_i^Q, W_i^K e W_i^V são as matrizes de pesos aprendidas para consultas, chaves e valores, respectivamente, e W^O é a matriz de pesos de saída.

O diagrama em blocos do modelo proposto foi mostrado na Figura 4.

Figura 4: Diagrama em blocos do modelo Vision Transformer com cabeça MLP, detalhando as principais camadas de processamento e arquitetura. Por favor, clique aqui para ver uma versão ampliada desta figura.

Cada camada transformadora inclui uma percepção multi-camada (MLP) com unidades ocultas inicialmente escaladas para 128 e depois para 64, expandindo e comprimindo efetivamente o fluxo de informações para capturar dependências complexas.

O dropout é aplicado estrategicamente a uma taxa de 0,1 nos mecanismos de atenção e MLPs para evitar o sobreajuste. A saída do codificador do transformador é processada por uma cabeça MLP composta por duas camadas densas com 2.048 e 1.024 unidades, respectivamente, empregando Unidades Lineares de Erro Gaussiano (GELU) para ativação, que tem demonstrado bom desempenho em aplicações de aprendizado profundo. Isso é alcançado usando a equação 5.

Onde W₁ e W₂ são matrizes de peso, b₁ e b₂ são vieses, e GELU é a função de ativação utilizada.

Uma queda de 0,1 foi usada nas camadas transformadoras para evitar sobreajuste sem perder informações importantes de características. A função de ativação GELU foi utilizada por suas características suaves e não lineares, que promovem o fluxo de gradiente e a convergência em modelos baseados em transformadores. O abandono é regularizado usando a equação 6.

Onde p é a taxa de desistência (por exemplo, 0,1 ou 0,5), e a camada de desistência define aleatoriamente uma fração p das unidades de entrada a zero durante o treinamento.

Uma taxa de dropout de 0,5 nessas camadas ajuda ainda mais a mitigar o sobreajuste. A camada final do modelo é uma camada logits (equação 7) que gera três logits de classe correspondentes às categorias normal, benigna e maligna, usando uma função de perda de entropia cruzada categórica esparsa (equação 8) apropriada para esse cenário de classificação multiclasse.

Onde z_i é o vetor logits para a classe i, SoftMax(_{z i})) representa as probabilidades previstas, e y_i é o verdadeiro rótulo da classe.

O modelo é compilado com o otimizador AdamW (equações 9, 10, 11, 12 e 13), uma extensão do otimizador Adam que lida com decaimento de peso de forma mais eficaz, definido com uma taxa de aprendizado de 0,001 e decaimento de peso de 0,0001, otimizando tanto a velocidade de aprendizado quanto a estabilidade do modelo.

Onde m_t e v_t são o primeiro e o segundo momento dos gradientes, e são os momentos corrigidos por viés, η é a taxa de aprendizado, e ε é uma pequena constante para evitar divisão por zero.

O modelo, quando treinado, utiliza um lote de 32 para aproveitar a aceleração da GPU e facilitar cálculos mais rápidos e é configurado para treinar por 100 épocas.

Mas o treinamento possui um mecanismo de parada precoce na perda de validação para limitar o treinamento quando o modelo para de melhorar, economizando recursos computacionais e evitando sobretreinamento de 5 épocas consecutivas. O desempenho do modelo é acompanhado com métricas como precisão categórica esparsa e precisão top 2, que informam sobre a capacidade de classificação do modelo nas categorias previstas mais prováveis. Callbacks para treinamento de modelos incluem checkpoints, que salvam o modelo de maior desempenho de acordo com a precisão da validação, garantindo que a versão mais bem-sucedida do modelo seja mantida após o término do processo de treinamento. Essa arquitetura robusta e bem planejada aproveita as capacidades dos transformers para processar dados de imagem médica com uma abordagem altamente avançada para utilizar métodos contemporâneos de IA em grandes aplicações em diagnósticos em saúde.

4. Treinamento e validação

O modelo foi treinado em um ambiente Kaggle usando uma GPU NVIDIA P100, e uma mini-descida de gradiente em lote com tamanho de lote de 32 foi usada durante o processo de treinamento. O otimizador usado durante o treinamento foi o AdamW, com taxa de aprendizado de 0,001 e decaimento de peso de 0,0001; Isso era um bom equilíbrio entre uma convergência rápida e alguma regularização. O modelo foi treinado por 100 épocas, porém, foi utilizado o parar precocemente na perda de validação com paciência de 5 épocas. Simplificando, se o treinamento não melhorasse a perda de validação por 5 épocas contínuas, o treinamento pararia para por sobreajuste e eficiência computacional. Na maioria dos casos, esse modelo restaurava pesos da época com menor perda de validação, indicando que estava funcionando de forma ótima e não precisava rodar as 100 épocas completas. Um total de cerca de 32 minutos para treinar o modelo.

Durante o treinamento, as métricas incluíram precisão categórica esparsa e precisão top-2, monitoradas tanto em conjuntos de treinamento quanto de validação. Essas métricas fornecem insights sobre com que frequência um modelo prevê a classe correta e se a classe correta está entre as duas principais previsões, o que em aplicações médicas é importante porque classificações erradas de alta confiança podem ter consequências significativas. As curvas de aprendizado para perda e precisão são visualizadas na Figura 5.

.

Figura 5: Curvas de precisão e perdas de treinamento e validação ao longo de 50 épocas mostrando aprendizado estável e sobreajuste mínimo. Por favor, clique aqui para ver uma versão maior desta figura.

Nenhuma validação cruzada foi realizada no presente estudo. Essa configuração permitiu experimentação eficiente com a arquitetura do modelo, incluindo ajustes nas camadas dos transformadores e nos tamanhos das cabeças MLP, garantindo que o modelo se generalizasse bem em dados de validação não vistos.

5. Análise estatística

O desempenho do modelo Vision Transformer foi analisado estatisticamente com base no conjunto de dados de câncer de pulmão IQ-OTH/NCCD. Precisão, recordação, pontuação F1 e precisão foram calculadas usando as equações 14, 15, 16 e 17, respectivamente. Essas quatro são consideradas as medidas convencionais para tarefas de classificação, pois podem revelar informações sobre o desempenho do modelo na classificação e classificação por classe para cada classe.

A recordação é uma medida da capacidade de um modelo de identificar todas as instâncias relevantes em uma classe, enquanto a precisão é a proporção de identificações positivas que estavam realmente corretas. A pontuação F1 equilibra recordação e precisão quando ambas são importantes.
As medidas de desempenho usadas para esta tarefa foram a equação 18 do Coeficiente de Correlação de Matthews (MCC) e a equação de Kappa 19 de Cohen.

Onde P₀ é o acordo observado, enquanto P_e é o acordo esperado.

O MCC é uma medida abrangente do desempenho na classificação, levando em conta tanto verdadeiros positivos quanto negativos, falsos positivos e falsos negativos. Seu valor pode estar entre -1 e 1, sendo 1 a previsão perfeita, 0 a previsão aleatória e -1 a total discordância entre os rótulos previsto e verdadeiro. O MCC foi valioso para comparações entre diferentes desempenhos de modelos quando aplicado a conjuntos de dados desequilibrados e fornecendo uma medida equilibrada independentemente dos tamanhos de turma diferentes.

Como parte de uma análise estatística adicional, a pontuação F2, priorizando a recordação, foi calculada conforme mostrado pela equação 20.

O desempenho do modelo também foi quantificado usando Erro Quadrático Médio (MSE), Erro Quadrático Médio Raiz (RMSE) e Erro Absoluto Médio (MAE) - que são tipicamente medições para tarefas de regressão, mas modificadas aqui para a tarefa de classificação para quantificar o quão grande era em média o erro, sem considerar a direção.

Para determinar se seria prático integrar ViTs em dispositivos de saúde voltados para o consumidor, realizamos resultados extensos de avaliação de desempenho focando exclusivamente na eficiência temporal do modelo. Criamos funções para relatar o tempo necessário para prever uma ou simplesmente múltiplas imagens, pois isso se torna particularmente relevante para aplicações em tempo real. Para cada imagem, antes de começar a prever, os dados são primeiro pré-processados para estarem no formato da imagem de entrada desejada pelo modelo. O tempo em que a previsão começou e o tempo em que a previsão foi concluída, nós registrávamos para obter os resultados do tempo e da latência. O tempo e a latência média foram calculados usando as equações 21 e 22, respectivamente.

Onde:

• N é o número de imagens (amostras).
• TEND é o tempo registrado após prever a i-ésima imagem.
• Tstart é o tempo registrado antes de prever a i-ésima imagem.

Experimentos adicionais foram realizados para avaliar a robustez do modelo Vision Transformer que propusemos, introduzindo sistematicamente ruído e desfoque adicionais às imagens. Ruído gaussiano era adicionado a cada pixel com fator de ruído de 0,4 enquanto os valores dos pixels se cortavam na faixa de [0,1]. O fator de desfoque foi diminuído por meio do desfoque Gaussiano com tamanho de grão de 45× 45. Esses experimentos são projetados para avaliar o modelo de forma abrangente sob degradações simuladas da qualidade perceptiva da imagem.

Resultados

O modelo Vision Transformer demonstrou resultados excepcionais em múltiplas métricas de avaliação nos conjuntos de dados de câncer de pulmão IQ-OTH/NCCD, diferenciando efetivamente imagens normais, benignas e malignas de tomografia computorizada. O desempenho geral do modelo atingiu alta precisão de 98,18% em todo o conjunto de dados de teste composto por 220 imagens. Essa precisão extremamente alta indica que o modelo é capaz de generalizar de f...

Discussão

Alcançou resultados notáveis na avaliação e implementação do modelo Vision Transformer no conjunto de dados de câncer de pulmão IQ-OTH/NCCD com alta precisão. A precisão geral de classificar uma tomografia como normal, benigna e maligna é de 98,18% usando esse modelo.

Essa precisão superior é ainda mais comprovada pelo desempenho do modelo em outras pontuações-chave, como 100% de precisão para a detecção de casos malignos, o que é muito impo...

Materiais

Lista de materiais utilizados neste artigo

Nome	Empresa	Número de catálogo	Comentários
GPU A100 (CUDA)	NVIDIA	CUDA Versão 11.6	Aceleração de GPU para treinamento e avaliação de modelos.
AMD EPYC-7502P CPU	AMD	N/A	Processador usado para computação de alto desempenho.
Gigabit Ethernet	Intel	N/A	Networking para comunicação segura entre pares no CPS.
Matplotlib	Fundação de Software Python	Versão 3.5	Biblioteca de visualização para plotar resultados.
Sistema Criptográfico Paillier	Código Aberto (implementado via TenSEAL)	N/A	Permite a criptografia homomórfica aditiva em gradientes.
PySyft	Mineração a Céu aberto	Versão 0.6.0	Privacidade diferencial e biblioteca de aprendizagem federada.
Python (Distribuição Anaconda)	Anaconda Inc	Versão 3.9	Inclui pacotes pré-instalados e ferramentas de gerenciamento de ambiente, usados para script e desenvolvimento de frameworks.
PyTorch	Meta IA	Versão 1.12	Framework de deep learning para treinar modelos.
RAM	Corsair	256 GigaByte (GB)	Alto suporte de memória para treinamento intensivo.
Scikit-learn	Fundação de Software Python	Versão 1.1	Ferramentas de aprendizado de máquina para avaliação de desempenho.
Seaborn	Fundação de Software Python	Versão 0.11	Biblioteca de visualização estatística de dados.
Armazenamento SSD	Seagate	1 TeraByte (TB)	Para armazenamento e recuperação de dados rápidos.
TenSEAL	Mineração a Céu aberto	Versão 0.3	Biblioteca de criptografia homomórfica para agregação segura.
TensorFlow	Google	Versão 2.9	Framework de deep learning para modelos de difusão.
Ubuntu OS	Canônico	Versão 20.04 LTS	Sistema operacional usado em todos os experimentos.