Новый подход с использованием AI-vision Transformer для анализа компьютерной томографии с целью выявления рака лёгких

Краткое содержание

Использование трансформеров зрения в этом исследовании позволяет классифицировать рак лёгких по КТ-снимкам, достигая точности 98,18% при 1 190 сканированиях. Модель сохранила удовлетворительный уровень надёжности с точностью от 80 до 88% при шумных и размытых изображениях по сравнению со стандартными моделями сверточной нейронной сети (CNN) в диагностике потребительского здоровья.

Аннотация

Диагностика рака лёгких остаётся сложной из-за тонких различий между доброкачественным и злокачественным заболеванием на основе визуализации. Хотя традиционные сверточные нейронные сети (CNN) были основой медицинского анализа визуализации, они всё ещё имеют ограниченную применимость и устойчивость к разнообразию методов визуализации. Развитие машинного обучения трансформирует традиционные методы диагностики в ориентированных на потребителей медицинских технологий, меняет процессы доступности и персонализированного ухода за пациентами. В этой статье описывается использование Vision Transformers (ViTs) для задачи классификации рака лёгких с помощью КТ, связанных с медицинскими приложениями потребителей. Модель Vision Transformer была обучена на полном наборе данных из 1 190 КТ-изображений и достигла уровня классификации 98,18% с коэффициентом корреляции Мэттьюса 0,9676. Кроме того, производительность модели верифицировалась на смоделированных сценариях реального времени с использованием шумов в реальном времени и размытых наборов данных. Несмотря на сохранение методов валидации с высокой диагностической точностью, по всему набору данных ViT-модель также превзошла традиционный валидированный метод, показав точность от 80 до 88% для различия между шумными и размытыми изображениями даже в таких условиях. Хотя первоначальные результаты дают обнадёживающую информацию о устойчивости ViT при работе с вариацией изображений, всё же следует проявлять осторожный подход к контекстуализации результатов, поскольку оценки проводились в относительно небольшом наборе данных и симуляционных условиях. Для будущих исследований будет полезно использовать более крупные наборы данных, более репрезентативные для реальных клинических состояний, и клинически валидированные наборы данных, чтобы определить, являются ли ViT полезными для клинической идентификации онкологической диагностики и улучшить раннее выявление.

Введение

Рак лёгких несёт значительную глобальную нагрузку, затрагивая миллионы жизней ежегодно. Из-за агрессивного характера рака и частого позднего заболевания смертность, связанная с раком лёгких, высока. Раннее выявление важно, поскольку такое вмешательство значительно повышает эффективность лечения и показатели^{выживаемости 1}. Традиционный подход к предварительному скринингу и диагностике остаётся использованием компьютерной томографии (КТ) для более детальной визуализации легочных структур. Однако оценка КТ-изображений сложна и полностью зависит от рецензентов как радиологов. Вариабельность опухолей по таким характеристикам, как размер, форма и плотность, также снижает достоверность любых человеческих наблюдений. Факторы окружающей среды могут ставить под сомнение точность и воспроизводимость принятия решений на основе анализа человека.
Учитывая эти ограничивающие факторы, недавняя литература активно продвигает применение искусственного интеллекта (ИИ) в медицинской визуализации, уделяя больше внимания моделям глубокого обучения (DL). DL, особенно с помощью сверточных нейронных сетей (CNN), нарушило схему наблюдений в медицинской визуализации, изменив анализ^{изображений 2}. CNN значительно усовершенствовали диагностические процессы в онкологии, демонстрируя способность выявлять тонкие и сложные признаки в данных визуализации, которые часто неразличимы человеческим глазом. Несмотря на эти достижения, CNN сталкиваются с ограничениями из-за перенастройки небольших наборов данных, сниженной устойчивости при переменных условиях приобретения и зависимостью от локальных рецептивных полей, которые могут упускать глобальные зависимости. Хотя гибридные подходы CNN-Transformer пытаются объединить сверточные априоры с механизмами внимания, они всё же наследуют предвзятости сверточных архитектур. На рисунке 1 показаны несколько экземпляров из набора данных, показывающих разные классы.

Рисунок 1: Визуальная иллюстрация различных классов, показывающая репрезентативные срезы КТ нормальных, доброкачественных и злокачественных лёгких, подчёркивающие их сходства и различия. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой рисунка.

Репрезентативные КТ-изображения показаны для нормальных, доброкачественных и злокачественных случаев. Хотя явная маркировка дискриминационных областей могла бы помочь визуальной интерпретации, ручная аннотация требует опытных радиологов и выходила за рамки данного исследования.

Визуальные трансформеры (ViTs), изначально представленные для классификации естественных^{изображений 3}, представляют собой перспективную альтернативу. В отличие от CNN или гибридов CNN-Transformer, ViT использует полностью ориентированную на внимание фреймворк, которая фиксирует глобальную контекстную информацию на всём изображении. Это исследование особенно актуально для КТ-визуализации, где диффузный и нерегулярный характер характеристик опухоли может распространяться по всем регионам, а не ограничиваться только локальными рецептивными полями. В то время как гибридные сети CNN-Transformer стабилизируют сверточное индуктивное смещение, Vision Transformers (ViTs) реализуют полностью ориентированную на внимание архитектуру, позволяющую ViT-модели фиксировать дальние зависимости на всех КТ-изображениях — что является преимуществом при оценке диффузных или нерегулярных характеристик опухолей легких.

Появление моделей на основе трансформаторов в области медицинской визуализации произошло недавно, с примерами в мягкой радиологии и гистопатологии,4,5,6, которые проявили заметные преимущества в устойчивости к шуму, размытию и изменчивости между сканерами по сравнению с традиционными системами CNN, что подтверждает обоснование ViT в таком клиническом контексте без чрезмерного акцента на новизне. Учитывая более строгий подход к визуализации рака лёгких по сравнению с потребительскими медицинскими приложениями, это исследование направлено на обоснование практичности в устойчивой области медицины, основанной на доказательствах, при этом занимая место среди не слишком обширной литературы, недавно появившейся по трансформерам и их применению. Предыдущая литература показала, что точность диагностических методов CNN резко снижается из-за вариативности^{приобретения 7}, где соответствующий ViT показывает лучшие результаты с теми же возмущениями,8 что подтверждает концепцию использования ViT в методах оценки и предлагает возможность повысить воспроизводимость в диагностических процессах. Кроме того, практические вопросы, такие как требуемый размер наборов данных, вычислительная нагрузка и обобщаемость для различных клинических условий, явно учитываются в исследовании с помощью таких методов, как дополнение данных, трансферное обучение и эффективные варианты^{ViT 9,10}, чтобы решить эти потенциальные проблемы в реальном использовании.

Данное исследование основывается на этом достижении, внедряя ViT для стадирования рака легких с использованием данных КТ-изображений и изучая надёжность и обобщимость модели в условиях реальных проблем визуализации. Данные КТ могут включать артефакты, шум и размытие в общей степени, что может скрывать значимые для клиницистов особенности. Изучая устойчивость к этим изменениям в визуализации, данное исследование стремится предложить дополнительную систему стадирования, на которую можно опираться на практике при принятии решений, связанных с уходом и лечением.

Вклад этого исследования включает: i) конкретное выявление рака лёгких с помощью КТ-изображений в наборе данных IQ-OTH/NCCD с использованием и изучения эффективности модели трансформера зрения; ii) оценка эффективности модели в реальных клинических сценариях визуализации, характерных для данных КТ, таких как шум и размытость; iii) сравнение точности, чувствительности и специфичности ViT как альтернативы традиционным моделям CNN.

Структура остальной части этой статьи следующая: Раздел II рассматривает обзор литературы, содержащий предыдущие исследования, связанные с выявлением рака легких с использованием технологий глубокого обучения и переходом от CNN к более продвинутым архитектурам, таким как ViT. Раздел III представляет подход, использованный для этой работы, включающий предварительную обработку данных, информацию об архитектуре модели и детали процедур обучения. Раздел IV представляет результаты, специально рассматривающие предписывающие характеристики ViTs как клинического метода и то, как он может повысить точность и надёжность скринингов рака легких. Раздел V резюмирует результаты и вклад в практику, а также обсуждает будущие направления в контексте глубокого обучения в медицинской среде.

СВЯЗАННЫЕ РАБОТЫ:

Глубокое обучение (DL) произвело революцию в медицинской визуализации за последние десять лет, особенно в диагностике рака лёгких. Изначально дисциплина опиралась на традиционные методы машинного обучения, такие как Support Vector Machines (SVM) и деревья принятия решений, которые были ограничены необходимостью хорошо проработанных и правильно полученных функций. Эти материалы плохо справлялись с тонкостями медицинских картин и часто внедрили субъективность.

Значительное изменение произошло с изобретением сверточных нейронных сетей (CNN), которые позволили автоматически извлекать иерархические характеристики из данных¹¹. CNN широко применяются для установки стадии рака на основе КТ, обнаружения узлов и классификации как доброкачественных или злокачественных. CNN успешны, но у них есть ограничения. К ним относятся различия в настройках сбора изображений и необходимость больших аннотированных наборов данных, которые трудно получить из-за проблем конфиденциальности и трудоёмкого характера медицинской аннотации. Таблица 1 12,13,14,15,16,17,18,19,20 содержит краткое изложение недавних исследований, проведённых в области диагностики рака легких.

Краста, Лавина Джин, Рупал Нима и Элвин Рошан Паис (2024) [20]

Представить новую систему глубокого обучения для обнаружения и классификации рака лёгких с использованием КТ-изображений [20].

В статье представлен 3D-VNet для сегментации и 3D-ResNet для классификации, демонстрируя улучшения точности и устойчивости по сравнению с предыдущими методами.

Краста, Лавина Джин, Рупал Нима и Элвин Рошан Паис (2024) [20]

Представить новую систему глубокого обучения для обнаружения и классификации рака лёгких с использованием КТ-изображений [20].

В статье представлен 3D-VNet для сегментации и 3D-ResNet для классификации, демонстрируя улучшения точности и устойчивости по сравнению с предыдущими методами.

Таблица 1: Краткое изложение недавних исследований, описывающих используемые методы и отчётные результаты для контекста.

Используя процессы самовнимания, учитывающие весь контекст изображения одновременно, Vision Transformers (ViT) начинают становиться конкурентной альтернативой CNN в задачах, связанных с изображением. ViT особенно перспективны для медицинской визуализации, поскольку значимость некоторых регионов может зависеть от более отдалённых участков картины из-за их глобальных возможностей обработки. Однако, несмотря на их способность справляться со сложными задачами, такими как распознавание корреляций между множеством признаков заболеваний при сканировании, ViT всё ещё недостаточно изучены в области медицинской визуализации.

ViT не были широко изучены в сфере потребительских медицинских устройств. Данное исследование направлено на преодоление разрыва между высокой точностью и меньшей задержкой для потребительских медицинских устройств, где они могут работать хорошо и давать точные прогнозы в реальном времени.

Протокол

Набор данных включает всего 1 190 срезов КТ из 110 случаев, разделённых на три класса: нормальные (55 случаев), доброкачественные (15 случаев) и злокачественные (40 случаев). Каждый случай состоит из нескольких КТ-срезов (примерно от 80 до 200 срезов на каждый), предлагающих разнообразные осевые виды грудной клетки. КТ-изображения были получены в DICOM с помощью сканера SOMATOM со стандартными параметрами изображения: напряжение трубки = 120 кВ, толщина среза = 1 мм, ширина окна = 350–1 200 единиц Хаунсфилда (HU), значения центра окна = 50–600 HU, во время полной задержки дыхания.

Все изображения были полностью деидентифицированы перед анализом, чтобы убрать любую личную идентификационную информацию (PII). Набор данных был этически одобрен институциональными контрольными советами участвующих медицинских центров, при этом письменное согласие было отклонено надзорным советом. Среди случаев были люди из разных слоёв общества, такие как государственные служащие, фермеры и жители нескольких иракских провинций (включая Багдад, Васит, Диялу, Салахуддин и Вавилон), с разнообразием по полу, возрасту, уровню образования и статусу жизни.

Поскольку набор данных общедоступен и деактивирован, дополнительное этическое одобрение для его использования в этом исследовании не требовалось. Набор даних соответствует условиям и положениям, указанным его первоначальными участниками и хостинговой платформой.

Методология этого исследования использует многоступенчатый процесс, предназначенный для создания модели прогнозирования с помощью набора данных IQ-OTH/^{NCCD по раку легких 21}. Эта методология создаёт прочную основу для потребительских медицинских устройств, где требуется меньшая задержка, что обеспечивает лучшую точность. Рисунок 2 показывает рабочий механизм предлагаемой модели.

Рисунок 2: Схема рабочего процесса предлагаемой модели, показывающая этапы предварительной обработки, дополнения, классификации Vision Transformer и оценки. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой рисунка.

1. Описание набора данных

Набор данных по раку лёгких IQ-OTH/NCCD был собран осенью 2019 года в Иракском онкологическом учебном госпитале/Национальном центре онкологических заболеваний. Обучающая часть используемого набора данных содержала 1 097 изображений, описание которых приведено в Таблице 2, которая иллюстрирует количество экземпляров различных классов.

Класс	Количество изображений
Нормальный	416
Доброкачественный	120
Злокачественный	561

Таблица 2: Примеры примеров нормальных, доброкачественных и злокачественных КТ изображений из набора данных.

Набор данных по раку лёгких IQ-OTH/NCCD был выбран за полное представление нормальных, доброкачественных и злокачественных КТ. Хотя доступны и другие наборы данных, такие как LIDC-IDRI и NSCLC-радиомики, они либо сосредоточены преимущественно на обнаружении узлов, либо не имеют достаточного количества образцов доброкачественных случаев. Набор данных IQ-OTH/NCCD особенно подходит для нашего исследования, так как позволяет Vision Transformer изучать дискриминационные признаки во всех трёх классах, что обеспечивает надёжную классификацию тонких закономерностей на изображениях лёгких.

2. Предобработка данных

Предобработка — важный шаг для повышения производительности модели за счёт согласованности и соответствующих корректировок данных, которые будут обрабатываться через нейронную сеть. Для обеспечения единообразия размера входа для нейронной сети мы масштабировали все изображения до одинаковых размеров 256 x 256 пикселей и нормализовали данные до значения пикселей между 0 и 1 в надежде улучшить обучение и сходимость моделей. Таблица 3 содержит значения техники аугментации.

Техника	Ценность
Нормализация	-
Изменение размера	image_size x image_size
Случайное вращение	множитель=0,02
RandomZoom	height_factor=0,2, width_factor=0,2

Таблица 3: Применение методов аугментации с диапазонами параметров.

Для повышения устойчивости модели против перенагона и повышения её способности к обобщению применяются методы расширения данных, такие как случайные вращения и увеличения, имитирующие различные углы и размеры проявления рака лёгких, как они могут возникать у разных пациентов. В этом исследовании применялись случайные вращения с углами, равномерно отобранные от 0,02 радиана, и случайные преобразования с увеличением с разными коэффициентами высоты и ширины. Изображения после увеличения показаны на рисунке 3.

Рисунок 3: КТ-изображения после увеличения, демонстрирующие вращение, масштабирование и нормализацию для улучшения обобщения моделей. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.

Эти методы предварительной обработки необходимы, и дополнение использовалось во всех классах для обеспечения надёжности модели.

3. Архитектура модели

Адаптируя новый фреймворк Vision Transformer (ViT) для эффективной обработки сложных данных изображений, архитектура модели предназначена для разделения КТ-сканов на три категории: нормальные, доброкачественные и злокачественные. С помощью этого метода обрабатываются входные изображения размером 256 x 256 пикселей. Для обеспечения согласованности и повышения эффективности обучения модели каждое изображение проходит через несколько операций предварительной обработки, таких как изменение размера и нормализация. Для повышения устойчивости модели к изменениям масштаба и ориентации изображения дизайн начинается с слоя дополнения данных, использующего такие методы, как нормализация, изменение размера, случайные вращения на 0,02 радиана и случайные зумы до 20%. После дополнения модель убирает 16 патчей размером 16 пикселей с каждого снимка, то есть на каждом изображении их 256.

Алгоритм 1 определяет рабочий процесс, предлагаемую модель, а также способы её построения и тонкой настройки, выполняемой относительно модели.

Алгоритм 1: Классификация рака легких с помощью трансформеров зрения
Вход: набор КТ-изображений I из набора данных IQ-OTH/NCCD
Вывод: Результаты классификации C по категориям: нормальные, доброкачественные, злокачественные
Предварительная обработка:
   for each image i in I do
i <- Resize(i, 256 x 256)         // Normalize and resize images
i <- Normalize(i)
i <- DataAugmentation(i)        // Apply random rotations and zooms
   end for
Настройка модели:
  Initialize Vision Transformer (ViT) Model
  Set number of patches P = 16 x 16
  Set number of heads H = 6 in multi-head attention
Тренировка:
  for epoch = 1 to MaxEpochs do
    for each batch b in I do
      Patches <- ExtractPatches(b, P)
      EncodedPatches <- PatchEncoder(Patches)
      AttentionWeights <- MultiHeadAttention(EncodedPatches, H)
      ClassLogits <- TransformerEncoder(AttentionWeights)
      Loss <- ComputeLoss(ClassLogits, TrueLabels)
      UpdateModelWeights(Loss)
    end for
    if EarlyStoppingCriteriaMet (Val_Loss No Improvement Patience = 5 Epochs) then
      break
    end if
  end for
Ратификация:
  Split data into TrainingSet (80%) and ValidationSet (20%)
  ComputeValidationMetrics(ValidationSet)
Оценка:
  C <- Classify(I)
  ComputePerformanceMetrics(C)
  Return C

Чтобы сохранить пространственные отношения между участками, эти участки сплющаются (уравнение 1) в 768-мерные векторы (поскольку каждый участок имеет 16 x 16 x 3 = 768), а затем передаются через слой кодирования патча, который проецирует каждый вектор в 64-мерное пространство путём интеграции позиционных вложений. Ядро архитектуры состоит из восьми слоёв трансформаторов, каждый из которых оснащён многоголовным механизмом внимания с шестью головами, позволяя модели одновременно фокусироваться на разных частях изображения и захватывать широкий спектр признаков. Он представлен с помощью уравнений 2, 3 и 4.

Где μ — среднее значение, σ² — дисперсия входа x, а ε — малая константа, предотвращающая деление на ноль.

Где Q — матрица запроса, K — матрица ключей, V — матрица значений, а d_k — размерность векторов ключей.

где W_i^Q,_{W i}^K и W_i^{V —} изученные матрицы весов для запросов, ключей и значений соответственно, а W^O — матрица выходных весов.

Блок-схема предлагаемой модели показана на рисунке 4.

Рисунок 4: Блок-схема модели Vision Transformer с головкой MLP, подробно описывающая основные уровни обработки и архитектуру. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.

Каждый слой трансформатора включает многоуровневое восприятие (MLP), где скрытые единицы сначала масштабируются до 128, а затем обратно до 64, что фактически расширяет и сжимает информационный поток для захвата сложных зависимостей.

Выброса из школы стратегически применяется с частотой 0,1 в механизмах внимания и MLP, чтобы предотвратить перенасыщение. Выход от энкодера трансформатора обрабатывается через MLP-головку, состоящую из двух плотных слоёв с 2 048 и 1 024 единицами соответственно, с использованием гауссовых линейных блоков ошибок (GELU) для активации, что показало хорошие результаты в приложениях глубокого обучения. Это достигается с помощью уравнения 5.

Где W₁ и_{W 2} — это матрицы веса, b₁ и_{b 2} — смещения, а GELU — используемая функция активации.

В слоях трансформаторов использовался дропаут 0.1, чтобы предотвратить перенагон, не теряя важной информации о функциях. Функция активации GELU использовалась для его гладких нелинейных характеристик, которые способствуют градиентному потоку и сходимости в моделях на основе трансформаторов. Выпадание регуляризируется с помощью уравнения 6.

Где p — это частота выброса (например, 0,1 или 0,5), а слой выброса случайным образом устанавливает долю p входных единиц равной нулю во время обучения.

Частота выброса 0,5 в этих слоях дополнительно помогает снизить перенагон. Последний слой модели — это слой логита (уравнение 7), который выводит три классовых логита, соответствующих категориям нормальных, доброкачественных и злокачественных, с использованием разреженной категориальной функции потерь перекрестной энтропии (уравнение 8), подходящей для этой многоклассовой классификации.

Где z_i — логитовый вектор класса i, SoftMax(z_i)) — предсказанные вероятности, а y_i — истинная метка класса.

Модель компилируется с помощью оптимизатора AdamW (уравнения 9, 10, 11, 12 и 13), расширения оптимизатора Адама, которое более эффективно справляется с затуханием веса, с частотой обучения 0,001 и затуханием веса 0,0001, оптимизируя как скорость обучения, так и стабильность модели.

Где m_t и v_t — первые и вторые моменты градиентов , а — скорректированные смещением, η — скорость обучения, а ε — малая константа, предотвращающая деление на ноль.

Модель при обучении использует размер партии 32 для ускорения GPU для более быстрого расчёта и настроена на обучение на 100 эпох.

Однако у обучения есть ранний механизм остановки при потере валидации, чтобы ограничить обучение, когда модель перестает совершенствоваться, чтобы сэкономить вычислительные ресурсы и избежать переобучения 5 последовательных эпох. Производительность модели отслеживается с помощью таких метрик, как разреженная категориальная точность и точность топ-2, которые определяют способность модели к классификации по наиболее вероятным прогнозируемым категориям. Обратные вызовы для обучения модели включают контрольные точки, которые сохраняют самую эффективную модель в соответствии с точностью валидации, чтобы сохранить наиболее успешную версию после завершения процесса обучения. Эта надёжная и хорошо спланированная архитектура использует возможности трансформаторов для обработки медицинских данных визуализации с высокопродвинутым подходом к применению современных методов искусственного интеллекта для основных применений в диагностике здравоохранения.

4. Обучение и валидация

Модель была обучена в среде Kaggle с использованием видеокарты NVIDIA P100, а в процессе обучения использовался мини-пакетный градиентный спуск с размером 32. Оптимизатором, использовавшимся во время обучения, был AdamW с скоростью обучения 0,001 и снижением веса 0,0001; Это был хороший баланс между быстрой конвергенцией и некоторой регулярностью. Модель была обучена для 100 эпох, однако использовалась ранняя остановка при потере валидации с терпением в 5 эпох. Проще говоря, если обучение не улучшало потерю валидации в течение 5 непрерывных эпох, обучение прекращалось из-за перенастройки и вычислительной эффективности. В большинстве случаев эта модель восстанавливала веса эпохи с наименьшими потерями валидации, что указывало на оптимальную работу и не требовало запускать все 100 эпох. Всего на обучение модели уходит около 32 минут.

Во время обучения показатели включали разрежённую категориальную точность и топ-2 точности, отслеживаемые как на обучающем, так и на валидационном наборах. Эти метрики дают представление о том, как часто модель предсказывает правильный класс и находится ли правильный класс в двух верхних прогнозах, что важно в медицине, поскольку неправильные классификации с высокой достоверностью могут иметь значительные последствия. Кривые обучения по потерям и точности визуализированы на рисунке 5.

.

Рисунок 5: Точность и кривые потерь обучения и валидации за 50 эпох, показывающие стабильное обучение и минимальную перенагонку. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этого рисунка.

В настоящем исследовании перекрёстная валидация не проводилась. Такая схема позволила эффективно экспериментировать с архитектурой модели, включая корректировки слоёв трансформаторов и размеров головок MLP, при этом обеспечивая хорошее обобщение модели на невидимых данных валидации.

5. Статистический анализ

Производительность модели Vision Transformer была статистически проанализирована на основе набора данных по раку лёгких IQ-OTH/NCCD. Точность, воспоминание, F1-балл и точность рассчитывались с использованием уравнений 14, 15, 16, 17 соответственно. Эти четыре метода считаются традиционными методами для классификационных задач, поскольку они могут раскрывать информацию о результатах модели при классификации и классификации по классам для каждого класса.

Воспоминание — это мера способности модели выявлять все релевантные экземпляры класса, тогда как точность — это доля положительных идентификаций, которые действительно были верными. Счёт Формулы-1 балансирует между воспоминанием и точностью, когда оба важны.
Для этого задания использовались показатели эффективности коэффициента корреляции Мэттьюса (MCC) по уравнению 18 и уравнение Каппа Коэна 19.

где P₀ — наблюдаемое согласие, а P_e — ожидаемое согласие.

MCC — это всеобъемлющая оценка эффективности классификации, учитывающая как истинные положительные, так и отрицательные, ложноположительные и ложноотрицательные результаты. Его значение может быть от -1 до 1, где 1 — идеальное предсказание, 0 — случайное предсказание, а -1 — полное несоответствие между предсказанными и истинными метками. MCC был полезен для сравнения различных характеристик моделей при применении к несбалансированным наборам данных и обеспечивал сбалансированную меру независимо от разных размеров классов.

В рамках дополнительного статистического анализа был вычислен балл F2, с приоритетом воспоминания, как показано в уравнении 20.

Производительность модели также количественно оценивалась с помощью средней квадратической ошибки (MSE), корневой средней квадратической ошибки (RMSE) и средней абсолютной ошибки (MAE) — которые обычно являются измерениями для регрессионных задач, но здесь модифицированы для классификации, чтобы количественно оценить среднюю величину ошибки без учёта направления.

Чтобы определить, будет ли целесообразно интегрировать ViT в потребительские медицинские устройства, мы провели обширные результаты оценки производительности, сосредоточившись исключительно на временной эффективности модели. Мы создали функции для отчёта времени, необходимого для прогнозирования одного или нескольких изображений, поскольку это особенно актуально для приложений в реальном времени. Для каждого изображения перед началом прогнозирования данные предварительно обрабатываются в форме входного изображения, желаемой моделью. Время начала предсказания и время его завершения мы записывали, чтобы получить результаты по времени и задержке. Время и средняя задержка были рассчитаны с помощью уравнений 21 и 22 соответственно.

Где:

• N — количество изображений (образцов).
• Trend — это время, зафиксированное после предсказания i-го изображения.
• Tstart — это время, зафиксированное до предсказания i-го изображения.

Были проведены дополнительные эксперименты для оценки надёжности предложенной нами модели Vision Transformer, систематически добавляя дополнительный шум и размытие в изображения. Гауссовский шум добавлялся к каждому пикселю с коэффициентом шума 0,4, при этом значения пикселей обрезали в диапазоне [0,1]. Коэффициент размытия уменьшался за счёт гауссового размытия с размером ядра 45× 45. Эти эксперименты направлены на всестороннюю оценку модели при смоделированном перцептивном ухудшении качества изображения.

Результаты

Модель Vision Transformer показала исключительные результаты на множественных метриках оценки в наборах данных IQ-OTH/NCCD по раку лёгких, эффективно различая нормальные, доброкачественные и злокачественные КТ-изображения. Общая производительность модели достигла высокой точности 98,18% по всему тестовому набору данных, состоящем из 220 изображений. Эта чрезвычайно высокая точность свидетельствует о том, что модель способна очень эффективно обобщать и, сл...

Обсуждение

Он достиг выдающихся результатов в оценке и внедрении модели Vision Transformer на наборе данных по раку лёгких IQ-OTH/NCCD с высокой точностью. Общая точность классификации КТ как нормального, доброкачественного и злокачественного составляет 98,18% по этой модели.

Эта превосходная точность дополнительно подтверждается результатами модели по другим ключевым показателям, таким как 100% точность при выявлении злокачественных случаев, что очень важно для ранней д...

Материалы

Список материалов, использованных в этой статье

Имя	Компания	Каталожный номер	Комментарии
Видеокарта A100 (CUDA)	NVIDIA	CUDA Версия 11.6	Ускорение GPU для обучения и оценки моделей.
Процессор AMD EPYC-7502P	AMD	Н/Д	Процессор, используемый для высокопроизводительных вычислений.
Gigabit Ethernet	Intel	Н/Д	Сети для защищённой связи между лицами в CPS.
Matplotlib	Фонд программного обеспечения Python	Версия 3.5	Библиотека визуализации для построения результатов.
Криптосистема Пайе	Открытый исходный код (реализован через TenSEAL)	Н/Д	Позволяет аддитивное гомоморфное шифрование градиентов.
PySyft	OpenMined	Версия 0.6.0	Дифференциальная приватность и федеративная библиотека обучения.
Python (распределение Anaconda)	Anaconda Inc	Версия 3.9	Включает предустановленные пакеты и инструменты управления окружением, используется для скриптов и разработки фреймворков.
PyTorch	Meta AI	Версия 1.12	Фреймворк глубокого обучения для обучающих моделей.
RAM	Corsair	256 гигабайт (GB)	Высокая поддержка памяти для интенсивных тренировок.
Scikit-learn	Фонд программного обеспечения Python	Версия 1.1	Инструменты машинного обучения для оценки производительности.
Сиборн	Фонд программного обеспечения Python	Версия 0.11	Библиотека визуализации статистических данных.
SSD-хранилище	Seagate	1 терабайт (TB)	Для быстрого хранения и извлечения данных.
TenSEAL	OpenMined	Версия 0.3	Библиотека гомоморфного шифрования для безопасной агрегации.
TensorFlow	Google	Версия 2.9	Фреймворк глубокого обучения для моделей диффузии.
Ubuntu OS	Канонический	Версия 20.04 LTS	Операционная система, используемая для всех экспериментов.