Эффективность TDE-Net оценивалась с шести взаимодополняющих ракурсов: качество реконструкции, репрезентативные визуальные результаты, вклад компонентов, временная зависимость, структура семантического представления и внимание к каналам скальпа. Точность воспроизведения низкого уровня оценивали с помощью PixCorr и SSIM, согласование в пространстве признаков — с помощью метрик AlexNet, Inception-v3, CLIP, EffNet и SwAV, а эффективность на уровне испытуемого — на основе результатов всех 10 испытуемых из набора данных THINGS-EEG2. Если не указано иное, на каждом качественном рисунке указан соответствующий испытуемый и подмножество условий тестирования.
Эффективность реконструкции и репрезентативные результаты
В качестве внутренней эталонной модели мы дополнительно реализовали базовый легковесный сверточно-аттенционный энкодер ЭЭГ. Эта модель извлекает единое 1024-мерное представление ЭЭГ из каждой попытки и независимо отображает его в латентные пространства CLIP и VAE, используя тот же протокол гребневой регрессии и диффузионного декодирования, что и предлагаемый метод. В следующих разделах эта модель обозначается как Baseline. Энкодер представляет собой семантический референс на основе сверточной сети с механизмом внимания в стиле LMDA, использованный в локальной реализации, с 373 950 обучаемыми параметрами и 1 024-мерным выходом.
В таблице 2 приведено сравнение TDE-Net с внутренним базовым методом сверточного внимания (convolutional-attention baseline) и репрезентативными методами реконструкции изображений на основе ЭЭГ по зарегистрированным метрикам. Для обеспечения единообразия оценки методы были реализованы в рамках единой экспериментальной структуры с использованием одного и того же разбиения THINGS-EEG2, 17-канального ввода, одинаковой предобработки, условий контрольного тестирования и определений метрик, при этом были сохранены специфические для каждого метода архитектуры. Согласно сводным данным по десяти испытуемым, TDE-Net достиг значений среднего ± SD: 0.2531 ± 0.0138 для PixCorr, 0.3388 ± 0.0025 для SSIM, 0.8777 ± 0.0115 для AlexNet Layer 2, 0.9153 ± 0.0116 для AlexNet Layer 5, 0.7606 ± 0.0213 для Inception-v3, 0.8135 ± 0.0074 для точности попарной идентификации CLIP, 0.8285 ± 0.0122 для расстояния EffNet и 0.5085 ± 0.0101 для расстояния SwAV. Сводные данные на уровне отдельных испытуемых дополняют качественные примеры для одного субъекта.
Значение CLIP обозначает точность попарной идентификации, а не косинусное сходство или общий показатель признаков CLIP. Поскольку семантический поток обучается с целью достижения таргета в пространстве CLIP, данный показатель отражает как семантическую реконструкцию, так и согласование с таргетом одной из ветвей. Следовательно, он рассматривается совместно с PixCorr, SSIM, AlexNet, Inception-v3, EffNet и SwAV, которые характеризуют взаимодополняющие аспекты низкоуровневой точности и согласованности в пространстве признаков.
Для характеристики показателей на уровне отдельных испытуемых мы применили полную процедуру тестирования TDE-Net к субъектам с sub-01 по sub-10, используя одни и те же 200 отложенных условий изображений для каждого испытуемого. В Таблице 3 представлены все восемь показателей оценки для каждого субъекта, а также среднее значение по всем испытуемым и стандартное отклонение (SD) выборки. Средняя точность попарной идентификации CLIP составила 0,8135 (SD, 0,0074). Средние значения PixCorr и SSIM составили 0,2531 и 0,3388 соответственно. Точность слоев Layer 2 и Layer 5 сети AlexNet в среднем составила 0,8777 и 0,9153, а точность Inception-v3 в среднем составила 0,7606. Средние значения расстояний EffNet и SwAV, где меньшее значение означает лучший результат, составили 0,8285 и 0,5085 соответственно. Ограниченная дисперсия этих показателей на уровне испытуемых указывает на сопоставимое количественное поведение реконструкции у 10 субъектов THINGS-EEG2.
Рисунок 3 представляет реконструкции для тех же семи исключенных индексов условий (1, 32, 62, 86, 87, 108 и 175; нумерация файлов начинается с нуля) для всех 10 испытуемых. Верхний ряд показывает истинные стимулы, а последующие ряды — соответствующие реконструкции для испытуемых с sub-01 по sub-10. Реконструкции сохраняют общие семантические категории и характерные визуальные атрибуты стимулов, в то время как детальная идентификация объектов, форма и локальная текстура варьируются в зависимости от испытуемого. Такая схема представляет собой качественный аналог результатов межсубъектного анализа, обобщенных в Таблице 3.
Рисунок 4 представляет качественные реконструкции для шести заданных тестовых условий sub-01. В строках показаны истинный стимул, компаратор Perceptogram, созданный с помощью нашей локальной реализации21, и реконструкция TDE-Net. Приведенные примеры подчеркивают сохранение категории объекта, его формы, цвета и атрибутов фона, в то время как детальные характеристики идентичности и фона различаются в зависимости от метода.
Дополнительный рисунок 1 демонстрирует группы с наилучшей, медианной и наихудшей реконструкцией, выбранные из 200 тестовых условий sub-01 в THINGS-EEG223. Условия ранжированы по косинусному сходству между замороженным объединенным CLIP-эмбеддингом, предсказанным по ЭЭГ, и соответствующим истинным CLIP-эмбеддингом изображения. Представленные группы иллюстрируют диапазон семантического соответствия, наблюдаемого для данного испытуемого.
Вклад компонентов и особенности слияния
Таблица 4 представляет собой поэтапное исключение (абляцию) структурного и семантического потоков на основе средних значений по всем испытуемым, полученных с использованием той же процедуры оценки. Линейный якорь напрямую предсказывает латентные представления CLIP и VAE из предварительно обработанных данных ЭЭГ с помощью гребневой регрессии и служит контролируемой отправной точкой для исследования абляции. Он следует общему принципу линейного отображения латентных пространств, использованному в предыдущих исследованиях по преобразованию ЭЭГ в изображения, включая Perceptogram21, при этом используются настройки предобработки, регуляризации, декодирования и оценки текущего конвейера. Такая архитектура позволяет изучить структурный поток, семантический поток и слияние в двойном пространстве относительно общего линейного эталона.
Начиная с Linear Anchor, добавление структурного потока увеличило SSIM с 0,331 до 0,339, а точность AlexNet Layer 5 — с 0,913 до 0,932, хотя точность AlexNet Layer 2 немного снизилась с 0,889 до 0,886. Добавление вместо этого семантического потока обеспечило наивысшее значение PixCorr (0,237) при сохранении высокой точности AlexNet Layer 2 (0,888) и сокращении расстояний EffNet и SwAV до 0,865 и 0,531 соответственно. При объединении обоих потоков посредством слияния в двойном пространстве (dual-space fusion), TDE-Net достиг наивысшей точности попарной идентификации Inception-v3 (0,761) и CLIP (0,814), а также наименьших расстояний EffNet (0,829) и SwAV (0,509). Точность AlexNet Layer 2 (0,878) осталась ниже, чем у Linear Anchor, а значение SSIM (0,339) оказалось чуть ниже, чем в конфигурации со структурным потоком. В целом, результаты абляции между субъектами показывают, что структурный и семантический потоки влияют на разные аспекты реконструкции, в то время как их слияние в первую очередь усиливает семантическую идентификацию и согласованность в глубоком пространстве признаков.
Рисунок 5 демонстрирует чувствительность отборочной выборки к двум весам слияния в диапазоне α = 0.00–1.00 с шагом 0.05. Кривая для CLIP-пространства достигает максимума при αCLIP = 0.55, в то время как кривая для VAE-пространства достигает максимума при αVAE = 0.65. Схожие значения PCC наблюдались для соседних кандидатов, при этом максимумы приходились на разные веса для двух латентных пространств.
Временной вклад сигналов ЭЭГ
Рисунок 6 демонстрирует средний латентный PCC для каждого условия для необработанных окон ЭЭГ, заканчивающихся на 8, 16, ..., 80 временных точках у субъекта 01 (n = 200 тестовых условий). Кривые CLIP и VAE растут по мере расширения окна анализа и выходят на плато в более поздних окнах. Пунктирные линии указывают соответствующие эталонные значения только для семантического потока при полном окне. Данный анализ характеризует зависимость от временного окна в рамках описанного протокола отображения.
Семантическое выравнивание и анализ на уровне представлений
Рисунок 7 сравнение пообразцового коэффициента корреляции Пирсона (PCC) латентных представлений CLIP для исходного якоря CLIP и замороженного объединенного прогноза CLIP в 200 тестовых условиях sub-01. Оценки плотности распределения с использованием гауссова ядра рассчитаны по методу Скотта; вертикальные пунктирные линии обозначают средние значения по выборке. Объединенное распределение демонстрирует среднее увеличение PCC примерно на 0,013 по сравнению с исходным якорем. Точность попарной идентификации CLIP на уровне изображений приведена отдельно в Таблица 2.
Рисунок 8 представляет собой сравнение RSM по косинусному сходству для эмбеддингов CLIP истинных изображений и объединенных прогнозируемых эмбеддингов CLIP на основе ЭЭГ. Обе матрицы имеют общий диапазон данных и упорядочивание по методу Уорда, полученное на основе евклидовых расстояний между истинными эмбеддингами CLIP. Панель остатков показывает разность между прогнозируемой RSM и истинной RSM в симметричном масштабе, определенном по максимальному абсолютному остатку, что позволяет визуализировать степень соответствия репрезентаций.
Дополнительная фигура 2 представляет собой совместную проекцию 200 истинных и 200 предсказанных по ЭЭГ эмбеддингов CLIP. Пять меток были получены с помощью кластеризации k-means L2-нормализованных истинных эмбеддингов (n_init = 50; seed = 7). Конкатенированные истинные и предсказанные признаки были сокращены до 50 измерений с помощью PCA и совместно спроецированы методом t-SNE с перплексией 28, евклидовым расстоянием и seed 12. Проекция обеспечивает качественное представление организации двух наборов репрезентаций.
Паттерны ЭЭГ и интерпретируемость пространственного внимания
Дополнительная фигура 3 группирует тестовые концепты по категориям «Животные», «Еда/растения» и «Другие объекты» с использованием явного сопоставления концептов и меток. Внутри каждой группы строки упорядочены по методу кластеризации Уорда на основе отбеленных истинных вложений CLIP и равномерно отобраны (не более 30 концептов) для обеспечения читаемости. Тепловая карта отображает обрезанные, нормализованные отбеленные амплитуды ЭЭГ по шкале от -1 до 1; вложения CLIP используются исключительно для определения порядка внутри групп.
Дополнительный рисунок 4 представляет стандартную топографию скальпа 10–20 для нормализованных абсолютных весов каналов семантического потока по 17 выбранным электродам. Карта обобщает относительные веса модели по измеренным каналам скальпа и интерпретируется как визуализация весов модели на уровне каналов.
Данное исследование представляет собой вторичный вычислительный анализ деидентифицированного набора данных THINGS-EEG2. Исходные записи ЭЭГ, предварительно обработанные массивы ЭЭГ, метаданные и изображения стимулов, а также файлы состояния покоя доступны в рамках проекта THINGS-EEG2 по адресу https://osf.io/3jk45/ и в Figshare+ (https://doi.org/10.25452/figshare.plus.18470912). Программное обеспечение для первичного сбора и предварительной обработки данных доступно по адресу https://github.com/gifale95/eeg_encoding. Доступ и повторное использование данных ЭЭГ и изображений стимулов регулируются лицензиями и требованиями к указанию авторства, определенными в исходных репозиториях.
Реализация TDE-Net, включая скрипты для выравнивания, слияния, реконструкции, оценки и визуализации, доступна по адресу https://github.com/Yuan-ui198/TDE-Net. Версия, соответствующая данной рукописи, зафиксирована в коммите c99325d7f9e090ddd7cd5816aeabda7a9b9364da (https://github.com/Yuan-ui198/TDE-Net/tree/c99325d7f9e090ddd7cd5816aeabda7a9b9364da). Для настоящего исследования новые идентифицируемые данные участников не собирались.

Рисунок 1: Схема TDE-Net. На диаграмме представлены исходный опорный сигнал ЭЭГ, поток функциональных графов для конкретного образца, семантический временной поток, отображение в двух пространствах VAE и CLIP, взвешенное слияние и декодирование Stable UnCLIP с двойным условием. Где применимо, указаны размерности тензоров. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 2: Выбор ЭЭГ-электродов и временная схема эксперимента. (A) Пространственное распределение 17 выбранных теменно-затылочных электродов из исходного 64-канального набора данных. (B) Обозначения электродов: Pz, P3, P7, O1, Oz, O2, P4, P8, P1, P5, PO7, PO3, POz, PO4, PO8, P6 и P2. (C) Схема временных интервалов RSVP и определения эпохи ЭЭГ. На схеме «Task» (Задание) обозначает интервал предъявления изображения, а «Rest» (Отдых) — интервал между изображениями; пронумерованные блоки Task указывают на последовательные интервалы предъявления, а не на разные экспериментальные условия. Каждое изображение предъявлялось в течение 100 ms с асинхронией начала стимула 200 ms. Эпоха ЭЭГ охватывала период от -200 до 800 ms относительно начала стимула, что соответствует аналитическому окну ЭЭГ длительностью 1000 ms. Пожалуйста, нажмите здесь, чтобы просмотреть этот рисунок в большем размере.

Рисунок 3: Результаты качественной межсубъектной реконструкции для семи исключенных условий изображений. Для субъектов с sub-01 по sub-10 используются одни и те же индексы условий, начинающиеся с нуля (1, 32, 62, 86, 87, 108 и 175). В верхнем ряду показаны соответствующие эталонные образцы изображений из тестового набора THINGS-EEG2, изображения которых были взяты из базы данных изображений THINGS34, тогда как в остальных рядах представлены реконструкции TDE-Net для каждого субъекта. На рисунке показаны общие семантические признаки и вариации на уровне субъектов; количественные результаты межсубъектного анализа представлены в Таблице 3. Пожалуйста, нажмите здесь, чтобы просмотреть этот рисунок в увеличенном виде.

Рисунок 4: Сравнение качественной реконструкции для шести заданных условий тестирования sub-01. Строки демонстрируют истинный стимул, сравнительную реконструкцию, созданную локальной реализацией, и реконструкцию TDE-Net; столбцы соответствуют индексам отдельных условий. Образцы изображений истинного значения были взяты из базы данных изображений THINGS34. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 5: Чувствительность весов латентного слияния на обучающей выборке. По горизонтальной оси отложен вес линейного якоря α, вес дополнительного потока составляет 1 - α, по вертикальной оси — значение latent PCC на обучающей выборке. Диапазон возможных значений составляет от 0.00 до 1.00 с шагом 0.05. Веса для пространства CLIP и VAE выбираются независимо по максимальному среднему значению PCC на уровне субъектов с равными весами для 10 субъектов, что дает αCLIP = 0.55 и αVAE = 0.65. PCC — коэффициент корреляции Пирсона. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 6: Анализ временных окон латентного выравнивания в sub-01 (n = 200 исключенных условий). Сплошные кривые показывают средний по образцам PCC для предсказаний гребневой регрессии raw-to-CLIP и raw-to-VAE при расширении конечной точки окна ЭЭГ от 8 до 80 временных точек при частоте 100 Hz. Пунктирные линии обозначают эталонные значения CLIP и VAE только для семантического потока при полном окне. PCC — коэффициент корреляции Пирсона. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 7: Распределение латентного выравнивания CLIP по образцам в подмножестве sub-01 (n = 200 исключенных условий). Кривые представляют собой оценки плотности распределения с использованием гауссова ядра и ширины окна по Скотту для исходного якоря CLIP и замороженного прогноза CLIP, объединенного с помощью TDE-Net-fused. Вертикальные пунктирные линии обозначают средние значения по выборке, а аннотация указывает на разницу между ними. PCC — коэффициент корреляции Пирсона; KDE — ядерная оценка плотности. Пожалуйста, нажмите здесь, чтобы просмотреть этот рисунок в большем размере.

Рисунок 8: Упорядоченное репрезентативное сходство в пространстве CLIP для субъекта sub-01 (n = 200 отложенных условий). (A) RSM косинусного сходства L2-нормированных эмбеддингов CLIP истинных изображений. (B) RSM косинусного сходства объединенных предсказанных по ЭЭГ эмбеддингов CLIP, отображенных с использованием того же порядка и цветовой шкалы, что и на панели A. (C) Остаточная RSM, рассчитанная как разность между предсказанными и истинными значениями, отображенная в симметричном масштабе, определенном максимальным абсолютным остатком. Порядок получен с помощью евклидова расстояния и метода иерархической кластеризации Варда для истинных эмбеддингов CLIP. RSM, матрица репрезентативного сходства. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
| Компонент | Параметр | Настройка |
| Данные и предобработка | Разбиение набора данных | 16 540 условий для обучения и 200 условий для выделенного теста; разделение на обучающую и проверочную выборки 90%/10% (seed 42) |
| Входные данные ЭЭГ | 17 теменно-затылочных каналов; 0-800 ms; 100 Hz; 80 временных точек |
| Спектральное представление | БПФ из 80 точек; 40 корзин положительных частот; логарифмический амплитудный спектр 0-50 Hz |
| Структурный поток | Построение графа | Абсолютная корреляция Пирсона для каждого образца; взвешенные top-k = 4 соседа на узел; симметризация и петли самоперехода |
| Архитектура GCN | 5 слоев; 80 скрытых нейронов; ReLU; dropout 0.3; симметричная нормализация степени; mean pooling |
| Контрастивная целевая функция | 80-мерная проекционная голова; температура InfoNCE τ = 0.5 |
| Обучение | Adam; скорость обучения 5 × 10⁻⁴; размер батча 32; 20 эпох; косинусное затухание; минимальная скорость обучения 10⁻⁶; seed 42 |
| Семантический поток | Архитектура | Временные ядра 5/15/31; глубина 9; 24 канала признаков; dropout 0.5; размерность выхода 1 024 |
| Обучение | AdamW; скорость обучения 5 × 10⁻⁴; затухание весов 0.01; размер батча 64; 50 эпох; косинусное затухание; минимальная скорость обучения 10⁻⁶; seed 42 |
| Латентное отображение | Ридж-регрессия | Свободный член подогнан; максимальное количество итераций 50 000; входные данные стандартизированы с использованием статистики обучающей выборки |
| Регуляризация | Штраф CLIP λ = 1 000; штраф raw VAE λ = 0; штраф structural VAE λ = 1 000 |
| Целевые размерности | CLIP: 1 024; VAE: 36 864 |
| Слияние и декодирование | Веса слияния | Вес якоря CLIP α = 0.55; вес якоря VAE α = 0.65; выбраны на проверочных данных и зафиксированы перед тестированием |
| Диффузионная модель | sd2-community/stable-diffusion-2-1-unclip; структурный масштаб γ = 0.02; временные шаги диффузии T = 1 000 |
| Сэмплирование | 20 шагов шумоподавления; масштаб guidance 7.5; seed диффузии 0 |
Таблица 1: Сводная характеристика параметров TDE-Net. В таблице приведены данные по разделению выборки, предварительной обработке, построению функциональной матрицы смежности, настройкам графового и семантического кодировщиков, штрафам латентного отображения, весам слияния и параметрам диффузионного декодирования, использованным во всех представленных экспериментах.
| Метод | PixCorr | SSIM (структурное сходство изображений) | AlexNet(2) | AlexNet(5) | Начало | CLIP | EffNet | SwAV |
| Исходный уровень | 0.141 | 0.321 | 0.823 | 0.878 | 0.704 | 0.739 | 0.898 | 0.564 |
| Декодирование изображений по ЭЭГ | - | 0.345 | 0.776 | 0.866 | 0.734 | 0.786 | - | 0.582 |
| Перцептограмма (unCLIP) | 0.223 | 0.370 | 0.875 | 0.915 | 0.749 | 0.806 | 0.870 | 0.530 |
| TDE-Net (наша разработка) | 0.253 ± 0.014 | 0.339 ± 0.003 | 0.878 ± 0.012 | 0.915 ± 0.012 | 0.761 ± 0.021 | 0.814 ± 0.007 | 0.829 ± 0.012 | 0.509 ± 0.010 |
Таблица 2: Результаты количественной реконструкции. Методы сравнения — базовая модель с внутренним сверточным вниманием (Baseline) и TDE-Net — оценивались в рамках единой экспериментальной структуры с использованием одного и того же разбиения THINGS-EEG2, 17-канального ввода, предварительной обработки, отложенных тестовых условий и определений метрик при сохранении специфичных для каждого метода архитектур. Данные текущей модели представлены как среднее ± SD по 10 испытуемым. PixCorr, SSIM, AlexNet Layer 2, AlexNet Layer 5, Inception-v3 и CLIP являются показателями, для которых более высокие значения свидетельствуют о лучшем результате; EffNet и SwAV представляют собой корреляционные расстояния, для которых более низкие значения являются лучшими. В столбце CLIP указана точность попарной идентификации с использованием модели OpenAI CLIP ViT-L/14.
| Предмет | PixCorr  | SSIM (индекс структурного сходства)  | AlexNet L2  | AlexNet L5  | Начало (Inception)  | CLIP  | EffNet  | SwAV  |
| под-01 | 0.2260 | 0.3361 | 0.8831 | 0.9203 | 0.7533 | 0.8120 | 0.8567 | 0.5285 |
| под-02 | 0.2488 | 0.3378 | 0.8699 | 0.9053 | 0.7268 | 0.8074 | 0.8335 | 0.5167 |
| под-03 | 0.2564 | 0.3397 | 0.8728 | 0.9070 | 0.7658 | 0.8143 | 0.8268 | 0.5096 |
| под-04 | 0.2420 | 0.3356 | 0.8598 | 0.9034 | 0.7854 | 0.8112 | 0.8255 | 0.5091 |
| под-05 | 0.2499 | 0.3385 | 0.8760 | 0.8963 | 0.7251 | 0.8016 | 0.8394 | 0.5189 |
| под-06 | 0.2621 | 0.3395 | 0.8910 | 0.9331 | 0.7818 | 0.8215 | 0.8202 | 0.5009 |
| под-07 | 0.2489 | 0.3378 | 0.8643 | 0.9185 | 0.7704 | 0.8200 | 0.8222 | 0.5017 |
| под-08 | 0.2786 | 0.3425 | 0.8951 | 0.9216 | 0.7524 | 0.8245 | 0.8214 | 0.5010 |
| под-09 | 0.2609 | 0.3370 | 0.8775 | 0.9238 | 0.7662 | 0.8055 | 0.8250 | 0.5009 |
| менее 10 | 0.2571 | 0.3433 | 0.8871 | 0.9240 | 0.7792 | 0.8175 | 0.8140 | 0.4977 |
| Среднее значение | 0.2531 | 0.3388 | 0.8777 | 0.9153 | 0.7606 | 0.8135 | 0.8285 | 0.5085 |
| Среднее значение ± СКО (стандартное отклонение) | 0.2531 ± 0.0138 | 0.3388 ± 0.0025 | 0.8777 ± 0.0115 | 0.9153 ± 0.0116 | 0.7606 ± 0.0213 | 0.8135 ± 0.0074 | 0.8285 ± 0.0122 | 0.5085 ± 0.0101 |
| 95% ДИ | 0.2432-0.2630 | 0.3370-0.3406 | 0.8695-0.8859 | 0.9070-0.9236 | 0.7454-0.7759 | 0.8082-0.8189 | 0.8198-0.8372 | 0.5013-0.5157 |
Таблица 3: Результаты количественного анализа TDE-Net при кросс-субъектном тестировании. Каждый субъект предоставляет 200 отложенных тестовых условий. В таблице приведены восемь показателей для испытуемых с sub-01 по sub-10, а затем среднее значение по всем субъектам, выборочное стандартное отклонение (SD) и 95% доверительный интервал (CI). CLIP обозначает точность попарной идентификации OpenAI CLIP ViT-L/14; EffNet и SwAV представляют собой корреляционные расстояния, где меньшее значение указывает на лучший результат.
| Метод | PixCorr | SSIM | AlexNet(2) | AlexNet(5) | Inception | CLIP | EffNet | SwAV |
| Линейный якорь | 0.2157 | 0.3309 | 0.8891 | 0.9128 | 0.7493 | 0.7967 | 0.8683 | 0.5394 |
| Линейный + Struct-Stream | 0.2318 | 0.3393 | 0.8861 | 0.9319 | 0.7439 | 0.7996 | 0.8657 | 0.5359 |
| Линейный + Sem-Stream | 0.2372 | 0.3382 | 0.8879 | 0.9228 | 0.7447 | 0.8026 | 0.8655 | 0.5307 |
| TDE-Net (наш вариант) | 0.2531 | 0.3388 | 0.8777 | 0.9153 | 0.7607 | 0.8135 | 0.8285 | 0.5085 |
Таблица 4: Результаты абляции, представленные в виде средних значений по испытуемым в рамках процедуры оценки, описанной в разделе 6 протокола. Linear Anchor представляет собой локально оцениваемый внутренний прямой опорный ориентир отображения гребней; структурная, семантическая и полная конфигурации используют одни и те же индексы условий и определения метрик. PixCorr, SSIM, AlexNet Layer 2, AlexNet Layer 5, Inception-v3 и CLIP являются показателями, где более высокие значения означают лучший результат; EffNet и SwAV — это корреляционные расстояния, где более низкие значения означают лучший результат. Значения приведены с точностью до трех знаков после запятой.
Дополнительная фигура 1: Репрезентативные примеры реконструкции, охватывающие диапазон согласованности CLIP для испытуемого sub-01. 200 отложенных условий ранжированы по косинусному сходству между объединенными предсказанными по ЭЭГ и истинными эмбеддингами CLIP; показаны шесть лучших, шесть средних и шесть худших случаев. В каждом столбце истинное изображение из тестового набора THINGS-EEG2 сопоставлено с результатом реконструкции TDE-Net. Истинные изображения были взяты из базы данных изображений THINGS34. Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительный рисунок 2: Совместная визуализация истинных и предсказанных по ЭЭГ представлений CLIP для субъекта sub-01 (n = 200 условий на каждое представление). (A) Истинные представления CLIP. (B) Представления CLIP, предсказанные по ЭЭГ. Цвета обозначают пять кластеров k-means, построенных на основе L2-нормированных истинных эмбеддингов CLIP (k = 5, n_init = 50, seed = 7). Кластеры представляют собой группы, определенные на основе данных, и не соответствуют заранее заданным семантическим категориям. Истинные и предсказанные эмбеддинги конкатенированы, сокращены до 50 измерений с помощью PCA и совместно спроецированы методом t-SNE (perplexity = 28, learning rate = auto, евклидова метрика, seed = 12). PCA — анализ главных компонентов; t-SNE — стохастическое вложение соседей с t-распределением. Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительный рисунок 3: Паттерны ЭЭГ, сгруппированные по широким категориям концепций изображений для испытуемого sub-01. Концепции распределены по категориям: «Животные», «Еда/Растения» или «Другие объекты». Внутри каждой категории строки расположены в соответствии с иерархической сортировкой Уорда для отбеленных истинных эмбеддингов CLIP; для обеспечения читаемости проведена равномерная выборка (не более 30 концепций). Столбцы представляют 17 каналов ЭЭГ с 80 временными точками на канал. Цветовая шкала (от -1 до 1) отображает ограниченную нормализованную амплитуду отбеленной ЭЭГ. Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительный рисунок 4: Топография внимания каналов скальпа в семантическом потоке. Цвета отображают нормализованные относительные величины выученных параметров веса каналов для выбранных 17 электродов в стандартной проекции скальпа по системе 10–20; точки и метки электродов определяют позиции измерений. Шкала варьируется от 0 до 1 и обобщает выученное моделью относительное взвешивание каналов. Пожалуйста, нажмите здесь, чтобы скачать этот файл.