私たちは、通常収集されたMedical Information Mart for Intensive Care IVの臨床データを用いて、脊髄神経外科手術を受ける成人の病院内骨粗鬆症分類のための注意ベースのTabTransformerモデルを開発し、内部評価しました。
研究記事
* These authors contributed equally
私たちは、通常収集されたMedical Information Mart for Intensive Care IVの臨床データを用いて、脊髄神経外科手術を受ける成人の病院内骨粗鬆症分類のための注意ベースのTabTransformerモデルを開発し、内部評価しました。
目的は、通常収集される表状臨床データを用いて、脊椎神経外科手術を受ける成人の骨粗鬆症の病院内分類のためのディープラーニングモデルを開発し、内部で評価することでした。この回顧的研究は、Medical Information Mart for Integrated Care IV(MIMIC-IV)データベースを用いて、脊椎神経外科手術を受けた成人患者を特定しました。骨粗鬆症は、インデックス入院時に記録されたICD-9/10診断コードによって定義されました。同じ入院者の人口統計的特徴、投薬記録、検査室での測定値、バイタルサインをモデル開発に用いました。トレーニング、検証、テストセットに階層化した後、クラスの不均衡はトレーニングセットでのみ対処されました。TabTransformerベースのモデルが開発され、XGBoost、LSTM_Attention、時間畳み込みネットワーク(TCN)と比較されました。モデル解釈可能性はSHapley加法説明(SHAP)を用いて評価されました。ホールドアウトテストセットでは、TabTransformerが全体的に最良の性能を達成し、受信機動作特性曲線(AUC)下の面積は0.953、平均精度(AP)は0.799でした。TCN、XGBoost、LSTM_Attentionの対応値はそれぞれ0.937/0.707、0.857/0.303、0.755/0.179でした。SHAP解析により、年齢、性別、クレアチニン、赤血球分布幅、重炭酸塩、リン酸塩、好中球、および複数の薬物関連変数がモデル出力に影響する要因として特定されました。この単一施設回顧的コホートでは、TabTransformerモデルが骨粗鬆症の病院内分類において強い識別性能を示し、SHAPを通じて解釈可能な特徴レベルの関連性を提供しました。予測因子とアウトカムが同じ入院内で定義されたため、この枠組みは時間的に明示的な将来リスク予測ツールではなく、内部検証された探索的分類モデルとして解釈されるべきです。
骨粗鬆症(OP)は、骨密度の低下と骨組織の構造劣化を特徴とする広範な骨格疾患であり、これにより骨の脆弱性が増加し骨折のリスクが高まります。特に高齢者や閉経後の女性の間で、依然として重大な公衆衛生上の懸念を引き起こしています。脊椎神経外科手術を受ける入院患者では、骨の健康が可動性の低下、全身ストレス反応、薬物曝露、インデックス入院時の代謝恒常性の乱れなどによって影響を受けることがあります。神経疾患や脊髄損傷からの既存証拠は、固定や全身疾患が骨減少の加速に寄与する可能性を示唆していますが、この特定の臨床文脈における骨粗鬆症関連のシグナルは十分に特徴づけられていません。
日常的に収集される電子カルテデータは、人口統計的特徴、投薬記録、検査結果、バイタルサインなど、既に利用可能な変数を用いて、この集団における骨粗鬆症に関連するパターンを検証する機会を提供します。ケアに関連する変数(例:薬剤使用パターン)は、機能的状態や移動性の間接的な代理指標として機能することがあります。しかし、構造化された表状臨床データを用いて成人が脊椎神経外科手術を受けることに焦点を当てた研究は比較的少なくなっています。さらに、集中治療IVのための医療情報マート(MIMIC-IV)データベースは、広範な多施設集団ではなく、単一の三次医療センターからの大規模な回顧的ICUコホートを表しています。したがって、このリソースに基づく分析は内部検証および探索的臨床モデリングの範囲内で解釈されるべきです。最近の機械学習研究では、バイオマーカーと臨床変数を統合することで骨粗鬆症関連のリスクモデルが改善されましたが、そのような研究は主に非神経外科の集団で行われています5。
機械学習手法は、特に異種変数間で複雑かつ非線形な相互作用が存在する場合に、高次元の表状臨床データの解析にますます活用されています。これらの手法の中で、TabTransformerアーキテクチャは自己注意を通じて特徴間の文脈的関係をモデル化でき、カテゴリ変数と数値変数の両方の柔軟性を保つため、混合表入力に適しています。SHapley加法説明(SHAP)と組み合わせることで、特徴寄与の解釈可能な記述も提供でき、人口統計学的、検査室的、生理的、薬物関連の変数がモデル出力とどのように関連しているかを探索的に評価することが可能になります。
したがって、本研究ではMIMIC-IVデータを用いて、インデックス入院時に脊椎神経外科手術を受けた成人の骨粗鬆症の院内識別のための注意ベースのTabTransformerモデルを開発し、内部評価しました。人口統計学的変数と入院レベルの集計薬物、検査室、バイタルサインの特徴を用いて、TabTransformerモデルを複数のベースラインモデルと比較し、SHAPに基づく解釈を通じて最も影響力のある特徴を検討しました。予測因子とアウトカムの両方が同じ入院内で定義されたため、本分析は時間的に明示的な将来リスク予測モデルではなく、同時進行する病院内分類フレームワークを表しています。したがって、本研究は単一施設の回顧的ICUコホートにおける内部検証済みの探索的解析を意図しています。
アクセスが制限されています。このコンテンツを表示するにはログインするか、トライアルを開始してください。
データソース
本研究は、PhysioNet(https://physionet.org/content/mimiciv/3.1/)上で公開されている集中治療用データベースであるMedical Information Mart for Intensive Care IV(MIMIC-IV、バージョン3.1)データベースに基づく回顧的分析でした。このデータベースは、マサチューセッツ工科大学計算生理学研究所、ベス・イスラエル・ディーコネス医療センター、フィリップスとの協力によって開発され、人口統計情報、バイタルサイン、検査結果、投薬記録など、包括的な非特定化臨床データを含んでいます。
MIMIC-IVのすべての患者データは、健康保険の携行性と説明責任法(HIPAA)に従って完全に非識別化されており、したがって本研究は機関審査委員会(IRB)の承認を必要としませんでした。データベースの使用はデータ使用契約(DUA)によって規定されており、必要なトレーニングと認証を修了した認可ユーザーのみがアクセス権を得ます。著者らは必要な研修を修了し、アクセス資格(PhysioNet認証ユーザー)を取得し、関連するデータ利用規制を遵守して本研究を実施しました。
研究対象集団とデータ抽出
脊椎神経外科手術を受けた成人患者(≥18歳)は、MIMIC-IVデータベースから手技関連ICDコードを用いて特定されました。脊椎神経外科手術は、ICD-9コードが03で始まる(脊髄および脊髄管の手術)と、ICD-10コードが00B、00H、00J、00N、00P、00Q、00R、00S、00T、または00Uで始まる(脊髄関連手技)として定義されました。複数回入院した患者では、同一個人からの重複測定を避けるため、適格な手技を含む最初の入院のみが保持されました。
転帰変数である骨粗鬆症は、インデックス入院時に記録されたICD-9コードとM80、M81、またはM82で始まるICD-10コードに基づいて定義されました。予測因子とアウトカムの両方が同じ入院から導かれていたため、本研究の分析課題は前向きリスク予測ではなく、病院内での分類として枠組み付けられました。
合計10,803人の患者が対象基準を満たしました。階層分割後、データセットはトレーニングセット(n = 7,561)、検証セット(n = 1,621)、テストセット(n = 1,621)に分割されました。階級分布はすべての区画で大きく不均衡でした。トレーニングセットでは、499人(6.60%)が骨粗鬆症陽性、7,062人(93.40%)が骨粗鬆症陰性でした。検証セットでは、107人(6.60%)が陽性、1,514人(93.40%)が陰性でした。テストセットは同じ分布を示し、陽性107件(6.60%)、陰性1,514件(93.40%)でした。
臨床データはMIMIC-IVのリレーショナルデータベース管理ソフトウェアを用いて抽出されました。抽出された変数には、人口統計的特徴(例:年齢や性別)、検査結果、バイタルサイン、投薬記録が含まれていました。各患者に対して、インデックス入院時のデータが後続の特徴構築に用いられました。
妥当なモデル評価を確保するため、データセットはまずトレーニング、検証、テストセットに分割され、階層化サンプリング(70%、15%、15%)が行われました。3,7。バイアスを導入する可能性のあるすべての後処理ステップ、特徴選択やリサンプリングは、訓練セット内でのみ実施されました。訓練セットのクラス不均衡は、多数派クラスのダウンサンプリングと合成少数派オーバーサンプリング技術(SMOTE)の組み合わせで対処され、検証セットとテストセットは実際の有病率を反映するために元のクラス分布を維持しました。
特徴解析
モデルの性能を向上させつつ解釈可能性を維持するために、多段階の特徴量工学パイプラインが実装されました。各患者について、インデックス入院時の薬物、検査室、バイタルサインの記録が要約レベルの特徴(例:反復測定の平均値や薬物の平均曝露)に集約されました。
特徴のばら性を減らすために、欠損値が30%を超える候補特徴群は除外しました。データの漏洩を防ぐため、このフィルタリングステップはトレーニングセットのみを使用して行われ、同じ特徴セットを検証セットとテストセットに適用しました。
その後、特徴群レベルでMann–Whitney U 検定を用いた単変量特徴スクリーニングが行われ、骨粗鬆症陽性と骨粗鬆症陰性の患者の分布を比較しました。特徴群は統計的有意性に基づいてランク付けされ、上位k群(k = 20)は下流のモデリングのために保持されました。この選択手順は情報漏洩を防ぐために訓練セット内でのみ実施されました。
候補特徴群間で比較的高い欠損率を考慮すると、このトップk選択ステップの主な役割は、特徴次元性を厳密に最適化するのではなく、統計的に弱い信号を持つ特徴をフィルタリングすることにありました。実際には、モデルのパフォーマンスは合理的な範囲内のkの正確な値に対してあまり敏感ではなく、このステップは主にロバスト性指向のスクリーニング手法として機能し、低情報的特徴を除外しつつ臨床的に関連性の高いシグナルを保持したことが示唆されます。
基本的な人口統計的特徴はすべてのモデルで維持されました。これらの人口統計変数の欠損値は、訓練セットから計算された平均値を用いて帰合されました。平均補補はこの大規模なデータセットにおける単純性と安定性から選ばれましたが、分散を減らしバイアスを生じさせる可能性があります。この制限は認識されています。
選択された薬物、検査室、バイタルサインの特徴については、記録された測定値や曝露の欠如をゼロとして符号化し、モデルトレーニングのための一貫した数値入力を可能にしました。このアプローチは、特にゼロが生理学的に意味のない変数の場合、真のゼロ値を欠損や非曝露と混同してしまう可能性があることを認識しています。しかし、この符号化戦略はすべてのサンプルで一貫して適用され、その後にZスコア標準化が施され、スケール関連の歪みを軽減しました。この仮定の潜在的な影響は制限として議論されます。
すべての数値特徴は、トレーニングセットから推定された平均および標準偏差に基づくZスコア正規化を用いて標準化されました。
z = (x — μ)/σ
ここで x は生の特徴値を表し、μ と σ は訓練セットから計算される平均および標準偏差を表します。カテゴリ変数は、ディープラーニングモデルの入力要件を満たすために数値的にエンコードされました。
この特徴工学戦略により、臨床的に関連性のある領域(人口統計学的特徴、腎機能、血液学的指標、炎症マーカー、代謝パラメータなど)を保持しつつ、次元性を体系的に低減することが可能になります。研究対象集団のトレーニング、検証、テストセットにわたる詳細なベースライン特性は 表1に示されています。
| 特徴 | 合計 | トレーニングセット | 検証セット | テストセット | P値 |
| (n=5238) | (n=1996年) | (n=1621) | (n=1621) | ||
| 性別 | <0.001 | ||||
| 男性 | 2477 (47.29%) | 834 (41.78%) | 797 (49.17%) | 846 (52.19%) | |
| 女性 | 2761 (52.71%) | 1162 (58.22%) | 824 (50.83%) | 775 (47.81%) | |
| 年代 | 60.69 (48.29, 70.61) | 63.45 (52.00, 72.41) | 58.00 (46.00, 69.00) | 60.00 (46.00, 70.00) | <0.001 |
| 高さ | 165.23 (160.79, 171.21) | 164.25(161.41, 172.23) | 166.32 (161.85, 171.22) | 165.22 (161.31, 169.89) | <0.001 |
| 重量 | 72.01 (56.77, 82.46) | 75.45 (63.22, 81.45) | 70.55 (60.22, 79.33) | 73.62 (65.22, 81.88) | <0.001 |
| セナ | 1.00 (-0.73, 8.60) | 1.00 (-0.30, 8.60) | 1.00 (-1.00, 8.60) | 1.00 (-1.00, 8.60) | <0.001 |
| ドクセートナトリウム | 100.00 (100.00, 100.00) | 100.00 (100.00, 100.00) | 100.00 (100.00, 100.00) | 100.00 (100.00, 100.00) | 0.001 |
| ヘパリン | 5000.00 (1655.28, 5000.00) | 5000.00 (-1.00, 5000.00) | 5000.00 (1600.00, 5000.00) | 5000.00 (3750.00, 5000.00) | 0.292 |
| 塩化ナトリウム 0.9% フラッシュ | 3.00 (1.76, 3.00) | 3.00 (3.00, 3.00) | 3.00 (-1.00, 3.00) | 3.00 (3.00, 3.00) | <0.001 |
| 赤血球 | 3.96 (3.51, 4.35) | 3.90 (3.49, 4.28) | 4.02 (3.53, 4.40) | 3.97 (3.50, 4.38) | <0.001 |
| ヘモグロビン | 11.81 (10.51, 13.02) | 11.66 (10.47, 12.82) | 11.91 (10.58, 13.14) | 11.90 (10.49, 13.15) | <0.001 |
| RDW | 13.98 (13.22, 15.15) | 14.12 (13.35, 15.24) | 13.90 (13.10, 15.06) | 13.90 (13.18, 15.13) | <0.001 |
| ヘマトクリット | 35.67 (31.95, 39.00) | 35.32 (31.63, 38.50) | 36.00 (32.28, 39.37) | 35.77 (32.01, 39.25) | <0.001 |
| 比重 | 1.01 (1.01, 1.02) | 1.01 (1.01, 1.02) | 1.01 (1.01, 1.02) | 1.01 (1.01, 1.02) | <0.001 |
| 重炭酸塩 | 25.72 (24.04, 27.15) | 25.86 (24.17, 27.27) | 25.65 (23.92, 27.03) | 25.62 (24.00, 27.12) | <0.001 |
| 好中球 | 68.67 (60.52, 76.23) | 69.41 (61.90, 76.52) | 68.10 (59.60, 75.88) | 68.34 (59.75, 76.23) | <0.001 |
| クレアチニン | 0.82 (0.68, 1.02) | 0.81 (0.68, 1.00) | 0.83 (0.69, 1.02) | 0.83 (0.68, 1.03) | <0.001 |
| リン酸塩 | 3.29 (2.92, 3.64) | 3.27 (2.93, 3.57) | 3.30 (2.93, 3.69) | 3.30 (2.90, 3.65) | 0.002 |
| 尿素窒素 | 15.43 (12.08, 20.18) | 15.74 (12.50, 20.20) | 15.00 (11.64, 19.89) | 15.48 (12.00, 20.43) | <0.001 |
| リンパ球 | 19.12 (12.22, 26.15) | 18.81 (12.49, 25.30) | 19.36 (12.40, 27.07) | 19.24 (11.72, 26.27) | 0.001 |
| アラニンアミノトランスフェラーゼ(ALT) | 20.49 (10.84, 32.82) | 20.47 (11.67, 32.06) | 20.00 (10.00, 32.93) | 21.00 (10.67, 33.67) | 0.3283 |
| MCV | 90.90 (87.50, 94.32) | 91.03 (87.64, 94.51) | 90.64 (87.43, 94.00) | 91.00 (87.40, 94.40) | <0.001 |
| MCHC | 33.14 (32.37, 33.92) | 33.11 (32.37, 33.88) | 33.16 (32.38, 33.97) | 33.16 (32.35, 33.93) | <0.001 |
| 好塩基球 | 0.42 (0.27, 0.61) | 0.41 (0.27, 0.59) | 0.45 (0.29, 0.63) | 0.41 (0.26, 0.60) | 0.037 |
表1。研究対象集団のベースライン特性は、訓練、検証、テストセットごとに階層化されています。
モデルアーキテクチャ
異種の表状臨床特徴間の複雑な関係をモデル化するために、PyTorchフレームワーク6を用いて実装されたTabTransformerベースのアーキテクチャを採用しました。このモデルは、カテゴリ変数と数値変数の両方を処理し、自己注意メカニズムを通じて特徴間の文脈的相互作用を捉えるよう設計されました。
入力表現
圏変数はまず密な埋め込みに変換されました。各カテゴリカル特徴は次元 d(embedding_dim = 256) の埋め込みベクトルに写像されました。数値特徴はZスコア正規化を用いて標準化され、線形変換層を通じて同じ埋め込み空間に投影され、カテゴリカル特徴との結合処理が可能になりました。
埋め込まれた特徴ベクトルは連結されてトークンの列を形成しました。
X = [x1,x 2,...xn]
ここで、各 xi ∈ Rd は埋め込み特徴を表します。
トランスエンコーダ
連結された特徴埋め込みは、トランスフォーマーエンコーダ層のスタック(num_layers = 3)を通過しました。各層は複数ヘッドの自己注意と位置別フィードフォワードネットワークで構成されていました。
マルチヘッドセルフアテンション機構は次のように定義されます:
—> 注意(Q,K,V)=ソフトマックス
V
ここで Q、K、V はクエリ行列、鍵行列、値行列を表します。多様な特徴の相互作用を捉えるために、複数の注意ヘッド(num_heads = 8)が用いられました。
各トランスブロックにはマルチヘッド自己注意、残留接続および層正規化、フィードフォワードネットワーク、ドロップアウト(レート=0.243)が含まれていました。
特徴集約と分類
最終トランスフォーマー層の出力は平坦化され、分類のために多層パーセプトロン(MLP)を通過しました。MLPは、非線形活性化関数を持つ1つ以上の完全連結層で構成されていました。
最終出力層では、シグモイド活性化関数を用いて骨粗鬆症の予測確率を算出しました。
—>
= σ(z)
ここでzはlogit出力です。
損失関数と訓練戦略
モデルは二値クロスエントロピー損失を用いて訓練されました:
—> L = −(1/N) Σ [ yi log(ŷi) + (1 − yi) log(1 − ŷi) ]
ここでyi は真のラベル、
i は予測確率を表します。
モデルはアダム最適化器(学習率=1.9e-4、バッチサイズ=64)を用いて100エポックに最適化されました。過学習を防ぐために検証性能(耐性=15)に基づいて早期停止が適用されました。再現性を支持するため、すべての実験手順は一定のランダムシード(シード=42)を用いて実施されました。
モデル解釈可能性
解釈性を高めるために、SHapley加法説明(SHAP)が訓練済みモデルに適用されました。SHAP値はテストセット上で計算され、各特徴が予測結果にどれだけ寄与するかを定量化し、モデル挙動のグローバルおよび個別レベルの解釈を可能にしました。
図1に示すように、ワークフローはMIMIC-IVのデータ前処理からモデル構築および分類までのプロセスを要約しています。TabTransformerアーキテクチャは自己注意を通じて異種の表状特徴間の相互作用を捉え、SHAPベースの可視化は特徴の寄与に関する解釈可能な洞察を提供します。この枠組みは、異質な脊椎神経外科コホートにおける骨粗鬆症関連パターンの内部検証済み解析を可能にします。

図1。ワークフローとモデルアーキテクチャを学びましょう。この図 は、コホート選択、データ前処理、特徴工学、データセット分割、モデル開発を含む全体的な研究デザインを示しています。また、特徴埋め込み、トランスフォーマーエンコーダ層、最終的な分類出力を含む分類に用いられるTabTransformerアーキテクチャの概要もまとめています。対象は患者一人あたりの最初の適格入院のみでした。 この図の拡大版はこちらをクリックしてご覧ください。
アクセスが制限されています。このコンテンツを表示するにはログインするか、トライアルを開始してください。
モデル性能比較
提案されたTabTransformerモデルを、保留テストセット上で3つのベースラインモデル(XGBoost、注意付きLSTM、時間畳み込みネットワーク[TCN])と比較しました。 図2に示すように、TabTransformerは最高判別性能を達成し、AUCは0.953(95%CI:0.924–0.977)、次いでTCN(AUC = 0.937、95% CI:0.903–0.967)、XGBoost(AUC = 0.857、95% CI:0.821–0.890)、LSTM_Attention(AUC = 0.755、95% CI:0.707–0.799)が続きました。
精度・再現解析は 図3に示されています。TabTransformerが平均精度(AP = 0.799)で最高を記録し、次いでTCN(AP = 0.707)、XGBoost(AP...
アクセスが制限されています。このコンテンツを表示するにはログインするか、トライアルを開始してください。
本研究では、脊椎神経外科手術を受ける成人の骨粗鬆症の院内分類のための注意ベースのTabTransformerモデルを開発し、SHapley加法説明(SHAP)を用いてモデル出力の主な要因を探りました(図5 および 図6)。SHAPの結果は、年齢が主な要因であり、その後に腎および代謝マーカー、血液学的指標、選択された薬物変数、基本的な人口統計的特徴からの繰り返しのシグナルが続くことを示唆しています。これらの結果は、時間的に検証された将来リスク予測や直接的な因果関係の証拠ではなく、指数入院率内のモデル導出の関連性として解釈されるべきです。

アクセスが制限されています。このコンテンツを表示するにはログインするか、トライアルを開始してください。
著者には利益相反を主張するものはありません。
著者らは、宿千市指導科学技術プログラム(助成金第Z202342号)からの財政支援に感謝いたします。
アクセスが制限されています。このコンテンツを表示するにはログインするか、トライアルを開始してください。
| 名前 | 会社 | カタログ番号 | コメント |
|---|---|---|---|
| Adam optimizer | PyTorch | PyTorchに含まれている | TabTransformerトレーニングに使用 |
| Jupyter Notebook | Project Jupyter | 最新の利用可能なバージョン | モデル開発と分析ワークフローに使用 |
| MIMIC-IVデータベース | PhysioNet | バージョン3.1; https://physionet.org/content/mimiciv/3.1/ | 公開された匿名の集中治療データベース |
| Python | Python Software Foundation | 最新の利用可能なバージョン | メインのプログラミング環境 |
| PyTorch | PyTorch Foundation | 最新の利用可能なバージョン | TabTransformerを実装するために使用されるディープラーニングフレームワーク |
| リレーショナルデータベース管理ソフトウェア | Navicat | バージョン17.0; https://www.navicat.com.cn/ | MIMIC-IVからのデータ抽出に使用 |
| scikit-learn | scikit-learn開発者 | 最新の利用可能なバージョン | 前処理、データ分割、ベースラインモデルに使用 |
| SHAP | SHAP開発者 | 最新の利用可能なバージョン | モデルの解釈可能性分析に使用 |
| SMOTE | imbalanced-learn | 最新の利用可能なバージョン | トレーニングセットにおけるマイノリティクラスのオーバーサンプリングに使用 |
| XGBoost | XGBoost開発者 | 最新の利用可能なバージョン | ベースライン比較モデル |
アクセスが制限されています。このコンテンツを表示するにはログインするか、トライアルを開始してください。
このJoVE記事のテキストまたは図の再利用許可をリクエスト
許可をリクエスト