基于迁移学习的深度学习方法，使用改进的 XceptionNet 架构进行膝骨关节炎分级

Summary

为了增强 X 射线对膝骨关节炎的识别，本研究提出了 OsteoXceptionNet，这是一种深度学习模型，它使用修改后的 XceptionNet 和迁移学习。该模型改进了特征提取，降低了手动解释错误，并允许更精确的自动分类。

Abstract

膝骨关节炎 （KOA） 影响着全世界数百万人，并且没有已知的治愈性治疗方法，使其成为一个严重的全球健康问题。其发展的管理取决于早期发现，而 X 射线成像是一种基本的诊断技术。然而，由于放射科医生经验水平的差异，手动 X 射线解释增加了可变性和可能的不准确性。机器学习和深度学习技术的最新进展引发了用于膝关节骨关节炎放射学识别的自动化系统的创建。然而，对于早期检测，获得更高的预测精度仍然至关重要。通过利用从更大的数据集中收集的见解，在较小的特定领域数据集上训练的模型通过使用迁移学习表现得更好。由于其深度和有效性，XceptionNet 特别适合涉及医学图像解释的工作。与之前的研究相比，该方法通过使用类平衡方法、集成定制的预处理管道以及向 XceptionNet 添加定制的架构改进来有效解决数据集不平衡问题，从而改善了早期 KOA 识别。通过使用这些最先进的方法，建议的方法显示出从膝关节放射学图像中正确识别骨关节炎的潜力，达到 97% 的预测准确率、97.8% 的精度、97.6% 的召回率和 97.6% 的 F1 测量。此外，生成的模型显示了 95.94% 的 Cohen's kappa 值，这表明一致性良好。该研究支持进一步努力开发值得信赖的自动化疾病检测技术，从而改善患者的治疗效果并促进更有效的医疗保健服务。

Introduction

膝骨关节炎 （KOA） 是一个重大的全球公共卫生问题，影响着许多人，并给患者和医疗机构带来了沉重的负担。在这种疾病中，膝关节的关节软骨逐渐恶化。它具有复杂且多维的病因，包括年龄、肥胖、关节创伤、生物力学变量和遗传易感性的混合¹。

结构完整性的丧失会导致软骨变薄、裂开并最终侵蚀，从而暴露下面的骨骼。KOA 的症状范围很广，并且经常随着时间的推移而恶化，从轻微的不适到难以忍受的疼痛和功能丧失²。膝关节疼痛的主要症状通常会因负重运动和长时间活动而加重。常见的观察结果包括僵硬，特别是在休息期间、水肿、捻发音和运动范围缩小³。这些症状严重干扰了日常功能，导致功能受限并降低经历这些症状的人的生活质量。

这里测试的假设是，基于深度学习的自动化模型可以在诊断方面与专业放射科医生相当，并使用 Kellgren-Lawrence 分级系统从成像数据中正确诊断 KOA 的严重程度。

本研究的目的源于与膝骨关节炎诊断和分级的传统方法相关的固有局限性。传统上，放射成像，尤其是膝关节 X 射线分析，用于评估关节损伤程度。然而，对这些图像的体格检查容易受到可变性的影响，并且可能非常耗时⁴.深度学习和机器学习 （ML） 领域的进步为自动化和提高 KOA 检测和分级的准确性提供了一条有前途的途径，提供了一种更加标准化和高效的方法。这在病情的早期阶段尤为重要，随着病情的进展，干预可以极大地影响患者生活水平的变化。

机器学习方法：自动化 KOA 识别的首次尝试是基于经典的机器学习方法。K-最近邻、支持向量机和决策树等策略依赖于从膝盖 X 射线图像中获取的手工特征。尽管它们提供了一些自动化，但手动派生特征的质量和相关性是影响其有效性的主要因素。这经常导致较差的普遍性和性能⁵。

深度学习 （DL） 方法：卷积神经网络或深度学习的出现是该领域的一个重要里程碑。卷积神经网络 （CNN） 以其自动特征提取而闻名，在 KOA 图像分析中越来越受欢迎。与传统的ML技术相比，这些算法在准确性以及直接^从图像中识别复杂模式的能力方面显示出显着的改进^6,7。

迁移学习 （TL）：这使得模型在大规模通用数据集上进行预训练后，可以针对需要医学成像的任务进行定制，这在最近的研究中越来越受欢迎⁸。这种方法在医疗领域尤其有效，因为小型、专业的数据集很常见。

TL 强调了 KOA 严重程度分类的改进结果，它使用从较大任务中学到的一般特征，并根据医学图像分析的特定细微之处进行定制 ^9,10。

对于使用射线照相图像进行KOA识别和分级，近年来已经研究了许多自动化技术，特别是深度学习模型^11,12。然而，当前的许多模型要么没有充分处理数据集不平衡和可解释性的问题，要么它们没有在早期阶段足够准确地检测问题。这里建议的方法通过添加三个重要的增强功能来扩展该框架：对 XceptionNet 模型进行设计更改以改进特征提取，类平衡技术以提高模型可靠性，以及旨在改善膝关节特征的定制预处理管道。除了支持更精确、更可靠的 KOA 分类外，这些改进还比传统的迁移学习技术有了实质性的改进。

尽管 DL 和 ML 在分析 KOA 方面取得了显着进展，但仍存在需要克服的挑战，主要是在实现精确分类、提高可解释性和管理数据不平衡方面。拟议的研究通过提供更彻底、透明和公平的评估，扩展了之前的研究^{13、14、15、16、17、18、19、20、21、22}，从而突破了目前自动化 KOA 诊断和分级的界限。 表 1 概述了当前在骨关节炎检测方面进行的研究分析。

研究	目的		总结
胡等人13	开发 DeepKOA 以使用 MR 图像预测膝骨关节炎的进展。		DeepKOA 显示出有前途的膝骨关节炎预测能力，凸显了深度学习在临床环境中的潜力。需要进一步验证。
Guida 等人14	通过整合 X 射线、MRI 和临床数据来增强 OA 严重程度分类。		融合模型显着提高了 OA 分类准确性，突出了多模态方法的优势。未来的研究应该解决普遍性问题。
Bensalma 等人15	使用多模式分析确定膝骨关节炎患者各种因素之间的关联。		该研究揭示了膝关节 OA 中多种因素之间的相互关系，提出了有针对性的干预和进一步调查的途径。
Koppold 等人16	检查长期改良禁食对骨关节炎症状的影响。		改良禁食显示出骨关节炎患者的症状显着改善，表明其作为治疗策略的潜力。需要更多的研究，尤其是随机对照试验。
Jain 等人17	提供 OsteoHRNet，用于通过 X 射线评估膝关节 OA 严重程度。		OsteoHRNet 在 X 射线中提高了膝关节 OA 严重程度分类的准确性，表明其临床应用潜力。建议进一步验证数据集。
Afroze 等人18	评估基于机器学习的骨关节炎 （OA） 检测方法，跨各种成像方式。		该审查确定了基于机器学习的 OA 检测中的关键差距，强调了标准化方法和经验模型的必要性。
Teoh 等人 19	开发一个多任务模型，用于从射线照相中进行详细的 OA 诊断。		多任务模型通过预测个体 OA 特征和疼痛强度来提高 OA 诊断的准确性，从而表明精确干预的潜力。鼓励进行更多研究以扩大这些发现。
张等人20	创建 MRI 中多层次膝关节软骨损伤分类模型。		该模型在使用 MRI 进行膝关节软骨损伤分类方面具有高精度，显示出作为非侵入性诊断工具的前景。建议进一步进行跨群体验证。
李等人21	检查多视图图像和先验信息的影响，以及深度学习模型使用 X 射线识别和分类膝骨关节炎的能力。		使用DL模型正确识别和分类KOA的KL分级。此外，先验知识和多视图X射线图像提高了分类效果。
拉特纳等人22	探索机器学习如何用于膝骨关节炎研究，以更好地了解病情的进展和早期诊断。		该研究强调了机器学习如何影响 OA 研究，特别是在早期诊断和理解发展方面，并建议进行更多研究以改善其临床整合。

表 1：膝骨关节炎检测的最新工作概述。

这项工作的主要贡献包括 OsteoXceptionNet，一种用于膝骨关节炎分级的改进的 XceptionNet 架构，以及使用专门创建的预处理管道来提高诊断的准确性。骨关节炎倡议 （OAI） 数据集用于训练，许多基线设计用于评估。在回顾相关文献后，在研究的后续部分中描述了数据集和制备技术。在概述实验结果和讨论临床重要性之后，它进一步深入研究了所提出的模型架构，然后总结了主要发现并提出了未来的方向。

数据集和实验配置
OAI 数据集由随着时间的推移从不同临床地点收集的数千张带注释的膝关节 X 射线图像组成，已公开用于本研究。用于本研究的 9786 张膝关节 X 射线图像代表了五类 Kellgren-Lawrence （KL） 膝骨关节炎：健康（3857 张图像）、可疑（1770 张）、最小（2578 张）、中度（1286 张）和严重（295 张）。在预处理过程中，所有图像使用双线性插值均匀缩放到 224 x 224 像素。在实验环境中使用建议的 OsteoXceptionNet 框架自动分割膝关节结构，然后将其分类为 KOA 严重程度等级。

为了确保尽可能多的类平衡，将数据集分为训练 （80%）、验证 （10%） 和测试 （10%） 的子组。尽管该数据集很有用，但该数据集有几个缺点，例如类不平衡，属于严重组的样本比其他样本少。此外，该数据集仅包括射线照相成像;它缺乏磁共振成像 （MRI） 或临床信息等多模态输入，这可能会限制其普遍性。人口偏斜限制了数据与其他种族群体的相关性，因为它主要代表北美人口，这是另一个值得注意的缺点。尽管在可行的情况下使用类加权损失函数和数据增强来缓解这些限制，但在分析模型性能时，这些仍然是至关重要的考虑因素。

根据影像学结果，分级方法，例如 Kellgren-Lawrence （KL） 分级系统，将 KOA 的严重程度分为五类：0 级（健康）、1 级（可疑）、2 级（轻微）、3 级（中度）和 4 级（严重）²³。KL等级的不同图像如 图1所示。

图 1：膝关节图像的 KL 分级。根据影像学结果，KOA 的严重程度分为五类：0 级（健康）、1 级（可疑）、2 级（轻度）、3 级（中度）和 4 级（严重）。 请点击此处查看此图的大图。

Protocol

本节介绍了一种综合方法，旨在通过使用改进的 XceptionNet 模型来增强膝骨关节炎的诊断和分级。所提出的方法基于仔细的数据预处理、彻底的模型架构定制和强大的评估技术，所有这些都旨在解决与膝关节 OA 成像相关的复杂问题。在 图 2 中，已经说明了模型的流程。

图 2：模型的工作流程。请点击此处查看此图的大图。

数据集描述
本研究中使用的数据集包括来自 OAI 数据集的 9,786 张膝关节 X 射线图像，这些图像已根据 KL 分级技术分配了 OA 等级。该数据集提供了涵盖KOA各个阶段的广泛实例，对于训练和评估所提出的模型²⁴至关重要。双线性插值用于缩放所有图像。之所以选择这种技术，是因为它在计算有效性和保持图像质量之间取得了折衷，这两者对于维持对膝关节骨关节炎分类很重要的解剖特征至关重要。在数据集中，等级为 0-4,0 级代表膝盖健康，4 级表示严重骨关节炎。该等级提供了一系列复杂的疾病演变，这对于模型了解各个阶段的微小变化至关重要。

此外，数据集被组织成测试集、验证集和训练集。为了评估模型的性能并确保它学会有效地泛化而不过度拟合训练集，这种拆分是必不可少的。测试集提供了对最终模型功效的客观评估，因为它也用于修改模型的权重。此外，验证集有助于在整个训练阶段微调超参数和评估模型。 表 2 提供了数据分布的简要摘要， 图 3 提供了相同的直观描述。

类	自动测试	测试	火车	瓦尔
0	604	639	2286	328
1	275	296	1046	153
2	403	447	1516	212
3	200	223	757	106
4	44	51	173	27

表2：数据集简要说明。

图 3：数据集分布。 数据集被组织为测试集、验证集和训练集。 请点击此处查看此图的大图。

数据预处理
此步骤至关重要，旨在通过提高输入数据的质量来提高模型性能。预处理涉及的阶段如下。

图像大小调整：每个 X 射线图像都应用标准尺寸，以提供整组图像的一致性。此阶段对于模型一致有效地处理图像至关重要。此过程使用公式 1。

新图像大小 = 调整大小（原始图像，标准尺寸）（1）

归一化：图像中的像素值已标准化，可获得平均值为零，标准差为一。这种归一化可确保输入值落在相似的范围内，从而加快模型在训练过程中的收敛速度。公式 2 用于执行此归一化步骤。

(2)

数据增强：采用数据增强策略来解决因数据不足而导致的问题并增强模型的泛化能力。这些方法包括翻转、缩放、旋转和平移。他们引入有意添加到训练数据集中的新图像。公式 3 用于实施此增强程序。

增强图像 = 应用变换（原始图像） （3）

采用各种增强技术为训练集提供可变性，以提高模型的鲁棒性并最大限度地减少过度拟合。训练数据增强中包括0.2的剪切范围、0.8至1.2的变焦范围（对应于0.2的变焦系数）和-30°至+30°的随机旋转范围。允许水平和垂直翻转，概率为0.5，以增强模型泛化。对于垂直和水平剪切，也采用了 0.1 的剪切系数，即± 10% 的变形。

类平衡：使用类加权算法是因为数据集可能存在类不平衡（某些 OA 类的图像比其他类多）。为了防止模型显示偏向于更常见的类，此方法为代表性不足的类提供了更大的权重。在此过程中使用公式 4。以下值用于确定权重：健康：3857、可疑：1770、最小：2578、中等：1286 和严重：295 是 9786 个样本和 5 个类别的分类分布。

(4)

训练验证拆分：使用传统的 80：20 比例将数据集组织为验证集和训练集。划分数据允许模型从训练数据中学习，并使用验证集定期评估其性能。这允许识别过度拟合并评估模型的泛化能力。

数据管道优化：设置了改进的数据管道，以保证模型训练期间有效的数据处理。为了减少输入/输出瓶颈并提高计算性能，该管道利用了批处理、预取和并行数据提取技术。为了提高训练效率和吞吐量，开发了输入数据管道。为了保证平衡的内存利用率和计算负载，采用了 32 的批量大小。为了提高数据输入效率，在map函数中使用了num_parallel_calls=4来并行化数据加载和预处理。此外，为了最大限度地减少 I/O 延迟，TensorFlow 的预取 （buffer_size=tf.data.AUTOTUNE） 已被用于允许自动预取缓冲区大小调整。这有效地重叠了数据预处理和模型执行

在 图 4 中，在基本预处理后显示了不同类别图像的几个实例。

图 4：数据集中的实例。 该图显示了基本预处理后不同类别图像的几个实例。 请点击此处查看此图的大图。

通过这些细致的预处理步骤，数据集被转化为训练修改后的 XceptionNet 模型的坚实基础，为准确可靠的 KOA 检测和分级奠定了基础。

模型架构
基本模型：François Chollet 创建的 XceptionNet 模型以其独特的设计，使用深度可分离卷积来实现计算效率和模型复杂性之间的最佳平衡，脱颖而出²⁵。利用公式5实现深度可分离卷积。

深度可分离卷积（x） = 逐点（深度（x）） （5）

出于多种原因，它与这项研究特别相关。首先，其架构以从图像中提取详细和分层特征而闻名，这对于医学图像分析至关重要，其中细微的特征可以指示病情的不同阶段。其次，所提出的模型基于XceptionNet架构，该架构在多个图像分类任务中表现出出色的有效性，旨在检测和分级膝骨关节炎²⁶。

所展示的 OsteoXceptionNet 是 XceptionNet 架构的定制版本，专为从 X 射线图像自动分类膝关节骨关节炎而创建。重要的变化包括增加了三个卷积块（过滤器：512、256 和 128），以改进特定于膝关节结构的特征提取，以及过滤器尺寸为 3 x 3 的卷积层，过滤器计数范围为 32 到 1024 跨入口、中间和出口流。批量归一化和 ReLU 激活发生在每个卷积层之后，并添加删除层以最大限度地减少过度拟合。224 x 224 像素标准用于模型输入。

微调和修改
修改：XceptionNet 模型在一些方面进行了战略性修改，使其适合 KOA 分级和检测。

微调：预训练的 XceptionNet 模型的顶层被解冻，使模型能够学习特定于膝关节 X 射线图像的高级特征。模型微调按照公式6进行。

(6)

其中θ微_调为 微调后的参数;θ_预训练 是预训练参数;λ 是学习率;∇_θ预训练损失是损失函数与预训练参数相关的梯度。

附加卷积层：在模型的最后阶段引入了额外的卷积层。这些层具有较小的内核大小，以专注于提取与不同 OA 等级相关的更精细的细节。它使用公式 7。

卷积输出 = 卷积（输入，内核） （7）

批量归一化：在每个添加的卷积层之后，应用批量归一化以稳定学习并提高收敛速度。它使用公式 8 来使用。

(8)

其中 是归一化输出;x 是批次归一化层输入;μ 是输入批次的平均值;σ2 是输入批次中的方差;ε 是数值稳定性的最小常数。

激活函数：在补充层中利用 ReLU 激活函数来引入非线性，从而使模型能够获取数据中更复杂的结构。ReLU 使用公式 9 计算。

ReLU（x） = 最大值（0，x） （9）

其中，x 是 ReLU 激活函数输入。

辍学：为了防止过度拟合，合并了辍学层，特别是在新添加的层之后，以确保即使在看不见的数据上也能泛化模型。它是通过公式 10 完成的。

输出 = 输入×掩模 （10）

输出层配置
输出层：原始的 XceptionNet 模型是为多类分类而构建的，在输出层中使用 Softmax 激活函数。在这个改编的模型中，输出层被定制以表示膝骨关节炎的五个等级，从 0 级到 4 级，即从健康到严重的水平。准确地说，该层包括五个神经元，每个神经元对应于其中一个 OA 等级。该层利用Softmax激活函数生成了五个类别的概率分布，使所提出的模型能够预测给定膝关节X射线图像的适当OA等级。这种方法将模型的输出直接与临床分级量表保持一致，有助于医疗保健专业人员直观、实用地解释模型的预测。

XceptionNet 架构是专门为所讨论的研究目标对膝关节骨关节炎的严重程度进行分类而定制的——首先在 ImageNet 数据集上进行预训练。该模型通过使用 ImageNet 的预训练权重，利用了从大型且多样化的数据集中学习的特征，这为其奠定了坚实的基础。为了为拟议的研究定制基本的 XceptionNet 模型，添加了许多新层。

首先，将二维卷积层与不同数量的滤波器和核大小相结合，每个滤波器和核大小都通过 ReLU 和批量归一化激活以增加非线性。这些额外的层旨在捕捉和放大与膝关节骨关节炎严重程度相关的特征。然后，通过添加全球平均池化二维 （GAP） 层，该层在保留重要数据的同时缩小特征图，为最后一个分类阶段做好准备。特别是，GAP作通过将每个特征图的空间维度减少到单个值，同时保持深度（深度可能从 7 x 7 x 1024 到 1 x 1 x 1024）来实现降维，同时最大限度地减少数据丢失。GAP 层的输出被输入到 Softmax 激活函数中，该函数通过将 logit 转换为概率来实现多类分类。公式11、12、13、14、15、16和17分别用于GAP、Softmax激活、特征图计算、学习率降低、模型编译、类权重调整和多类分类损失。

(11)

式中， x_i，j为特征图的第i行和j列的激活;H 是特征图高度;W 是特征图宽度。

(12)

其中， x_i 是 i 类的 Softmax 函数的输入;n 是类数。

特征图 = σ（卷积（输入，核）+ 偏差） （13）

其中，卷积是卷积运算; i 是激活函数;输入是层的输入张量;内核是卷积核;偏见是偏见术语。

新学习率 = 学习率 × 系数 （14）

模型 = 编译（架构，损失，优化器，指标） （15）

(16)

其中，权重_等级 是分配给类的权重;总样本数是数据集的total_number_of_samples;Number_of_Classes 是数据集中独特类的数量;类中的样本是特定类中的样本计数。

(17)

式中， y_i 是 I 类的实际概率分布; p_i 是 I 类概率分布预测;N 是类数。

最后，该模型现在由修改后的 XceptionNet 架构和自定义层组成，被编译以预测每个类的概率。通过这些修改，目标是增强模型辨别与不同级别膝骨关节炎严重程度相关的细微特征的能力，从而增强其针对特定任务的分类性能。

为了实现稳定有效的收敛，使用Adam优化器训练模型，学习率为0.0001，以0.5作为辍学率，以尽量减少过拟合。为了限制模型复杂性并提高泛化性，使用了 L1 和 L2 正则化策略。对于整数标签的多类分类问题，稀疏分类交叉熵是合适的损失函数。培训进行了 50 个时期。最终激活函数 Softmax 用于生成类概率分布。此外，还使用了 64 步的训练。

培训：培训过程是一个非常重要的阶段。在此阶段，修改后的XceptionNet模型学习射线照相图像中KOA的准确检测和分级。Keras 2.6.0 版和 TensorFlow 后端 2.6.0 版用于实现 XceptionNet 模型。以下是训练阶段关键组件的详细信息，包括损失函数、优化器、回调、批量大小和纪元。

Loss_Function：对于多类分类任务，采用分类cross_entropy。该损失函数特别适用于每个实例被期望分配给一组类别中的一个且仅一个标签的问题²⁷。它通过产生 0 和 1 以内的概率分数来评估模型的性能。该损失被用作有效训练该模型以准确预测 KOA 严重程度的衡量标准，因为当预测概率与实际标签不同时，KOA 严重程度会增加。

优化器：采用了 Adam 优化器，该优化器以其有效性和动态学习率特征而闻名。Adam 融合了 AdaGrad 和 RMSProp 算法的优势特性，提供了一种擅长在嘈杂问题设置中管理稀疏梯度的优化算法²⁸。

Adam 优化器的关键参数
学习率：采用了 0.0001 的学习率，使优化器能够在最初对权重进行大幅调整，从而优化学习过程。

Beta1 和 Beta2：这些参数分别调节先前梯度的平方梯度和移动平均线下降的速率。使用 beta1 的默认值 0.9 和 beta2 的默认值 0.999。

Epsilon：此参数可防止实现中除以零，设置为接近零的小数字。

回调：在训练期间使用回调来监控模型的性能并进行调整。采用了以下回调：

Early_Stopping：这用于监控模型的验证损失，以及如果损失在预定义的时期数内停止减少（称为耐心），则停止训练过程。当验证数据不再显示模型性能的改进时，它会停止训练过程，这有助于防止过度拟合。

减少 LROn Plateau：当验证损失停止改善时，此回调会降低学习率，从而可以对权重进行更精细的调整，从而可能提高整体模型性能²⁹。

模型检查点：此回调以一定的时间间隔保存模型，以便在训练过程完成后可以检索到模型的最佳版本。通常，它会监控验证的准确性或损失，并在检测到增强时保存模型权重。

批量大小和纪元：
批量大小：32 是典型的批量大小，用于平衡对模型收敛稳定性和计算效率的要求。32 的批量大小达到了平衡，足够大以利用计算优化，但又足够小以提供梯度的稳定估计。

纪元：模型设置为训练最多 50 个纪元，但如果触发 EarlyStopping 回调，训练可能会提前停止。50 个纪元为权重调整和模型收敛提供了足够的迭代，而 EarlyStopping 确保训练不会不必要地继续。

通过精心设置这些参数并利用回调，优化了训练过程，以确保模型有效学习并很好地泛化到看不见的数据。为了保证所有类别在模型预测中都得到公平和准确的表示，使用了多种方法来解决数据不平衡问题。首先，为了弥补某些班级的代表性不足，在整个培训阶段都使用了班级权重。样本较少的类被赋予更大的权重。为了进一步减轻训练期间类不平衡的影响，还使用Keras的ImageDataGenerator来确保模型在每批³⁰中暴露于各种类。

评估指标
在评估所开发模型的功效时，使用了许多参数，如下所述。

准确度 （ACC）：准确预测的观测值与所有观测值的比率由此统计量量化。当目标班级平均分布时，这是有益的。其计算基于公式 18。

(18)

精度 （PR）：模型的精度衡量它区分所有预期阳性和阳性病例的能力。在误报率很高的情况下，这一点非常重要。其计算基于公式 19。

 (19)

召回率 （R）：召回率，也称为灵敏度，量化正确检测到的真阳性百分比。在忽视一个好榜样可能会产生严重影响的情况下，这一点尤其重要。它的计算涉及方程 20。

 (20)

F1_Score：它是精度 （PR） 和召回率 （R） 的调和平均值，它提供了公平的评估，特别是在存在不均匀的类别分布的情况下。其计算涉及公式 21。

(21)

ROC AUC：接收器作特性曲线下面积 （ROC AUC） 量化了模型区分类别的能力。AUC 值升高表示模型性能优越。其计算基于公式 22。

(22)

Cohen's Kappa （CK）：该指标评估两个评分者之间的一致性，他们将 N 个项目分类为 C 个互斥类。与准确性相比，它提供了更高的鲁棒性，尤其是在处理不平衡的类时。其计算涉及公式 23。

(23)

指标均值绝对误差 （MAE）、均方根误差 （RMSE） 和均方误差 （MSE）：虽然通常用于回归任务，但这些参数可以在分类场景中提供有用的启示，特别是在序数分类中。他们计算实际值和预测值之间的差异。这些指标分别使用公式 24、25 和 26 计算。

(24)

(25)

(26)

F2 分数：F2 分数优先考虑召回率而不是精度，这在忽视阳性预测比生成误报产生更大成本的情况下非常有价值。它的计算涉及公式 27。

(27)

精度和召回率曲线：该图显示了召回率和准确性在各个级别的平衡情况。曲线下面积越大，召回率和精度水平越高。

选择上述参数是为了全面评估模型在各个维度上的性能，特别是在数据集不平衡的背景下以及准确识别不同级别的膝骨关节炎的重要性。

Results

在整个模型的验证阶段采取了几项重要措施，以确保它能够推广到尚未观察到的数据。最初，数据集分为训练集和验证集。这是用于评估模型在训练中未使用的数据集上的性能的常用过程。通过提供单独的数据集进行训练和验证，这种分离避免了过度拟合，并允许对模型有效性进行全面评估。

数据增强方法用于进一步改进训练并阻止过度拟合。这些方法通过增强训练数据，在图像中添加了旋转、平移和翻转。该模型更有能力通过扩大训练数据的多样性来概括输入数据中不可见的方差。模型检查点用于在训练过程中定期存储模型权重。通过这种方法，可以根据验证准确性找到性能最高的模型，从而保证最终模型将继续以最佳状态运行。

除了模型检查点外，还使用了早期停止标准，用于在模型对验证数据的性能停止提高时终止训练。通过在理想点停止训练过程，在该点上，更多的迭代不会带来明显的性能提升，这避免了过度拟合。降低学习率是培训中使用的另一个关键策略。当预定的验证集指标（如验证损失或准确性）停止提高时，学习率就会降低。通过训练，由于这种自适应调整，模型能够进行更精确的修改，也许可以克服局部最小值并提高整体性...

Discussion

该研究提出了一种基于深度学习的自动化技术，用于使用 X 射线图像进行 KOA 分级。该模型使用 XceptionNet 架构，在一系列评估措施中表现出显着的稳健性和准确性，表明它可能会在临床环境中得到应用。

除了当前的方法之外，还可以使用外部数据集验证来进一步证实假设并评估模型在各种成像条件和人口统计数据中的泛化性。该模型在实时临床作中的有效性也可以通过前瞻性研究进行评估，这将提供有关其适用性的有用信息^40,41。此外，预处理和模型管道每个部分的具体贡献可以通过消融研究来确定。通过包括多模态数据（例如放射学图像）以及临床或人口统计学数据，可以提高预测准确性，并提供更彻底的评估。最后，为了进一步确认所建议方法的稳健性，采用集成学习策略或传统机器学习分类器（如 SVM 或随机森林）进行比较分析可能是有效的技术。

研究的意义

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Jupyter 笔记本/Colab	Jupyter 项目 / 谷歌	不适用	用于交互式开发和试验模型。
Matplotlib（版本：3.4.3）和Seaborn（版本：0.11.2）	社区	不适用	用于数据可视化和结果图。
Mendeley/Kaggle 数据	爱思唯尔;社区	不适用	数据集来源：膝骨关节炎严重程度分级数据集
OpenCV（版本：4.5.5）	英特尔	不适用	用于预处理 X 射线图像（调整大小、CLAHE、高斯滤波）。
Python（版本：3.8）	Python 软件基础	不适用	用于模型开发的编程语言。
scikit-learn（版本：1.0.2）	社区	不适用	用于数据拆分、性能指标和基本 ML 实用程序。
TensorFlow/Keras	谷歌/社区	不适用	用于实现和训练基于 XceptionNet 的深度学习模型。Tensorflow 版本：2.6.0，RRID：SCR_018932。Keras 版本：2.6.0，RRID：SCR_018961
Ubuntu作系统	规范	不适用	用于与所有软件工具兼容的作系统。推荐版本 20.04。