方法文章

基于深度学习的冷冻电子断层图像分割

12.7K 次观看

DOI:

10.3791/64435

2022年11月11日

本文内容

摘要

本文介绍一种利用单个冷冻电子断层图的一部分作为训练输入,训练用于多类别分割冷冻电子断层图的多切片U-Net的方法。我们描述了如何将该网络推断应用于其他断层图,以及如何提取分割结果以进行后续分析,例如子断层图平均和纤维追踪。

摘要

冷冻电子断层扫描技术(cryo-ET)使研究人员能够在最接近天然、水合状态的条件下,以目前可达到的最高分辨率对细胞进行成像。然而,该技术存在若干局限性,使得其生成数据的分析过程耗时且困难。手动分割单个断层图可能需要数小时至数天时间,而一台显微镜每天可轻松生成50个或更多的断层图。目前已有用于cryo-ET的深度学习分割程序,但这些程序仅限于一次分割一种结构。本文中,我们训练并应用多切片U-Net卷积神经网络,以在cryo-断层图中同时自动分割多种结构。通过适当的预处理,这些网络可稳健地应用于大量断层图,而无需为每个断层图单独训练网络。该工作流程显著提升了冷冻电子断层图的分析速度,在大多数情况下将分割时间缩短至30分钟以内。此外,所得分割结果可用于提高细胞环境中纤维追踪的准确性,并快速提取用于子断层图平均化的坐标信息。

引言

过去十年中,硬件和软件的发展为冷冻电子显微镜(cryo-EM)带来了"分辨率革命"1,2。得益于性能更优、速度更快的探测器3、用于自动化数据采集的软件4,5,以及相位板等增强信号的技术进步6,获取大量高分辨率的冷冻电镜数据已相对简便。

冷冻电子断层扫描(cryo-ET)以前所未有的分辨率揭示了细胞在天然水合状态下的超微结构7,8,9,10。其主要限制因素是样品厚度,但随着聚焦离子束(FIB)铣削等技术的应用——通过该方法对较厚的细胞和组织样品进行减薄以用于断层成像11——cryo-ET 可成像样本的范围正在不断扩大。最新的显微镜每天可生成超过 50 个断层图,且随着快速数据采集方案的发展,这一速率预计还将继续提升12,13。然而,对 cryo-ET 产生的海量数据进行分析仍是该成像技术发展的瓶颈。

对断层成像信息进行定量分析,首先需要对其进行标注。传统上,这需要由专家手动完成分割,耗时较长;根据冷冻断层图中包含的分子复杂程度不同,可能需要数小时至数天的专注工作。人工神经网络为解决这一问题提供了有吸引力的方案,因为它们可以被训练以在极短的时间内完成大部分分割工作。卷积神经网络(CNN)特别适用于计算机视觉任务14,并已近期被应用于冷冻电子断层图的分析15,16,17

传统的卷积神经网络(CNN)需要数千个带注释的训练样本,但在生物学图像分析任务中,这往往难以实现。因此,U-Net 网络结构在此领域表现出色18,因为它依赖数据增强技术来成功训练网络,从而最大限度地减少了对大规模训练数据集的依赖。例如,仅需单个断层图的少数切片(四到五张切片)即可训练一个 U-Net 网络,并可在无需重新训练的情况下稳健地推断其他断层图。本实验方案提供了在 Dragonfly 2022.119 中训练 U-Net 神经网络以分割电子冷冻断层图的逐步操作指南。

Dragonfly 是一款商用开发的软件,用于通过深度学习模型进行三维图像分割与分析,可免费供学术用途使用(部分地理区域存在限制)。该软件具备先进的图形界面,使非专业用户也能充分运用深度学习技术,实现语义分割与图像去噪。本实验方案演示了如何在 Dragonfly 中对冷冻电子断层图像进行预处理与标注 ,以用于训练人工神经网络,并进一步推断以快速分割大规模数据集。此外,本文还讨论并简要演示了如何利用分割后的数据进行后续分析,例如纤维轨迹追踪以及用于子断层平均的坐标提取。

方案

注意:Dragonfly 2022.1 需要高性能工作站。系统配置建议详见材料表,其中还包括本实验方案所用工作站的硬件信息。本方案中使用的所有断层图像均从 3.3 到 13.2 ang/pix 的像素尺寸进行了 4 倍 binning 处理。代表性结果中所用样本来自一家遵循符合本机构伦理标准动物护理指南的公司(见材料表)。本方案中使用的断层图像以及生成的多 ROI 训练输入数据已作为捆绑数据集包含在补充文件 1中(可于 https://datadryad.org/stash/dataset/doi:10.5061/dryad.rxwdbrvct 获取),以便用户可使用相同数据同步操作。Dragonfly 还提供一个名为 Infinite Toolbox 的开放数据库,用户可在其中共享已训练的网络模型。

1. 设置

  1. 更改默认工作区:
    1. 要将工作区更改为与本实验方案中使用的一致,请在主面板左侧向下滚动至场景视图属性部分,并取消选中显示图例。继续向下滚动至布局部分,选择单个场景和四等分视图
    2. 要更新默认单位,请进入文件 | 首选项。在打开的窗口中,将默认单位从毫米更改为纳米
  2. 有用的默认快捷键:
    1. 按下Esc键可在2D视图中显示十字线,并在3D视图中启用3D体数据旋转。按下X键可隐藏2D视图中的十字线,并在3D视图中启用2D平移3D体数据平移
    2. 将鼠标悬停在十字线上,会看到可点击并拖动的小箭头,用于更改其他2D视图中观察平面的角度。
    3. 按下Z键可进入两个视图的缩放状态,允许用户在任意位置点击并拖动以放大或缩小。
    4. 四视图场景中双击某个视图可仅聚焦该视图;再次双击可恢复为四个视图。
  3. 定期保存进度:通过将属性选项卡中的所有内容导出为ORS对象以便后续导入。选中列表中的所有对象,右键选择导出 | 作为ORS对象,命名文件并保存。或者,选择文件 | 保存会话。如需使用软件中的自动保存功能,请通过文件 | 首选项 | 自动保存启用该功能。

2. 图像导入

  1. 进行图像导入时,选择文件 | 导入图像文件。点击添加,浏览至图像文件,然后依次点击打开 | 下一步 | 完成
    ​注意:该软件无法识别 .rec 文件。所有断层图像必须具有 .mrc 扩展名。若使用提供的数据,请改为选择文件 | 导入对象。浏览至Training.ORSObject 文件并点击打开,然后点击确定

3. 预处理(图1.1)

  1. 创建自定义强度标尺(用于校准不同数据集之间的图像强度)。转到 实用工具 | 维度单位管理器。在左下角,点击+以创建新的维度单位
  2. 选择在所有目标断层图像中均存在的高强度(明亮)和低强度(黑暗)特征。为该单位命名并设置缩写(例如,对于此标尺,将标记小球设为0.0 标准强度,将背景设为100.0)。保存自定义维度单位。
    注意:自定义强度标尺是一种任意标尺,创建后应用于数据,以确保所有数据处于相同的强度标尺上,即使数据在不同时间或不同设备上采集。选择最能代表信号范围的亮区和暗区特征。如果数据中没有标记物,可直接选择将要分割的最暗特征(例如蛋白质的最暗区域)。
  3. 为将图像校准至自定义强度标尺,右键单击屏幕右侧属性列中的数据集,然后选择校准强度标尺。在屏幕左侧的选项卡中,向下滚动至探针部分。使用适当直径的圆形探针工具,在断层图像的背景区域点击几处,并记录原始强度列中的平均数值;对标记物重复此操作,然后点击校准。如有必要,使用主选项卡中窗位调节部分的区域工具调整对比度,使结构再次可见。
  4. 图像滤波:
    注意:图像滤波可降低噪声并增强信号。本方案使用软件内置的三种滤波器,因其对此类数据效果最佳,但软件中还提供多种其他滤波器。一旦确定了目标数据的图像滤波方案,必须在分割前将完全相同的方案应用于所有断层图像。
    1. 在左侧的选项卡中,向下滚动至图像处理面板。点击高级,等待新窗口打开。在属性面板中,选择待滤波的数据集,并通过点击数据集左侧的眼睛图标使其可见。
    2. 操作面板中,使用下拉菜单选择第一个操作为直方图均衡化(位于对比度部分下)。选择添加操作 | 高斯滤波(位于平滑部分下)。将卷积核维度更改为3D
    3. 添加第三个操作,然后选择非锐化掩模(位于锐化部分下)。保留此操作的输出设置。应用至所有切片并运行滤波,完成后关闭图像处理窗口,返回主界面。

4. 创建训练数据(图 1.2)

  1. 通过点击隐藏未过滤的数据集来确定训练区域 眼睛 其左侧的图标 数据属性 面板。然后,显示新筛选的数据集(该数据集将被自动命名) 数据集-直方图均衡化-高斯-非锐化). 利用过滤后的数据集,确定包含所有目标特征的断层图像子区域。
  2. 在左侧,围绕感兴趣区域创建一个方框 主要 标签,向下滚动至 形状 类别并选择 创建一个盒子. 当处于 四视图 面板,使用不同的 二维平面 通过调整方框边缘,使其在所有维度上仅包含目标区域。在 数据列表,选择 盒子 区域,并通过点击更改边框颜色,以便更清晰地查看 灰色方块 紧邻眼睛图标。
    注意:2D U-Net 的最小图像块大小为 32 × 32 像素;建议起始裁剪区域大小为 400 × 400 × 50 像素。
  3. 要创建多个感兴趣区域(ROI),在左侧选择 分割 标签 | 新增 并检查 创建为多区域(Multi-ROI)确保类别数量等于目标特征数量加上一个背景类别。命名多区域感兴趣区 训练数据 并确保几何结构与数据集对应后再点击 好的.
  4. 分割训练数据
    1. 滚动数据直至进入方框区域范围内,选择 多兴趣区性质 右侧菜单。双击 首个空白类别名称 在多ROI中为其命名。
    2. 使用2D画笔进行绘制。在 分割 左侧标签,向下滚动至 二维工具 并选择一个 圆形刷然后,选择 自适应高斯局部 OTSU 从下拉菜单中选择。要进行绘制,请按住 左侧对照 并单击。如需擦除,请按住 左移 并单击。
      注意:画笔将显示当前所选类别的颜色。
    3. 对多ROI中的每个对象类别重复上一步操作。确保框选区域内所有结构均被完整分割,否则网络会将其视为背景。
    4. 当所有结构均标记完成后,右键单击 背景类多兴趣区 并选择 添加所有未标记体素类别.
  5. 创建一个新的单类 ROI,命名为 口罩确保几何体设置为已过滤的数据集,然后单击 应用. 在 特性 右侧的标签,右键单击 盒子 并选择 添加到 ROI。将其加入 掩膜感兴趣区域.
  6. 使用掩膜对训练数据进行裁剪时,在 特性 标签,同时选择两者 训练数据 多兴趣区和 掩膜感兴趣区域 通过握住 Ctrl 并依次点击每一项。接下来,点击 交集 位于标注为“数据属性”列表的下方 布尔运算. 命名新数据集 修剪后的训练输入,并在点击前确保几何结构与过滤后的数据集相对应 好的.

5. 使用分割向导进行迭代训练(图 1.3)

  1. 首先在 属性 选项卡中右键单击已过滤的数据集,然后选择 分割向导 选项,将训练数据导入分割向导。当新窗口打开后,在右侧找到 输入 选项卡。点击 从多 ROI 导入帧,并选择 裁剪后的训练输入
  2. (可选)创建一个视觉反馈帧,以实时监控训练进度。
    1. 从数据中选择一个未分割的帧,点击 + 将其添加为新帧。双击该帧右侧的 混合 标签,并将其更改为 监控
  3. 要生成新的神经网络模型,请在右侧的 模型 选项卡中点击 + 按钮以生成新模型。从列表中选择 U-Net,然后在输入维度中选择 2.5D5 个切片,再点击 生成
  4. 要训练网络,请点击 SegWiz 窗口右下角的 训练 按钮。
    注意:训练可提前停止,而不会丢失进度。
  5. 使用训练好的网络对新帧进行分割时,在 U-Net 训练完成后,创建一个新帧并点击 预测(右下角)。然后点击预测帧右上角的向上箭头,将分割结果转移到实际帧中。
  6. 为修正预测结果,按住 Ctrl 并点击两个类别,可将一个类别的已分割像素更改为另一个类别。同时选中这两个类别,并使用 画笔 工具仅绘制属于这两个类别之一的像素。至少在五个新帧中修正分割结果。
    注意:当同时选中两个类别时,使用画笔工具将不再执行通常的 Shift+点击擦除操作,而是将第一个类别的像素转换为第二个类别。Ctrl+点击则实现反向转换。
  7. 对于迭代训练,再次点击 训练 按钮,让网络继续训练额外的 30–40 个训练周期,此时停止训练,并重复步骤 4.5 和 4.6,进行下一轮训练。
    注意:通过这种方式,可以使用单个数据集对模型进行迭代训练并不断优化。
  8. 当对网络性能满意后,退出 分割向导 以发布该网络。在自动弹出的对话框中,选择要发布(保存)的模型,选中 成功的网络,为其 命名,然后点击 发布,使该网络可在分割向导之外使用。

6. 应用网络(图1.4)

  1. 首先将训练断层图应用于过滤后的数据集,在 属性 面板中选择该数据集。在左侧的 分割 面板中,向下滚动至 使用 AI 进行分割 部分。确保已选择正确的数据集,在下拉菜单中选择刚刚发布的模型,然后点击 分割 | 所有切片。或者,选择 预览 以查看分割结果的单一切片预览。
  2. 若要将模型应用于推理数据集,请导入新的断层图。按照步骤 3 进行预处理(图 1.1)。在 分割 面板中,进入 使用 AI 进行分割 部分。确保已选择新过滤的断层图作为数据集,选择先前训练好的模型,然后点击 分割 | 所有切片

7. 分割操作与清理

  1. 通过首先选择一个已分割出噪声且包含目标特征的类别,快速清除噪声。 右键单击 | 处理岛状区域 | 按体素数量去除 | 选择体素大小从小处着手~200)并逐步增加计数值以去除大部分噪声。
  2. 用于分割校正, 按住 Ctrl 键并单击两个类别 仅对属于这些类别的像素进行着色。 按住 Ctrl 键单击并拖动分割工具 将第二类的像素更改为第一类 按住 Shift 键并单击拖动 实现相反操作。继续执行此操作,以快速修正标记错误的像素。
  3. 分离连通区域。
    1. 选择一个类别。右键单击类别中的一个类 多ROI | 分离连通组分 为每个未与同类组件相连的组件创建一个新类别。使用下方的按钮 多重复合振荡器我能够轻松合并这些类别。
  4. 将 ROI 导出为二值图像/TIFF。
    1. 选择一个班级 多区域兴趣分析,然后右键单击并 将类别提取为感兴趣区域. 在 性质 面板上方,选择 新 ROI, 右键单击 | 导出 | 将感兴趣区域导出为二值图像 (确保选项处于启用状态) 将所有图像导出为一个文件 已选择)。
      注意:用户可使用 IMOD 程序中的 tif2mrc 工具轻松将 tiff 格式转换为 mrc 格式20这有助于丝状结构的追踪。

8. 从 ROI 生成用于子断层平均的坐标

  1. 提取一个类。
    1. 右键单击 用于平均的类别 | 将类别提取为感兴趣区域. 右键单击 类 ROI | 连通组分 | 新建多 ROI(26 个连通).
  2. 生成坐标。
    1. 右键单击 新的多区域 | 标量生成器扩展 使用数据集进行基本测量 检查 加权质心 X、Y 和 Z选择数据集并计算。右键单击 多感兴趣区 | 导出标量值检查 选择所有标量插槽,然后 好的 为多ROI中每个类别生成质心世界坐标,并以CSV文件格式输出。
      注意:如果颗粒彼此靠近且分割区域相互接触,则可能需要执行分水岭变换,以将各组分分离为多个感兴趣区域(multi-ROI)。

9. 分水岭变换

  1. 通过右键点击 Multi-ROI 中用于平均的类别 | 提取类别为 ROI 来提取该类别。将此 ROI 命名为 Watershed Mask
  2. (可选)闭合孔洞
    1. 如果分割后的颗粒存在孔洞或开口,请在进行分水岭处理前将其闭合。点击 Data Properties 中的 ROI。在左侧的 Segmentation 选项卡中,进入 Morphological Operations,使用适当的 DilateErodeClose 组合操作,使分割结果变为无孔洞的实心区域。
  3. 通过点击 ROI | 复制所选对象(位于 Data Properties 下方)来反转 ROI。选择 复制的 ROI,然后在左侧的 Segmentation 选项卡中点击 反转
  4. 通过右键点击 反转后的 ROI | 创建映射 | 距离图 来生成距离图。为后续使用,复制一份距离图并将其反转(右键 | 修改与变换 | 反转数值 | 应用)。将此反转后的图命名为 Landscape
  5. 创建种子点。
    1. 隐藏 ROI 并显示 距离图。在 Segmentation 选项卡中,点击 定义范围,并逐步缩小范围,直到每个点的中心仅保留少数像素被高亮显示,且各点之间互不连接。在 范围 区域底部,点击 添加到新项。将这个新的 ROI 命名为 Seedpoints
  6. 执行分水岭变换。
    1. 右键点击 Seedpoints ROI | 连通组件 | 新建 Multi-ROI(26 连通)。再右键点击 新生成的 Multi-ROI | 分水岭变换。选择名为 Landscape 的距离图,点击 确定;然后选择名为 Watershed Mask 的 ROI,点击 确定,以从每个种子点计算分水岭变换,并将各个颗粒分离为 Multi-ROI 中的不同类别。按步骤 8.2 的方法生成坐标。

带有五层UNet训练网络和三维渲染结果的断层图分割流程示意图。
图1:工作流程。1)通过校准强度尺度和对数据集进行滤波,预处理训练用断层图。2)通过手动分割一张断层图的一小部分,并标注用户希望识别的所有目标结构,生成训练数据。3)在分割向导中,以滤波后的断层图为输入,手动分割结果为训练输出,训练一个五层多切片U-Net网络。4)将训练好的网络应用于整张断层图进行标注,并可对每个分割出的类别生成三维渲染图像。请点击此处查看该图的高清版本。

结果

根据实验方案,使用单个断层图像对一个五切片U-Net进行训练(图2A),以识别五类结构:膜结构(Membrane)、微管(Microtubules)、肌动蛋白(Actin)、标记金颗粒(Fiducial markers)和背景(Background)。该网络共迭代训练了三次,随后应用于该断层图像,实现完整的分割与注释(图2B、C)。随后通过步骤7.1和7.2进行了少量的手动修正。接下来,将另外三个目标断层图像(图2D、G、J)载入软件进行预处理。在图像导入之前,其中一个断层图像(图2J)需要将像素尺寸从17.22 Å/px调整为13.3 Å/px,因其在不同显微镜上以略有差异的放大倍数采集。使用IMOD程序中的squeezevol工具进行重采样,所用命令如下:

'squeezevol -f 0.772 inputfile.mrc outputfile.mrc'

在此命令中,-f 表示用于调整像素尺寸的系数(本例中为:13.3/17.22)。导入后,对所有三个推理目标均按照步骤 3.2 和 3.3 进行预处理,然后应用五切片 U-Net 模型。随后再次进行了最小程度的清理。最终的分割结果如图 2所示。

每个断层图的微管分割结果以二值化(步骤 7.4)TIF 文件格式导出,转换为 MRC 格式(使用 IMOD 的 tif2mrc 程序),随后用于圆柱相关分析和纤维追踪。与直接在断层图上进行纤维追踪相比,基于纤维的二值化分割可实现更稳健的追踪效果。纤维追踪所得的坐标图(图 3)将用于后续分析,例如最近邻距离测量(纤维排列密度)以及沿单根纤维进行螺旋状子断层图平均,以确定微管的方向。

训练失败或训练不足的网络很容易识别。失败的网络将完全无法分割任何结构,而训练不足的网络通常能够正确分割部分结构,但会存在大量假阳性和假阴性结果。这些网络可以通过修正并进行迭代训练以提升性能。分割向导(SegWiz)在模型训练完成后会自动计算其Dice相似系数(在SegWiz中称为分数)。该统计量用于评估训练数据与U-Net分割结果之间的一致性。Dragonfly 2022.1还内置了模型性能评估工具,可通过界面顶部的人工智能选项卡访问(具体使用方法请参见文档)。

大鼠神经元纤维结构;可视化;显微镜图像;体外培养5天神经元的结构组织。
图 2:推理结果。A-C)2019年在Titan Krios电镜上采集的大鼠海马神经元体外培养5天(DIV 5)的原始训练断层图。该图为经IMOD软件进行CTF校正后的反投影重构图像。(A)黄色框标示了用于训练输入的手动分割区域。(B)U-Net完成训练后的二维分割结果。(C)分割区域的三维渲染图,显示细胞膜(蓝色)、微管(绿色)和肌动蛋白(红色)。(D-F)与训练断层图来自同一次实验的大鼠海马神经元(DIV 5)。(E)U-Net在无额外训练情况下进行快速清理后的二维分割结果。细胞膜(蓝色)、微管(绿色)、肌动蛋白(红色)、金标 fiducials(粉色)。(F)分割区域的三维渲染图。(G-I)2019年实验批次中的另一幅大鼠海马神经元(DIV 5)图像。(H)U-Net经快速清理后的二维分割结果,以及(I)对应的三维渲染图。(J-L)2021年在另一台Titan Krios电镜上以不同放大倍数采集的大鼠海马神经元(DIV 5)图像。使用IMOD程序squeezevol调整像素尺寸,以匹配训练断层图的分辨率。(K)经快速清理后U-Net的二维分割结果,展示了在适当预处理下跨数据集的稳健推理能力;(L)分割结果的三维渲染图。比例尺 = 100 nm。缩写:DIV = 体外培养天数(days in vitro);CTF = 对比度传递函数。 请点击此处查看该图的高清版本。

体层成像过程,U-Net 分割,肌动蛋白二值化;显微镜分析示意图显示纤维追踪。
图 3:纤维追踪的改进。A)在 Titan Krios 上采集的体外培养 4 天(DIV 4)大鼠海马神经元的体层成像图。 (B)基于肌动蛋白纤维的圆柱相关性生成的相关图。 (C)利用相关图中肌动蛋白纤维的强度定义参数,对肌动蛋白进行纤维追踪。该追踪过程在试图仅追踪肌动蛋白时,同时捕获了膜结构、微管以及噪声。 (D)对体层成像图进行 U-Net 分割。膜结构以蓝色标出,微管为红色,核糖体为橙色,三联体复合物(triC)为紫色,肌动蛋白为绿色。 (E)将肌动蛋白分割结果提取为二值化掩膜用于纤维追踪。 (F)使用与(B)相同参数、通过圆柱相关性生成的相关图。 (G)仅针对体层成像图中肌动蛋白纤维的纤维追踪结果显著改善。缩写:DIV = 体外培养天数(days in vitro)。 请点击此处查看该图的放大版本。

补充文件 1:本方案中使用的断层扫描图像以及作为训练输入生成的多区域(multi-ROI)已打包为数据集(Training.ORSObject)。 见 https://datadryad.org/stash/dataset/doi:10.5061/dryad.rxwdbrvct。

讨论

本方案介绍如何使用 Dragonfly 2022.1 软件,基于单个断层扫描图像训练多类别 U-Net 网络,并将该网络应用于其他断层扫描图像的推理,这些图像无需来自同一数据集。训练过程相对较快(每个训练周期最快可为 3–5 分钟,最慢可达数小时,具体时间完全取决于所训练的网络结构和所使用的硬件),且重新训练网络以提升学习效果的操作直观简便。只要对每个断层扫描图像均执行了预处理步骤,推理过程通常具有良好的鲁棒性。

一致的预处理是深度学习推理中最关键的步骤。软件中包含多种图像滤波器,用户可通过实验确定哪些滤波器对特定数据集效果最佳;需注意的是,训练断层图中使用的任何滤波方法都必须以相同方式应用于推理断层图。还必须确保为网络提供准确且充足的训练信息。在训练切片中所有被分割的特征都必须尽可能仔细和精确地完成分割,这一点至关重要。

图像分割得益于一个复杂的商用级用户界面。该界面提供了手动分割所需的所有必要工具,并允许在训练及重新训练之前,简单地将体素从任一类重新分配至另一类。用户可在整个断层图像的上下文中手动分割体素,并可获得多个视图以及自由旋转三维体积的能力。此外,该软件支持使用多类别网络,这类网络通常比使用多个单类别网络进行分割具有更优的性能16,且速度更快。

神经网络的能力当然存在一定的局限性。冷冻电子断层扫描(Cryo-ET)数据本质上噪声很高,且角采样受限,这会导致相同结构在不同取向时出现特异性畸变21。训练过程依赖专家手动精确分割结构,而一个神经网络的性能优劣完全取决于其所获得的训练数据的质量。图像滤波可增强信号,有助于训练者操作,但在许多情况下,仍难以准确识别某一结构的所有像素。因此,在构建训练用分割数据时必须格外谨慎,以确保网络在训练过程中能够获得尽可能优质的学习信息。

该工作流程可根据每位用户的偏好轻松修改。尽管所有断层图像必须以完全相同的方式进行预处理,但并不强制要求使用本方案中所用的精确滤波器。该软件提供了多种图像滤波选项,建议在开展涉及多个断层图像的大规模分割项目之前,先针对用户自身的特定数据优化这些参数。此外,软件还提供多种可用的网络架构:本实验室的数据显示多切片U-Net效果最佳,但其他用户可能会发现其他架构(例如3D U-Net或Sensor 3D)效果更优。分割向导提供了一个便捷的界面,可用于基于相同的训练数据比较多个网络的性能表现。

诸如本文所展示的工具将使全层析图的手动分割成为过去。通过训练良好且具有强推理能力的神经网络,完全有可能建立一种工作流程,使层析数据的重建、处理和完全分割能够以显微镜采集数据的速度快速完成。

披露

本实验方案的开放获取许可费用由 Object Research Systems 支付。

致谢

本研究由宾夕法尼亚州立大学医学院、生物化学与分子生物学系以及烟草和解基金(TSF)拨款4100079742-EXT资助。本项目所使用的冷冻电镜与冷冻电子断层成像核心设施(RRID:SCR_021178)的服务与仪器,部分资金来自宾夕法尼亚州立大学医学院 通过 研究与研究生副院长办公室以及宾夕法尼亚州卫生部(使用烟草和解资金CURE)提供了支持。本文内容完全由作者负责,不一定代表大学或医学院的官方观点。宾夕法尼亚州卫生部明确声明不对任何分析、解释或结论承担责任。

材料

本文使用的材料清单
姓名公司目录编号评论
Dragonfly 2022.1Object Research Systemshttps://www.theobjects.com/dragonfly/index.html
E18 大鼠解离海马组织Transnetyx TissueKTSDEDHPhttps://tissue.transnetyx.com/faqs
IMOD科罗拉多大学https://bio3d.colorado.edu/imod/
Intel® Xeon® Gold 6124 CPU 3.2GHzIntelhttps://www.intel.com/content/www/us/en/products/sku/120493/intel-xeon-gold-6134-processor-24-75m-cache-3-20-ghz/specifications.html
NVIDIA Quadro P4000NVIDIAhttps://www.nvidia.com/content/dam/en-zz/Solutions/design-visualization/productspage/quadro/quadro-desktop/quadro-pascal-p4000-data-sheet-a4-nvidia-704358-r2-web.pdf
Windows 10 Enterprise 2016Microsofthttps://www.microsoft.com/en-us/evalcenter/evaluate-windows-10-enterprise
工作站最低系统要求https://theobjects.com/dragonfly/system-requirements.html

参考文献

  1. Bai, X. -C., Mcmullan, G., Scheres, S. H. W. How cryo-EM is revolutionizing structural biology. Trends in Biochemical Sciences. 40 (1), 49-57 (2015).
  2. de Oliveira, T. M., van Beek, L., Shilliday, F., Debreczeni, J., Phillips, C. Cryo-EM: The resolution revolution and drug discovery. SLAS Discovery. 26 (1), 17-31 (2021).
  3. Danev, R., Yanagisawa, H., Kikkawa, M. Cryo-EM performance testing of hardware and data acquisition strategies. Microscopy. 70 (6), 487-497 (2021).
  4. Mastronarde, D. N. Automated electron microscope tomography using robust prediction of specimen movements. Journal of Structural Biology. 152 (1), 36-51 (2005).
  5. Tomography 5 and Tomo Live Software User-friendly batch acquisition for and on-the-fly reconstruction for cryo-electron tomography Datasheet. , Available from: https://assets.thermofisher.com/TFS-Assets/MSD/Datasheets/tomography-5-software-ds0362.pdf (2022).
  6. Danev, R., Baumeister, W. Expanding the boundaries of cryo-EM with phase plates. Current Opinion in Structural Biology. 46, 87-94 (2017).
  7. Hylton, R. K., Swulius, M. T. Challenges and triumphs in cryo-electron tomography. iScience. 24 (9), (2021).
  8. Turk, M., Baumeister, W. The promise and the challenges of cryo-electron tomography. FEBS Letters. 594 (20), 3243-3261 (2020).
  9. Oikonomou, C. M., Jensen, G. J. Cellular electron cryotomography: Toward structural biology in situ. Annual Review of Biochemistry. 86, 873-896 (2017).
  10. Wagner, J., Schaffer, M., Fernández-Busnadiego, R. Cryo-electron tomography-the cell biology that came in from the cold. FEBS Letters. 591 (17), 2520-2533 (2017).
  11. Lam, V., Villa, E. Practical approaches for Cryo-FIB milling and applications for cellular cryo-electron tomography. Methods in Molecular Biology. 2215, 49-82 (2021).
  12. Chreifi, G., Chen, S., Metskas, L. A., Kaplan, M., Jensen, G. J. Rapid tilt-series acquisition for electron cryotomography. Journal of Structural Biology. 205 (2), 163-169 (2019).
  13. Eisenstein, F., Danev, R., Pilhofer, M. Improved applicability and robustness of fast cryo-electron tomography data acquisition. Journal of Structural Biology. 208 (2), 107-114 (2019).
  14. Esteva, A., et al. Deep learning-enabled medical computer vision. npj Digital Medicine. 4 (1), (2021).
  15. Liu, Y. -T., et al. Isotropic reconstruction of electron tomograms with deep learning. bioRxiv. , (2021).
  16. Moebel, E., et al. Deep learning improves macromolecule identification in 3D cellular cryo-electron tomograms. Nature Methods. 18 (11), 1386-1394 (2021).
  17. Chen, M., et al. Convolutional neural networks for automated annotation of cellular cryo-electron tomograms. Nature Methods. 14 (10), 983-985 (2017).
  18. Ronneberger, O., Fischer, P., Brox, T. U-net: Convolutional networks for biomedical image segmentation. Lecture Notes in Computer Science (including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics). 9351, 234-241 (2015).
  19. Dragonfly 2021.3 (Computer Software). , Available from: http://www.theobjects.com/dragonfly (2021).
  20. Kremer, J. R., Mastronarde, D. N., McIntosh, J. R. Computer visualization of three-dimensional image data using IMOD. Journal of Structural Biology. 116 (1), 71-76 (1996).
  21. Iancu, C. V., et al. A "flip-flop" rotation stage for routine dual-axis electron cryotomography. Journal of Structural Biology. 151 (3), 288-297 (2005).

重印与许可

标签

冷冻电子断层扫描深度学习分割U-Net神经网络多类别分割图像预处理断层图分析三维渲染纤维追踪子断层图平均神经网络训练