Methodenartikel

Het ontwerpen en exploiteren van een eigen cryo-elektronenmicroscopie-faciliteit met IT-infrastructuur en on-the-fly dataprocessing-pipelines

4 weergaven

DOI:

10.3791/71837

1 september 2026

In dit artikel

Samenvatting

Dit protocol biedt een praktisch kader voor het ontwerpen en beheren van de IT-infrastructuur van een eigen cryogene elektronenmicroscopie (cryo-EM) faciliteit. Het behandelt faciliteitsplanning, netwerkarchitectuur, opslag, GPU-computing, toegang op afstand en realtime gegevensverwerking, waardoor efficiënt beheer van multi-terabyte datasets mogelijk wordt terwijl schaalbare, duurzame en hoogwaardige cryo-EM-operaties worden gewaarborgd.

Samenvatting

Cryo-EM is een dominante methode geworden voor de structurele bepaling met hoge resolutie van biologische macromoleculen. Naarmate het aantal institutionele cryo-EM-faciliteiten wereldwijd toeneemt, is er een aanhoudende uitdaging ontstaan: de data-infrastructuur die nodig is om deze faciliteiten te ondersteunen, wordt routinematig ondergepland. Moderne cryo-EM-instrumenten in combinatie met direct electron detectors (DEDs) genereren tussen de 2 en 5 TB aan ruwe data per dag, en een faciliteit met 20 gebruikers kan in één operationeel jaar ongeveer 2 PB aan data verzamelen. Het verwerken van deze data vereist speciale GPU-rekenknopen, intern netwerken met hoge snelheid en robuuste strategieën voor langetermijvarchivering—waarvan alles op zijn plaats moet zijn voordat de dataverzameling begint. Dit protocol presenteert een geïntegreerd kader voor het IT- en computationele ontwerp van een eigen cryo-EM-faciliteit. We behandelen de fysieke vereisten van de faciliteit (ruimteontwerp, stroomvoorziening, koeling en trillingsisolatie), de selectie van apparatuur (microscopen, DEDs en ondersteunende instrumenten) en de volledige computationele stack: configuratie van netwerkschakelaars, selectie en dimensionering van opslagservers, voorziening van GPU-rekenknopen en de architectuur voor toegang op afstand. Vervolgens bieden we een gedetailleerd protocol voor het implementeren van on-the-fly dataprocesseringspijplijnen—waarbij motion correction, contrast transfer function (CTF) schatting, particle picking en 2D-classificatie in realtime tijdens de dataverzameling worden uitgevoerd—met gebruik van industriestandaard tools. Strategieën voor datatransfer voor externe gebruikers worden ook behandeld. Deze gids vult een kritisch gat in de literatuur en stelt onderzoekers en beheerders in staat om cryo-EM-faciliteiten te bouwen die vanaf dag één computationeel gereed zijn.

Inleiding

De resolutierevolutie van cryo-EM heeft de structurele biologie getransformeerd, waardoor visualisatie met atomaire resolutie van eiwitten, nucleïnezuren en macromoleculaire complexen mogelijk is geworden zonder dat kristallisatie vereist is1,2. Drie technische vooruitgangstappen hebben deze transformatie aangestuurd: de ontwikkeling van DED's met hoge framerates, verbeteringen in de elektronenoptica en microscoopmechanica, en de optimalisatie van GPU-versnelde software voor beeldbewerking3,4,5,6. Samen hebben deze vorderingen cryo-EM de voorkeursmethode gemaakt voor een groeiende gemeenschap van structurele biologen.

De vraag naar toegang tot cryo-EM heeft geleid tot aanzienlijke investeringen in zowel grote nationale centra als kleinere institutionele faciliteiten. Nationale centra—zoals NCCAT, S2C2, PNCC en MCCET in de VS, en eBIC, NeCEN en SciLifeLab in Europa3,5,6—bieden toegang tot de meest geavanceerde instrumenten voor goedgekeurde projecten. Eigen faciliteiten vullen deze middelen aan door iteratief, projectspecifiek onderzoek te ondersteunen met kortere doorlooptijden en nauwere interactie tussen gebruikers en personeel. Het opzetten van een functionele eigen faciliteit vereist echter veel meer dan alleen de aankoop van een microscoop: de ondersteunende IT-infrastructuur is minstens zo cruciaal, en de ontoereikendheid hiervan is een belangrijke oorzaak van operationele mislukkingen in nieuwe faciliteiten6.

Een enkele high-end cryo-EM-sessie kan in 24 h 2–5 TB aan ruwe filmdatabestanden genereren. Met meerdere microscopen en gebruikers bereikt de datalast snel een petabyteschaal. Het verwerken van deze gegevens vereist GPU-versnelde pipelines die gelijktijdig met de gegevensverzameling operationeel moeten zijn7,8. Vertragingen bij de voorbewerking betekenen vertraagde feedback over de datakwaliteit en verspilde instrumenttijd. Ondanks deze realiteit besteden de meeste gepubliceerde handleidingen over cryo-EM-faciliteitsbeheer minimale aandacht aan de IT-componenten, en geen enkele biedt een stapsgewijs operationeel protocol voor het opzetten en valideren van een volledige datainfrastructuur.

Dit protocol vult dat gat op. We beschrijven de fysieke en technische vereisten voor de bouw van de faciliteit, de selectiecriteria voor microscopen en detectoren, en — het belangrijkste — het ontwerp en de implementatie van de IT-backbone die een cryo-EM-faciliteit operationeel levensvatbaar maakt6. Er wordt bijzondere aandacht besteed aan on-the-fly dataprocessing: de geautomatiseerde, gelijktijdige preprocessering van gegevens tijdens de acquisitie, wat real-time kwaliteitscontrole mogelijk maakt, beslissingen over de acquisitie stuurt en de doorlooptijd na de sessie drastisch verkort9,10,11. Door dit protocol te volgen, zijn faciliteitsontwikkelaars in staat om een volledige, geïntegreerde cryo-EM-operatie op te zetten die een brede wetenschappelijke gemeenschap op duurzame en efficiënte wijze bedient.

Protocol

Details van de apparatuur, software en materialen die gedurende dit protocol worden gebruikt, staan vermeld in de Tabel met Materialen.

1. Ontwerp van de fysieke faciliteit, personeel en planning van de infrastructuur

  1. Voer een locatiebeoordeling uit. Selecteer een bouwlocatie die het volgende biedt: een trillingsgeïsoleerde vloer (omgevingsvibratieniveaus, idealiter < 1 µm/s RMS bij 1–100 Hz); magnetische veldstabiliteit (< 1 mG/m ruimtelijke gradiënt en < 0,1 mG/m temporele variatie voor 300 kV instrumenten); een stabiele kamertemperatuur (18–22 °C met < 0,5 °C fluctuatie); vochtigheidsbeheersing (40–60% RH); en een laag akoestisch geluidsniveau (<50 dB). Raadpleeg in een vroeg stadium van de planningsfase de site-vereisten van de microscoopfabrikant.
    OPMERKING: Het renoveren van een bestaande ruimte kan net zoveel kosten als nieuwbouw. Als vuistregel dient ongeveer 20% van de aanschafprijs van de microscoop te worden gereserveerd voor de voorbereiding van de ruimte.
  2. Ontwerp de indeling van de faciliteit met een duidelijke ruimtelijke scheiding tussen functionele zones: (a) microscopieruimte(s) voor cryogene transmissie-elektronenmicroscopen (cryo-TEMs); (b) een voorbereidingsruimte voor monsters voor het hanteren en opslaan van grids; (c) een controllerruimte met waterkoelers, UPS-eenheden en koelsystemen voor de microscoop; en (d) een aparte serverruimte of datacenter voor opslag- en rekeninfrastructuur.
    OPMERKING: Houd de temperatuur in de controllerruimte te allen tijde onder de 26 °C en zorg voor dedicated reservevoeding en koeling. Temperatuurafwijkingen in de controllerruimte zijn een veelvoorkomende oorzaak van microscoopstilstand.
  3. Plan de energie-infrastructuur. Installeer dedicated driefasige stroomcircuits voor high-end cryo-TEM. Sluit alle microscopen, camera's en serverapparatuur aan op de aangewezen beveiligde energie-infrastructuur. Coördineer met het facilitaire team van de instelling om een noodgenerator op te nemen die in staat is de werking van de microscoop en de stroom van het koelwater te handhaven tijdens stroomuitval.
    OPMERKING: Verschillende instrumenten binnen een cryo-EM-faciliteit hebben meer dan één dag nodig voor een veilige power cycle. Ongeplande stroomuitval kan gevoelige printplaten beschadigen en leiden tot het verlies van actieve gegevensverzamelsessies.
  4. Installeer koelwatersystemen voor de elektronenmicroscoop en de bijbehorende hardware. Richt een reservekoelwatercircuit in met automatische failover. Bewaak de waterdoorstroomsnelheid, temperatuur en geleidbaarheid continu met behulp van het geïntegreerde monitoringsysteem van de microscoop of een dedicated sensorarray.
  5. Installeer glasvezelkabeltrajecten van de microscopieruimte(s) naar de serverruimte tijdens de bouw of renovatie. Specificeer minimaal OM4 multimode of OS2 single-mode vezel, met voldoende reserve en gelabelde patchpanelen aan beide uiteinden.
    OPMERKING: Het vooraf installeren van glasvezel is aanzienlijk goedkoper dan het achteraf aanbrengen.
  6. Wijs dedicated microscoopoperators of faciliteitswetenschappers aan voor het uitvoeren van instrumentonderhoud, gebruikersinstructies, planning, monsteroptimalisatie en ondersteuning bij gegevensverwerving. Wijs dedicated IT-personeel aan voor het beheren van de infrastructuur, netwerkprestaties, cybersecurity, gegevensback-up, software-implementatie, GPU-rekenbronnen en toegang voor externe gebruikers.
  7. Bepaal de personeelsbehoefte op basis van het niveau van gebruikersondersteuning en de complexiteit van de computationele infrastructuur. In kleinere faciliteiten, zoals de UCSC Biomolecular cryo-EM Facility, kunnen deze verantwoordelijkheden worden gedeeld door een faciliteitsmanager met computationele expertise of gecentraliseerde institutionele IT-diensten; naarmate het aantal microscopen, gebruikers en jaarlijkse gegevensverzamelsessies echter toeneemt, wordt gespecialiseerd personeel steeds noodzakelijker.
  8. Zorg voor dedicated IT-ondersteuning voor faciliteiten die meerdere cryo-TEMs exploiteren om ononderbroken gegevensverwerving, efficiënt gegevensbeheer en schaalbare rekenbronnen te garanderen. Investeer in een robuuste IT-infrastructuur en personeel in een vroeg stadium van de faciliteitsontwikkeling om operationele stilstand te minimaliseren, toekomstige uitbreiding te vereenvoudigen en een duurzaam kader te bieden dat in staat is groeiende gebruikersgemeenschappen en steeds data-intensievere cryo-EM-workflows te ondersteunen.

2. Selectie van microscoop en detector

  1. Definieer de primaire wetenschappelijke missie van de faciliteit voordat u een microscoop selecteert. Houd rekening met: (a) of de primaire workflow single-particle analyse (SPA), cryo-elektronentomografie (cryo-ET), micro-elektrondiffractie (microED) of een combinatie zal zijn; (b) de verwachte omvang van de gebruikersgroep en de diversiteit aan projecten; (c) budgetbeperkingen voor zowel de aanschaf als de doorlopende servicecontracten.
  2. Evalueer beschikbare cryo-TEM-platforms op basis van de beoogde toepassingen. Overweeg 300 kV-instrumenten voor hoge-resolutie SPA en subtomogram averaging (STA). Overweeg 200 kV-instrumenten voor screening en dataverzameling met gemiddelde resolutie. Evalueer 100–120 kV voor een voordeliger instappunt met screeningmogelijkheden (samengevat in Tabel 1).
    OPMERKING: Specificatiebladen wijzigen regelmatig. Vraag altijd actuele configuratiedetails en prijzen rechtstreeks op bij de fabrikant voordat u definitieve beslissingen over de apparatuur neemt.
  3. Selecteer een DED die is afgestemd op de microscoop en de toepassing. Voor hoge-resolutie SPA op instrumenten van Thermo Fisher Scientific (TFS) is de Falcon 4i momenteel de primaire optie voor de Krios- en Glacios-series.
  4. Voor JEOL CryoARM-instrumenten biedt de Gatan K3 uitstekende gevoeligheid en framerates. Bevestig voor faciliteiten die zich richten op zowel SPA als microED de compatibiliteit van de detector met modi voor de verzameling van elektrondiffractiegegevens (Tabel 2).
    OPMERKING: De DED is een van de duurste componenten van de faciliteit en heeft een aanzienlijke invloed op de datakwaliteit en de opslagvereisten. De Electron Event Register (EER)-modus produceert bijvoorbeeld aanzienlijk grotere raw-bestanden dan conventionele gecomprimeerde formaten, waardoor proportioneel meer opslagcapaciteit en netwerkbandbreedte vereist zijn.
  5. Evalueer de rol van een energiefilter bij het selecteren van een cryo-EM-instrumentconfiguratie, aangezien dit de beeldkwaliteit, de keuze van de detector en de algehele systeemprestaties aanzienlijk kan beïnvloeden. Door inelastisch verstrooide elektronen te verwijderen, verbeteren energiefilters het contrast en de signaal-ruisverhouding, wat bijzonder gunstig is voor uitdagende monsters en toepassingen zoals hoge-resolutie SPA (gunstig), cryo-ET (cruciaal) en microED (gunstig).
  6. Evalueer beschikbare energiefiltersystemen tijdens de selectie van het instrument. Gatan Bioquantum- en Biocontinuum- of Thermo Fisher Scientific Selectris- en SelectrisX-systemen kosten doorgaans ongeveer US$0,3–1,5M, afhankelijk van de configuratie.
  7. Evalueer de extra kosten en complexiteit die gepaard gaan met energiefilters in combinatie met de mogelijkheden van de detector, de doelen van de faciliteit en de verwachte gebruikersapplicaties voordat u de uiteindelijke instrumentconfiguratie selecteert.
  8. Houd bij het berekenen van de totale aanschafkosten rekening met servicecontracten. Servicecontracten dekken gewoonlijk de microscoop, het energiefilter, de detector en het waterkoelingssysteem.
  9. Onderhandel bij de aankoop van het instrument over de voorwaarden van het servicecontract—inclusief garanties voor responstijd en de beschikbaarheid van leenonderdelen. Budgetteer jaarlijks 8–15% van de aanschafprijs van het instrument voor de servicecoverage.

3. Ontwerp en implementatie van de netwerkarchitectuur

  1. Ontwerp het interne netwerk van de faciliteit rondom een centrale high-speed switch. Verbind alle apparaten die gegevens genereren en consumeren rechtstreeks met deze switch op de hoogst ondersteunde snelheid: microscoopcontroller, cameracontroller (vaak een apart werkstation), opslagservers en GPU-rekennodes.
  2. Zorg voor een verbinding van minimaal 10 Gbps voor elk apparaat. Voorzie 25 Gbps of snellere uplinks tussen de switch en de opslag- en rekennodes waar het budget dat toelaat.
    OPMERKING: Bij 1 Gbps zou het overdragen van 20 TB aan ruwe gegevens 2–3 dagen duren. Bij 10 Gbps duurt dezelfde overdracht 5–6 h. Bij 25 Gbps duurt dit ongeveer 2 h. De netsnelheid bepaalt direct of on-the-fly verwerking gelijke tred kan houden met de gegevensacquisitie.
  3. Specificeer de centrale switch. Vereisten: (a) non-blocking switching fabric op volledige lijnsnelheid; (b) voldoende SFP+ of QSFP-poorten voor alle apparaten in de faciliteit; (c) beheerde switch-functionaliteit (VLAN-ondersteuning, verkeersmonitoring, port mirroring voor diagnostiek); (d) redundante voedingseenheden. Selecteer een beheerde switch van enterprise-grade die een nonblocking switching fabric, voldoende high-speed poorten, verkeersbeheerfuncties en redundante voedingen biedt.
  4. Segmenteer het netwerk met behulp van VLAN's om het volgende te scheiden: (a) het VLAN voor gegevensacquisitie (microscoop- en cameracontrollers, opslagservers); (b) het reken-VLAN (GPU-werkstations en clusternodes); (c) het beheer-VLAN (toegang op afstand, monitoring, administratie).
    OPMERKING: Netwerksegmentatie vermindert broadcast-verkeer, verbetert de beveiliging en maakt onafhankelijke probleemoplossing van elk subsysteem mogelijk.
  5. Verbind het netwerk van de faciliteit met het institutionele WAN via een toegewezen uplink-poort op de centrale switch. Een uplink van 1–10 Gbps naar het campusnetwerk is voldoende voor toegang op afstand en externe gegevensoverdracht.
  6. Coördineer met de institutionele IT-afdeling voor het toewijzen van statische IP-adressen, DNS-vermeldingen en passende firewall-regels voor alle toegankelijke apparaten in de faciliteit (Figuur 1).
  7. Installeer en label alle netwerkkabels. Gebruik direct attach cables of actieve optische kabels voor verbindingen van 10+ Gbps tot 100m (afgeschermde Cat6A werkt ook voor 10 Gbps tot 100m); gebruik voorgemonteerde glasvezelassemblages (LC-LC of MTP) voor inter-rack 25+ Gbps-verbindingen.
  8. Documenteer het volledige bekabelingsschema met een netwerkdiagram waarin apparaatnamen, IP-adressen, poorttoewijzingen en VLAN-lidmaatschappen zijn gespecificeerd.
    OPMERKING: Raadpleeg Figuur 2 voor een schema van de aanbevolen minimale netwerktopologie voor een kleine cryo-EM-faciliteit.

4. Ontwerp en implementatie van de opslagserver

  1. Bereken de opslagbehoeften voordat u hardware aanschaft. Als uitgangspunt: een enkele high-end cryo-EM-sessie genereert 2–5 TB aan ruwe data per dag.
  2. Schat de langetermijnopslagbehoeften in op basis van het verwachte gebruik van de faciliteit. Een faciliteit met 20 gebruikers en twee microscopen kan in 3–6 maanden tijd ongeveer 2 PB aan data genereren. Plan zowel opslag voor ruwe data (kortetermijn, hoge doorvoer) als opslag voor bewerkte data (middellange termijn, groter volume), aangezien bewerkte datasets vaak 10–20x groter zijn dan de ruwe input.
  3. Kies een robuuste opslagarchitectuur. Standalone ZFS-gebaseerde servers zijn het aanbevolen startpunt voor de meeste faciliteiten; deze bieden een gunstige kosten-capaciteitsverhouding, ingebouwde verificatie van data-integriteit (checksumming), flexibele RAID-equivalente configuraties (RAIDZ, RAIDZ2) en snapshot-ondersteuning. Geclusterde gedistribueerde bestandssystemen (Gluster, Ceph, GPFS/IBM Spectrum Scale) kunnen hogere prestaties en schaalbaarheid bieden, maar vereisen meerdere fysieke servers en een complexer beheer.
  4. Configureer ZFS-opslagpools. Aanbevolen startconfiguratie: twee RAIDZ2 vdevs (elk bestaande uit 6–8 high-capacity SAS HDD's van elk 16–20 TB), wat ongeveer 60–70% bruikbare capaciteit biedt met bescherming tegen twee gelijktijdige schijffouten.
  5. Voeg een dedicated SSD write-cache (L2ARC) vdev toe met 2–4 NVMe SSD's om de random read-prestaties voor actieve verwerkingstaken te versnellen.
    OPMERKING: Gebruik geen consumenten-SATA-schijven in productie-opslagarrays. Enterprise SAS- of NL-SAS-schijven met een gecertificeerde workload-capaciteit (bijv. 550 TB/jaar) zijn essentieel voor de aanhoudende random I/O-patronen van cryo-EM-workflows.
  6. Configureer NFS-exports (voor Linux-clients) en SMB-shares (voor Windows-clients) op de ZFS-opslagserver. Mount de primaire datashare op alle GPU-computeknodes en op het camera-controller-workstation om directe data-toegang mogelijk te maken zonder tussenliggende kopieën.
  7. Stel een beleid op voor databewaring en levenscyclus. Definieer: (a) de bewaartermijn van ruwe movies (doorgaans 3–6 maanden na collectie); (b) bewaring van motion-corrected micrografen; (c) bewaring van final processed datasets (onbeperkt tot publicatie); (d) de archiveringsprocedure voor voltooide projecten.
  8. Implementeer geautomatiseerde waarschuwingen wanneer de opslagbenutting 70% van de capaciteit overschrijdt, om tijdige aanschaf van extra opslag mogelijk te maken.
    OPMERKING: Opslag is de meest onderschatte kostenpost bij de planning van een cryo-EM-faciliteit. Verwar de goedkeuring voor de aanschaf van de microscoop niet met adequate financiering voor opslag. De aanschaf van opslag moet parallel aan de installatie van het instrument worden gepland, niet nadat de dataverzameling is begonnen.

5. GPU-rekeninfrastructuur

  1. Bepaal de rekenvereisten op basis van de verwachte doorvoer. Voor één microscoop die 3.000–5.000 micrografieën per sessie van 24 uur genereert, zijn minimaal twee rekenknopen vereist, elk uitgerust met 4x NVIDIA GPU-kaarten (Maxwell of nieuwer, 11+ GB VRAM, bijv. RTX 3090, RTX 4090 of A100), om on-the-fly voorbewerking op verzemsnelheid te ondersteunen.
  2. Voor grotere faciliteiten of cryo-ET-workflows met een hoog volume aan tilt-series dienen aanvullende nodes te worden voorzien.
  3. Specificeer de hardware van de GPU-rekenknoten. Elke knoop moet het volgende bevatten: (a) 4x NVIDIA GPU's met CUDA-ondersteuning (minimaal 24 GB VRAM per GPU voor CryoSPARC- en RELION 3D-verfijningen); (b) een CPU met een hoog aantal kernen (AMD EPYC of Intel Xeon, ≥32 kernen) ter ondersteuning van parallelle CPU-gebonden stappen (CTF-schatting, bestandsin-/uitvoer); (c) ≥256 GB systeem-RAM; (d) 2–4 TB NVMe SSD lokale scratchruimte voor actieve job-intermediairen; (e) een 10/25 Gbps netwerkinterfacekaart (NIC); (f) voldoende lokale opslag voor werkdataset (doorgaans een RAID-volume). OPMERKING: GPU's uit de consumentenklasse (RTX 4090) kunnen vergelijkbare prestaties bieden als alternatieven uit de enterprise-klasse (A100) tegen aanzienlijk lagere kosten voor cryo-EM-werklasten. Evalueer specifiek de benchmarks voor CryoSPARC en RELION, aangezien hun geheugenaccespatronen GPU's met een hoge geheugenbandbreedte bevoordelen.
  4. Installeer de NVIDIA-driverstack, de CUDA-toolkit (een versie die compatibel is met CryoSPARC en RELION) en cuDNN op elke computeknoop. Gebruik een configuratiemanagementtool om de softwareomgevingen over alle knopen te standaardiseren en toekomstige updates te vereenvoudigen.
  5. Implementeer CryoSPARC in een standalone- of clusterconfiguratie. Installeer voor een faciliteit met meerdere nodes CryoSPARC-master op een toegewezen head node en CryoSPARC-worker op elke GPU-computenode.
  6. Configureer de jobplanning om meerdere gebruikers in staat te stellen gelijktijdig verwerkingstaken in te dienen. Raadpleeg de officiële documentatie over de CryoSPARC-architectuur voor de minimale systeemvereisten en netwerkconfiguratie.
  7. Installeer RELION naast het primaire verwerkingsplatform om gebruikers toegang te bieden tot beide verwerkingsecosystemen. Configureer de software om de lokale compute-nodes te gebruiken via een scheduler (SLURM of PBS/Torque).
  8. Installeer de aanvullende hulpprogramma's: MotionCor2 (bewegingscorrectie), CTFFIND4 en Gctf (CTF-schatting), TOPAZ (particle picking op basis van machine learning), crYOLO (neural-network particle picker) en cryoDRGN (heterogeniteitsanalyse). Raadpleeg Tabel 3 voor een overzicht van de beschikbare softwarepakketten voor SPA, cryo-ET, STA en microED. 
  9. Gebruik de implementatie van het SBGrid-consortium of container-gebaseerd softwarebeheer (Singularity/Apptainer voor HPC-omgevingen; Docker voor werkstations) om reproduceerbare, geversioneerde softwareomgevingen te behouden.
    OPMERKING: SBGrid biedt vooraf gecompileerde en gevalideerde builds van alle belangrijke cryo-EM-softwaretools aan, inclusief geautomatiseerd updatebeheer voor academische instellingen.

6. Infrastructuur voor toegang op afstand

  1. Richt VPN-gebaseerde remote toegang in als het primaire beveiligde toegangspunt voor alle externe gebruikers en medewerkers. Werk samen met de institutionele IT om een faciliteitspecifiek VPN-profiel of een tunnel te configureren die toegang verleent tot het reken- en opslagnetwerk van de faciliteit zonder dat apparaten worden blootgesteld aan het algemene publieke internet.
  2. Implementeer tweestapverificatie (2FA) op alle remote toegangspunten (Figuur 2).
  3. Installeer remote desktop-software voor grafische toegang tot microscoopcontrollers en GPU-workstations. Aanbevolen opties: (a) TeamViewer (commercieel, cross-platform, NAT-traversing — geschikt voor toegang tot microscoopcontrollers); (b) NoMachine (commercieel, cross-platform, ondersteunt OpenGL 3D-graphics forwarding — aanbevolen voor GPU-workstations waarop visualisatietools draaien); (c) TurboVNC met VirtualGL (open-source, alleen Linux, ondersteunt remote 3D-rendering).
    OPMERKING: Veel cryo-EM-visualisatietools maken gebruik van OpenGL voor 3D-rendering. Standaard X11-forwarding ondersteunt geen hardwareversnelde OpenGL. Gebruik NoMachine of VirtualGL/TurboVNC voor deze applicaties.
  4. Configureer remote toegang tot de software voor data-acquisitie van de microscoop. Gebruik Leginon of SerialEM voor remote bediening via de institutionele VPN. De acquisitiesoftware van de microscoop kan remote worden benaderd via een goedgekeurde remote desktop-applicatie.
  5. Test de remote connectiviteit vanaf representatieve externe locaties (thuisnetwerken, samenwerkende instellingen) voordat de gebruikersoperaties live gaan (Tabel 4).
  6. Stel een webgebaseerd monitoringsdashboard van de faciliteit in, zodat medewerkers en gebruikers de status van de datacollectie, preprocessing-outputs, opslagbenutting en de status van de compute-wachtrij remote kunnen volgen. Leginon bevat een ingebouwde web-monitoringinterface.
  7. Configureer voor de CryoSPARC-workflow Grafana of een aangepast webdashboard dat wordt gevoed door pipeline-logoutputs en systeemmonitoringtools (Prometheus, node_exporter).
  8. Richt een mechanisme voor datalevering aan externe gebruikers in. Configureer een geauthentificeerde datatransferdienst, zoals Globus Connect Server, op de opslag van de faciliteit.
  9. Bereid voor gebruikers zonder Globus-toegang procedures voor voor verzending van USB-harde schijven met gedocumenteerde checksums. Een internetverbinding van 10 Gbps is noodzakelijk voor een praktische directe download van multi-TB datasets door externe gebruikers.

7. Workflow voor on-the-fly gegevensverwerking: implementatie

  1. Configure het gegevensstroompad vóór elke gegevensverzamelingssessie. Bevestig dat: (a) de cameracontroller raw movies direct naar de NFS-gemounte high-performance opslag van de faciliteit schrijft; (b) het NFS-gedeelte is gemount en toegankelijk op alle GPU-computeknooppunten; (c) er voldoende vrije opslagcapaciteit is voor de geplande sessie (minimaal 5 TB vrij voor een SPA-sessie van 24 u); (d) de GPU-computeknooppunten beschikbaar zijn en er geen langlopende taken zijn die strijden om resources.
  2. Stel een gain-referentiecorrectie in. Verwerf vóór elke sessie een gain-referentiebeeld zoals gespecificeerd door de leverancier van de detector (meestal een blootstelling aan een lege straal op een leeg gebied van het grid).
  3. Plaats het gain-referentiebestand in de aangewezen inputmap voor voorbewerking. Alle software voor bewegingscorrectie (MotionCor2, de eigen implementatie van RELION) zal deze referentie automatisch toepassen indien correct geconfigureerd.
  4. Start de on-the-fly voorbewerkingspipeline met behulp van CryoSPARC-Live (voorkeur voor real-time visualisatie). De pipeline moet worden gestart zodra de eerste movies in de outputmap verschijnen—meestal binnen de eerste 5–10 min van de geautomatiseerde gegevensverzameling.
    OPMERKING: CryoSPARC-Live blijft een aangewezen map bewaken op nieuwe movie-bestanden en verwerkt deze zodra ze binnenkomen. Het belangrijkste onderscheid is dat CryoSPARC-Live een interactieve webinterface in real-time biedt voor monitoring.
  5. CryoSPARC-Live workflow
    1. Navigeer in de webinterface naar een nieuw of bestaand project en maak een nieuwe live sessie aan11,36.
    2. Configureer de inputbron: specificeer het mappad waarnaar de cameracontroller schrijft (de 'watch folder'), het bestandspatroon dat overeenkomt met raw movie-bestanden (bijv. *.tif, *.mrc, of *.eer voor Falcon 4i-gegevens in EER-formaat), en het pad naar het gain-referentiebestand.
    3. Stel de parameters voor bewegingscorrectie in: aantal te gebruiken frames, patch-gebaseerde bewegingscorrectie (aanbevolen: 5x5 patches), output binning-factor (meestal 1 voor gegevensverzameling nabij Nyquist; 2 voor initiële screening), en elektronendosis per frame (berekend uit de totale dosis en het aantal frames).
    4. Stel de CTF-schattingsparameters in: minimale en maximale resolutie voor fitting (meestal 30 Å en 4 Å), zoekbereik voor defocus (0,5–5 µm aanbevolen voor SPA), en maximaal aanvaardbaar astigmatisme. Schakel per-tilt CTF-schatting in voor cryo-ET-datasets.
    5. Configureer de particle picking: selecteer de picking-methode (blob picker voor initiële sessies; template picker nadat de eerste goede 2D-klassen beschikbaar zijn; TOPAZ picker voor moeilijke monsters). Stel de verwachte particeldiameter en minimale/maximale particle spacing in.
    6. Om de opslageisen, de belasting van de gegevensoverdracht en de computationele kosten aanzienlijk te verminderen, wordt Fourier cropping tijdens particle extraction met een factor 4 aanbevolen (wat resulteert in 4x de fysieke pixelgrootte). Voor routinematige beoordeling van de gegevenskwaliteit zijn tussenresoluties van 3–5 Å doorgaans voldoende tijdens on-the-fly verwerking.
    7. Schakel 2D-classificatie in binnen de live sessie. Stel het aantal 2D-klassen in (meestal 50–200), de batchgrootte voor incrementele updates (200–500 particles), en de resolutielimiet voor classificatie (6–8 Å voor initiële beoordeling).
    8. Start de live sessie. Monitor het real-time dashboard voor: aantal en snelheid van binnenkomende movies, kwaliteit van de bewegingscorrectie (totale beweging per movie—verwerp movies met >30 Å totale beweging als vuistregel), CTF fit-kwaliteit (verwerp micrographs met een CTF fit-resolutie >6–8 Å), particle yield per micrograph, en de evoluerende kwaliteit van de 2D-klassegemiddelden.
    9. Stel acceptatie-drempels in voor geautomatiseerde curatie. Definieer in het Filters-paneel afwijzingscriteria voor beweging (cutoff voor totale beweging), CTF-kwaliteit (cutoff voor fit-resolutie) en defocus-bereik (sluit extreem under- of over-focused micrographs uit). Gecureerde particles worden automatisch doorgestuurd naar de daaropvolgende 2D-classificatietaak.

8. Real-time kwaliteitscontrole en feedback tijdens de gegevensverzameling

  1. Monitor de CTF-statistieken continu gedurende de sessie. Zet de defocuswaarden voor elke micrograph uit: de distributie moet geclusterd zijn binnen het beoogde defocusbereik (doorgaans −0,5 tot −3,0 µm voor SPA).
  2. Systematische drift naar hogere defocuswaarden kan wijzen op stage-drift of een onjuiste kalibratie van de eucentrische hoogte. Waarschuw onmiddellijk het faciliteitspersoneel als de CTF-fitresolutie verslechtert tot onder de 6 Å, aangezien dit doorgaans duidt op ijscontaminatie, bundelinstabiliteit of een focus-drift waarvoor interventie nodig is.
  3. Monitor de resultaten van de bewegingscorrectie. De totale in-frame beweging per movie moet minder dan 10–30 Å zijn voor hoogwaardige data. Systematische hoge beweging in de vroege frames is te verwachten en wordt gecorrigeerd; echter, aanhoudende hoge beweging gedurende de gehele movie (>40 Å totaal) kan wijzen op mechanische instabiliteit van de stage of sample-charging en moet worden onderzocht.
  4. Inspecteer de 2D-klassegemiddelden terwijl deze tijdens de sessie worden bijgewerkt (elke 30–60 min). Indicatoren voor een hoogwaardige dataset: klassegemiddelden die kenmerken van de secundaire structuur vertonen, meerdere verschillende aanzichten van het deeltje en de afwezigheid van stapelings- of aggregatie-artefacten.
  5. Monitor op indicatoren die interventie vereisen: alle deeltjes die worden gesorteerd in kenmerkloze 'junk'-klassen (wat wijst op een slechte monster- of ijskwaliteit), het volledige ontbreken van bepaalde aanzichten (wat wijst op een preferentiële oriëntatie — dit kan grid-optimalisatie vereisen), of extreem lage deeltjesopbrengsten per micrograph.
  6. Log alle observaties in een gestructureerd sessielogboek. Noteer: start- en eindtijden van de sessie, instellingen van de microscoop en camera, een samenvatting van de on-the-fly statistieken (totaal aantal verzamelde movies, fractie die door het CTF-filter komt, fractie die door het bewegingsfilter komt, totaal aantal gepickte deeltjes, 2D-klassebeoordeling) en eventuele uitgevoerde interventies. Dit logboek is essentieel voor retrospectieve kwaliteitsbeoordeling en rapportage over de prestaties van de faciliteit.
  7. Genereer aan het einde van de sessie een samenvattende rapportage over de datakwaliteit. Het live-processingplatform exporteert automatisch een sessiesamenvatting.
    OPMERKING: Een andere optie voor het genereren van samenvattingen en rapporten is het gebruik van AI-tools zoals Vitreum. In de UCSC Biomolecular Cryo-EM Facility wordt het Vitreum-platform gebruikt om laboratoriumworkflows en experimentele documentatie te beheren. Vitreum registreert experimentele stappen terwijl ze plaatsvinden, handhaaft restricties op protocolniveau, verifieert de uitvoering van de workflow aan de hand van vooraf gedefinieerde kwaliteitscriteria en biedt een controleerbaar verslag van de laboratoriumactiviteiten. Door laboratoriumoperaties te integreren met de computationele en datamanagementinfrastructuur van de faciliteit, minimaliseert het platform handmatige administratie, verbetert het de reproduceerbaarheid, faciliteert het de communicatie tussen faciliteitspersoneel en gebruikers, en maakt het een consistente tracking van experimenten mogelijk, van monstervoorbereiding tot dataverzameling en daaropvolgende computationele analyse.

9. Pipeline voor gegevensverwerking na verzameling

  1. Nadat de on-the-fly voorbewerking is voltooid, wordt de gecureerde gestapelde set van gebinde deeltjes geëxporteerd samen met de gecureerde voorbewerkte movies.
  2. Koppel het CryoSPARC-project los van het hoofdworkstation en koppel het vervolgens opnieuw aan een ander gedeeld, op afstand toegankelijk workstation. Dit maakt een snelle offload en doorloop mogelijk om de volgende gegevensacquisiesessie te starten.
    OPMERKING: Een typische gegevensverzameling kan variëren tussen 1–2 dagen en is eenvoudig te monitoren via CryoSPARC-Live. De 3D-bewerkingsstappen kunnen echter weken of maanden duren, waardoor de projectoverdracht tussen workstations en opslagservers gerechtvaardigd is.
  3. Exporteer in CryoSPARC de gecureerde gebinde deeltjes uit de live-sessie naar een standaardproject voor offline 3D-bewerking36
  4. Voer ab initio 3D-reconstructie uit. Gebruik in CryoSPARC de Ab Initio Reconstruction-job (3–5 initiële modellen worden aanbevolen voor heterogene monsters). Genereer 1–4 initiële modellen om de structurele heterogeniteit te beoordelen.
  5. Zodra de gereconstrueerde waarden bevredigend zijn, worden de niet-gebinde deeltjes opnieuw geëxtraheerd om de algehele resolutie te verbeteren.
  6. Voer 3D-verfijning uit met behulp van heterogene verfijning (indien meerdere conformaties of klassen worden vermoed), gevolgd door homogene verfijning voor de beste klasse. Gebruik in CryoSPARC heterogene verfijning gevolgd door non-uniforme verfijning. 
  7. Pas Bayesian polishing toe in RELION13 of gebruik per-deeltje bewegingscorrectie en CTF-verfijning (CryoSPARC: CTF refinement-job) om het signaal per deeltje te verbeteren door rekening te houden met straal-geïnduceerde beweging en per-deeltje defocus, afhankelijk van de voorkeur van de gebruiker. Deze stap verbetert routinematig de uiteindelijke resolutie van de map met 0,2–0,5 Å. Daarnaast kan reference-based motion correction (RBMC) in CryoSPARC ook een optie zijn om de resolutie en mapkwaliteit te verbeteren.
  8. Valideer de uiteindelijke map met behulp van de gold-standard Fourier shell correlation (FSC)-procedure. Splits de deeltjesstapel in twee onafhankelijke half-sets, verfijn deze onafhankelijk en bereken de FSC tussen de twee half-maps. Rapporteer de uiteindelijke resolutie bij FSC = 0,143.
  9. Bereken de map-to-model FSC (FSC-Q) en Q-scores na het fitten van het atomaire model als onafhankelijke validatiemetrieken37.
  10. Voer de constructie en validatie van het atomaire model uit. Gebruik ModelAngelo voor geautomatiseerde de novo modelbouw vanuit de dichtheidsmap20. Verfijn het model met behulp van PHENIX real-space refinement en valideer met MolProbity.
  11. Gebruik COOT35 nadat het initiële model is gegenereerd om de dichtheidsmap te visualiseren, atomaire coördinaten te fitten of aan te passen, modelleringsfouten te corrigeren, ontbrekende regio's op te bouwen en structuren van eiwitten, nucleïnezuren of liganden te optimaliseren. Het maakt interactieve bewerking van residuen, zijketenconformaties, secundaire structuren en sequentietoewijzingen mogelijk, gevolgd door real-space refinement om de overeenstemming tussen het atomaire model en de experimentele dichtheid te verbeteren.
  12. Sla tot slot het uiteindelijke atomaire model op in de Protein Data Bank (PDB), de dichtheidsmap in de Electron Microscopy Data Bank (EMDB) en de ruwe of voorbewerkte gegevens in het Electron Microscopy Public Image Archive (EMPIAR).

Resultaten

A successfully implemented facility IT infrastructure and on-the-fly data processing pipeline will produce the following verifiable outcomes at each stage:

Network and storage
Internal data transfer between the camera controller and storage server should sustain ≥800 MB/s (approaching theoretical 10 Gbps throughput) when measured with tools such as iperf3 or fio. This throughput is sufficient to transfer a 10–12 GB movie stack from the detector in under 15 seconds, ensuring that storage writing does not create a bottleneck during high-speed EER data collection. ZFS storage pool utilization and per-pool IOPS should be monitored daily; healthy pools show no degraded or faulted VDEVs and consistent read speeds of ≥500 MB/s for sequential reads.

On-the-fly preprocessing
The on-the-fly workflow should process each new movie—including motion correction, CTF estimation, and particle picking—within seconds of it being written to disk, thereby keeping pace with modern detector frame rates, such as the TFS Falcon 4i, operating at 5–15 movies per minute (considering 10–100 Gbps network connections and switches). For a 24 h SPA session generating ~8,000–12,000 micrographs at 150,000x magnification with the selected detector, the pipeline should deliver approximately 200,000–800,000 picked particles, a median CTF fit resolution of 3.0–5 Å, and an initial set of 2D class averages showing clear secondary structural features (alpha-helices, beta-strands) by 4–6 h into the session.

2D and 3D processing benchmarks
With 4x NVIDIA RTX 4090 GPUs per compute node and a dataset of 500,000 particles, CryoSPARC 2D classification (200 classes, 25 iterations) should complete in approximately 30–60 min. Ab initio 3D reconstruction from 100,000 particles should complete in 15–30 min. Full 3D refinement of a 300 kDa complex to near-atomic resolution typically requires 2–8 h, depending on particle count and target resolution. These benchmarks serve as a baseline for detecting performance regressions caused by hardware failures or resource contention.

Facility performance metrics
A well-functioning facility should track the following key performance indicators (KPIs) monthly: (a) instrument uptime percentage (target: >90%); (b) fraction of sessions with on-the-fly pipeline active from session start (target: 100%); (c) storage utilization and growth rate; (d) number of active users and projects; (e) number of structures deposited to EMDB/PDB; (f) fraction of sessions producing publishable-quality 2D classes. These metrics provide objective evidence of operational success and support facility reporting to funding agencies.

figure-results-1
Figure 1: Overview of the cryo-EM facility data flow architecture. Schematic illustration of the complete data path from electron detector to final deposited structure. Raw movie frames are written from the camera controller to high-performance NFS storage via the 10 Gbps facility network switch. GPU compute nodes mount the same storage share and begin on-the-fly preprocessing (motion correction → CTF estimation → particle picking → 2D classification) concurrently with data collection. Preprocessed outputs and final 3D reconstructions are stored on the same or secondary storage pool. Remote users access compute resources and storage through an institutional VPN and approved remote desktop software. External data delivery is performed through an authenticated transfer service or by shipping physical storage media. Please click here to view a larger version of this figure.

figure-results-2
Figure 2: Minimal network topology for a small cryo-EM facility. All data acquisition and processing devices—camera controller, microscope controller, storage servers (>1 PB capacity), and GPU compute servers (N nodes)—are connected via a central 10 Gbps (or faster) managed network switch. The switch uplinks to the institutional internet/WAN for remote access. Remote data processing and remote monitoring are accessible over the public internet via VPN. Storage capacity shown is representative for a single-microscope, 20-user facility operating for 3–6 months. Please click here to view a larger version of this figure.

ManufacturerModelkVmaxElectron SourceCompatible DEDsPrimary ApplicationsStrengthsLimitations/Notes
Thermo Fisher ScientificKrios G4/Krios 5300 kVXFEG/CFEGFalcon 4i, Falcon 3EC, Gatan K3/K2SPA, cryo-ET/STA, MicroEDGold-standard platform, full automation (EPU), highest throughput, best for high-res (<2.5 Å)Highest cost, infrastructure demanding
Glacios 2200 kVXFEGFalcon 4i, Falcon 4, Gatan K3SPA, cryo-ET, MicroEDStrong performance at lower cost, compact footprint, high accessibilityLower ultimate resolution vs 300 kV
Talos Arctica200 kVXFEGFalcon 3, Falcon 4, Gatan K2/K3SPA, cryo-ETProven, robust, widely adoptedOlder generation, less automation
Talos L120C120 kVLaB6Ceta CMOS (limited DED)Screening, MicroED (limited)Cost-effective, training/screeningNot suitable for high-resolution SPA
JEOLCRYO ARM 300 II (JEM-Z300FSC)300 kVCFEGGatan K3/K2, Direct Electron DE64SPA, cryo-ET/STA, MicroEDCold FEG (high coherence), top-tier resolution, strong opticsLess integrated ecosystem
CRYO ARM 200200 kVCFEGGatan K3/K2, DE64SPA, cryo-ETExcellent performance-cost ratio, high stabilityFewer turnkey automation tools
JEM-3200FSC300 kVFEGGatan K2/K3, DE20SPA, cryo-ETLarge installed base, provenLegacy system, aging support
Hitachi High-TechHF8300300 kVFEGGatan K3/K2, DE64 (custom integration)SPA, cryo-ETHigh-voltage capability, flexible integrationLimited adoption in structural biology
HT7800120 kVLaB6CMOS, limited DEDScreening, MicroEDReliable screening scopeNot suitable for high-resolution cryoEM
SU9000 (TEM/STEM)200 kVCFEGLimited cryo-compatible DEDsNiche cryo, materialsAdvanced opticsNot widely used for SPA/ET

Table 1: Comparison of current cryo-TEM platforms and recommended DEDs. Summary of commercially available cryo-TEMs organized by manufacturer (ThermoFisher Scientific, JEOL, Hitachi), including model name, maximum accelerating voltage (kVmax), compatible DEDs for cryogenic operation, and primary imaging applications (SPA, STA/cryo-ET, microED). Intended as a planning reference; consult manufacturers for current specifications. Abbreviations: DED = direct electron detector; XFEG = extreme field emission gun; CFEG = cold field emission gun; FEG = field emission gun; SPA = single-particle analysis; cryo-ET = cryo-electron tomography; STA = subtomogram averaging; MicroED = micro-electron diffraction; TEM = transmission electron microscope; STEM = scanning transmission electron microscope.

DetectorVendorKey FeaturesTypical PairingBest Use Case
Falcon 4iThermo Fisher ScientificEER mode, very high frame rate, high DQEKrios, GlaciosHigh-throughput SPA, cryo-ET
Gatan K3Gatan (AMETEK)Counting mode, large FOV, super-resolutionJEOL + ThermoHigh-resolution SPA (standard)
Gatan K2GatanPrevious-gen counting detectorLegacy systemsEstablished pipelines
DE64Direct ElectronLarge sensor, high throughputJEOL, selected ThermoCryo-ET, large field-of-view
ApolloDirect ElectronHigh frame rate, high throughputKrios, Glacios, JEOLsSPA and microED

Table 2: Current available DEDs in the market. Summary of commercially available DEDs organized by manufacturer. Abbreviations: EER = Electron Event Register; DQE = detective quantum efficiency; FOV = field of view; SPA = single-particle analysis; cryo-ET = cryo-electron tomography; microED = micro-electron diffraction.

SoftwareMain FunctionKey FeaturesReference
RELIONEnd-to-end SPA processingBayesian refinement, classification, CTF refinement7, 12, 13
cryoSPARCEnd-to-end SPAFast GPU pipelines, ab initio reconstruction11
EMAN2Image processing suiteReconstruction, heterogeneity analysis (e2gmm)14
cisTEMSPA processingUser-friendly GUI, refinement and validation15
SPHIRESPA (SPARX-based)High-resolution refinement workflows16
cryoDRGNHeterogeneity analysisDeep learning latent space reconstruction17
TopazParticle pickingDeep learning-based picking18
crYOLOParticle pickingReal-time neural network picking16
WarpPreprocessingMotion correction, CTF estimation, real-time processing19
Model AngeloModel buildingAutomated model building from maps20
cryoET + STA
SoftwareMain FunctionKey FeaturesReference
IMODTilt-series alignment & reconstructionGold standard for tomogram reconstruction21
DynamoSTAGeometry-based particle picking, flexible workflows22
emClaritySTA refinementHigh-resolution STA, template matching23
RELION (ET module)STA refinementBayesian STA, integration with SPA workflows24
EMAN2 (SPT)STASubtomogram refinement tools14
Warp/MPreprocessing + STAReal-time tomographic preprocessing19
AreTomoTomogram reconstructionFast alignment and reconstruction25
PEETSTASubtomogram averaging (IMOD-based)26
PyTomSTATemplate matching, classification27
Tomo3DReconstructionFast GPU tomogram reconstruction28
crYOLO (3D)Particle pickingML-based picking in tomograms16
AITomAI-based analysisDeep learning for segmentation and classification29
MicroED 
SoftwareMain FunctionKey FeaturesReference
DIALSDiffraction processingIntegration of diffraction data30
XDSData processingIndexing and integration of diffraction data31
MOSFLMData processingCrystallography indexing32
SHELXStructure solutionPhasing and refinement33
PhenixStructure refinementAutomated model building34
COOTModel buildingManual model correction35

Table 3: Examples of commonly used software packages for SPA, cryo-ET, STA, and microED. Summary of commercially and publicly available software packages. Abbreviations: SPA = single-particle analysis; cryo-ET = cryo-electron tomography; STA = subtomogram averaging; MicroED = micro-electron diffraction; CTF = contrast transfer function; GUI = graphical user interface; ML = machine learning.

CategorySoftwareTypePrimary FunctionKey Features / Role in Facility
Operating SystemLinux (Ubuntu, CentOS/Rocky)OSCore compute environmentHPC standard, GPU support, scripting, cluster deployment
Operating SystemWindowsOSUser interface / workstation OSCompatibility with vendor software, remote desktop access
File SystemZFSFile systemData storage & integritySnapshots, redundancy, data integrity (checksums), scalable storage
Network File SharingNFSProtocolLinux-based file sharingHigh-performance sharing across compute nodes
Network File SharingSMB (CIFS)ProtocolCross-platform file sharingWindows–Linux interoperability
Remote AccessMicrosoft Remote Desktop (RDP)Remote accessGUI-based remote controlNative Windows remote access
Remote AccessNoMachineRemote accessHigh-performance remote desktopFast GPU-enabled visualization, widely used in cryoEM
Remote AccessTeamViewerRemote accessRemote support/accessEasy setup, cross-platform support
Remote AccessVirtualGL + TurboVNCRemote visualizationGPU-accelerated remote renderingEssential for remote cryoSPARC/RELION visualization
GPU ComputingCUDACompute frameworkGPU accelerationRequired for cryoSPARC, RELION, deep learning tools
Data TransferGlobusData transferSecure large-scale transferHigh-speed, fault-tolerant data movement across institutions

Table 4: Software reference for cryo-EM facility IT operations and data processing. Reference list of key software tools covering operating systems (Linux, Windows), file systems (ZFS), network file sharing (NFS, SMB), remote access (Microsoft RDP, NoMachine, TeamViewer, VirtualGL/TurboVNC), GPU computing (CUDA), and data transfer (Globus). Abbreviations: OS = operating system; HPC = high-performance computing; NFS = Network File System; SMB = Server Message Block; CIFS = Common Internet File System; RDP = Remote Desktop Protocol; GUI = graphical user interface.

Discussie

De IT-infrastructuur van een cryo-EM-faciliteit is geen ondersteunende bijzaak, maar een operationele vereiste. Faciliteiten die beginnen met gegevensverzameling zonder adequate opslag-, netwerk- en verwerkingscapaciteit worden onvermijdelijk geconfronteerd met de keuze tussen het weggooien van ruwe gegevens, het stopzetten van de gegevensverzameling of het accepteren van maandenlange vertragingen bij de structuurbepaling. De hier beschreven protocollen zijn ontworpen om deze uitkomsten te voorkomen door ervoor te zorgen dat de computationele basis is ontworpen, getest en gevalideerd voordat de eerste gebruikerssessie plaatsvindt.

Het allerbelangrijkste principe bij het ontwerp van de IT-infrastructuur voor cryo-EM is dat de opslag- en netwerkcapaciteit moeten worden gedimensioneerd op basis van de data-output van de detector, en niet op basis van de historische intuïtie van de ontwerper van de faciliteit. In EER-modus kan de detector 8–12 GB per movie stack wegschrijven; bij ~15 movies per minuut gedurende een sessie van 24 h levert dit ongeveer 2–5 TB aan ruwe data op vóór enige compressie. Hoewel on-the-fly lossless compressie (beschikbaar in CryoSPARC-Live) dit met 50–70% kan verminderen, moeten het netwerk en de opslag in staat zijn om de ongecomprimeerde schrijfsnelheid te verwerken in het geval dat compressie is uitgeschakeld of faalt. Het is essentieel om te ontwerpen voor de piekcapaciteit in plaats van de gemiddelde capaciteit.

On-the-fly verwerking vormt een van de meest impactvolle vooruitgangen in de operationele werking van cryo-EM-faciliteiten van de afgelopen jaren. Voordat real-time pipelines beschikbaar waren, hadden medewerkers van de faciliteit geen objectieve manier om de datakwaliteit te beoordelen tot uren of dagen na de collectie, waartegen de sessie reeds was beëindigd en het monsterrooster mogelijk was weggegooid. Met CryoSPARC-Live kunnen 2D-klassegemiddelden die herkenbare secundaire structuren vertonen al binnen 2–4 h na aanvang van de sessie beschikbaar zijn, wat weloverwogen beslissingen mogelijk maakt over de selectie van roosters, aanpassingen van de parameters voor datacollectie en de verlenging of beëindiging van de sessie. Deze feedbackloop is wellicht de meest directe manier waarop IT-infrastructuur de wetenschappelijke resultaten verbetert.

Een bekende beperking van de on-the-fly workflow is de gevoeligheid voor configuratiefouten. Een onjuist gespecificeerde pixelgrootte, een verkeerde gain-referentie of een niet overeenkomende dose-per-frame waarde zal door de gehele pipeline propageren, wat leidt tot misleidende kwaliteitsmetrieken en gecorrumpeerde partikelstacks. Daarom bevelen wij een gestandaardiseerde checklist voor aanvang van de sessie aan, die expliciet alle configuratieparameters van de pipeline verifieert voordat de gegevensverzameling begint. Deze checklist moet worden beschouwd als een veiligheidskritisch document, analoog aan pre-flight checklists in de luchtvaart, zoals beschreven in de bredere literatuur over cryo-EM faciliteitsbeheer.

De keuze tussen CryoSPARC-Live en RELION hangt af van de prioriteiten van de faciliteit. Het platform voor live-verwerking biedt een superieure realtime webinterface, een nauwere integratie tussen de live- en offline-verwerkingsomgevingen en een eenvoudigere configuratie voor niet-experts. RELION biedt een fijnmaziger beheer van de verwerkingsparameters en is het voorkeursplatform voor gebruikers die specifieke algoritmische opties vereisen (bijv. Bayesian polishing, specifieke 3D-classificatiestrategieën), in vergelijking met de 3D-classificatiestrategieën (bijv. 3DVAR of 3D-classificatie) die aanwezig zijn in CryoSPARC. Veel faciliteiten zetten beide parallel in, waarbij CryoSPARC-Live wordt gebruikt voor realtime monitoring en RELION voor de uiteindelijke structuurbepaling.

De infrastructuur voor toegang op afstand verdient speciale aandacht. In onze ervaring komen de meeste door gebruikers gemelde problemen tijdens de gegevensverzameling voort uit storingen bij de toegang op afstand, in plaats van problemen met de microscoop of detector. Betrouwbare remote desktop-toegang met lage latentie tot de microscoop en de werkstations voor gegevensverzameling is geen luxe, maar het primaire middel waarmee de meeste gebruikers met de faciliteit communiceren. Het investeren in professioneel geconfigureerde remote desktop-servers, het testen van de connectiviteit vanaf representatieve gebruikerslocaties en het duidelijk documenteren van de verbindingsprocedure zal een grotere positieve impact hebben op de gebruikerservaring dan veel duurdere hardware-investeringen.

Ten slotte moet er een beleid voor databeheer worden vastgesteld en gecommuniceerd naar de gebruikers voordat de operationele activiteiten van de faciliteit beginnen. Gebruikers onderschatten vaak de omvang van hun datasets en overschatten de duur van hun toegewezen opslagruimte. Een duidelijk schriftelijk beleid waarin bewaartermijnen voor ruwe data, dataquota voor gebruikers, archiveringsprocedures en kostenverhaal voor overschrijdingen van de opslagcapaciteit zijn gespecificeerd, beschermt zowel de faciliteit als de gebruikers en voorkomt operationele crises die ontstaan wanneer de opslagruimte halverwege een sessie is uitgeput.

Openbaarmakingen

De auteurs verklaren dat er geen belangenverstrengeling is.

Dankbetuigingen

De auteurs danken de Biomolecular Cryo-Electron Microscopy Facility van de afdeling Chemie en Biochemie van de University of California–Santa Cruz (RRID: SCR_021755) voor de wetenschappelijke en technische ondersteuning (NIH High-End Instrumentation program, S10OD02509).

Materialen

Lijst van materialen gebruikt in dit artikel
NaamBedrijfCatalogusnummerOpmerkingen
Krios 5ThermoFisher Scientifichttps://www.thermofisher.com/us/en/home/electron-microscopy/products/transmission-electron-microscopes/krios-5-cryo-tem.htmlTransmissie-elektronenmicroscoop
Krios G4ThermoFisher Scientifichttps://www.thermofisher.com/us/en/home/electron-microscopy/products/transmission-electron-microscopes/krios-g4-cryo-tem.htmlTransmissie-elektronenmicroscoop
GlaciosThermoFisher Scientifichttps://www.thermofisher.com/us/en/home/electron-microscopy/products/transmission-electron-microscopes/glacios-cryo-tem.htmlTransmissie-elektronenmicroscoop
Glacios 2ThermoFisher Scientifichttps://www.thermofisher.com/us/en/home/electron-microscopy/products/transmission-electron-microscopes/glacios-2-cryo-tem.htmlTransmissie-elektronenmicroscoop
Glacios 3ThermoFisher Scientifichttps://www.thermofisher.com/ (nieuwste generatie; productpagina kan variëren per regio)Transmissie-elektronenmicroscoop
Talos ArcticaThermoFisher Scientifichttps://www.thermofisher.com/us/en/home/electron-microscopy/products/transmission-electron-microscopes/talos-arctica.htmlTransmissie-elektronenmicroscoop
Talos L120CThermoFisher Scientifichttps://www.thermofisher.com/us/en/home/electron-microscopy/products/transmission-electron-microscopes/talos-l120c.htmlTransmissie-elektronenmicroscoop
CRYO ARM 300 II (JEM-Z300FSC)JEOLhttps://www.jeol.com/products/scientific/tem/cryoarm300ii.phpTransmissie-elektronenmicroscoop
CRYO ARM 200JEOLhttps://www.jeol.com/products/scientific/tem/cryoarm200.phpTransmissie-elektronenmicroscoop
JEM-3200FSCJEOLhttps://www.jeol.com/products/scientific/tem/jem3200fsc.phpTransmissie-elektronenmicroscoop
HF8300Hitachihttps://www.hitachi-hightech.com/global/en/products/microscopes/tem/hf8300.htmlTransmissie-elektronenmicroscoop
HT7800Hitachihttps://www.hitachi-hightech.com/global/en/products/microscopes/tem/ht7800.htmlTransmissie-elektronenmicroscoop
SU9000 (TEM/STEM)Hitachihttps://www.hitachi-hightech.com/global/en/products/microscopes/sem-tem/su9000.htmlTransmissie-elektronenmicroscoop
Falcon 4iThermo Fisher Scientifichttps://www.thermofisher.com/us/en/home/electron-microscopy/products/direct-electron-detectors/falcon-4i.htmlDirecte elektrondetector
Gatan K3Gatan (AMETEK)https://gatan.com/products/tem-cameras/k3-is-cameraDirecte elektrondetector
Gatan K2Gatanhttps://gatan.com/products/tem-cameras/k2-cameraDirecte elektrondetector
ApolloDirect Electronhttps://directelectron.com/apollo/Directe elektrondetector
DE64Direct Electronhttps://directelectron.com/de-64/Directe elektrondetector
RELIONMRC Laboratory of Molecular Biology (MRC-LMB), University of Cambridgehttps://relion.readthedocs.ioSPA-softwarepakket
cryoSPARCStructura Biotechnologyhttps://cryosparc.comSPA-softwarepakket
EMAN2Baylor College of Medicine (Ontwikkeld door Steven Ludtke Lab)https://blake.bcm.edu/emanwiki/EMAN2SPA-softwarepakket
cisTEMNational Research Council Canada (Ontwikkeld door Tim Grant en collega's)https://cistem.orgSPA-softwarepakket
SPHIREMax Planck Institute of Molecular Physiology and Baylor College of Medicinehttps://sphire.mpg.deSPA-softwarepakket
cryoDRGNPrinceton University (Ontwikkeld door Ellen Zhong Lab)https://cryodrgn.cs.princeton.eduSPA-softwarepakket
TopazHarvard Medical School (Ontwikkeld door Travis Bepler Lab)https://github.com/tbepler/topazSPA-softwarepakket
crYOLOMax Planck Institute of Biophysicshttps://cryolo.readthedocs.ioSPA-softwarepakket
WarpMRC Laboratory of Molecular Biology (Ontwikkeld door Dmitry Tegunov)http://www.warpem.comSoftwarepakket voor cryo-ET en STA
ModelAngeloMRC Laboratory of Molecular Biologyhttps://www.modelangelo.orgSoftwarepakket voor cryo-ET en STA
IMODUniversity of Colorado Boulderhttps://bio3d.colorado.edu/imodSoftwarepakket voor cryo-ET en STA
DynamoCentro Nacional de Biotecnología (CNB-CSIC)https://www.dynamo-em.orgSoftwarepakket voor cryo-ET en STA
emClarityUniversity of California, San Franciscohttps://github.com/StochasticAnalytics/emClaritySoftwarepakket voor cryo-ET en STA
RELION (ET-module)MRC Laboratory of Molecular Biology (MRC-LMB), University of Cambridgehttps://relion.readthedocs.ioSoftwarepakket voor cryo-ET en STA
EMAN2 (SPT)Baylor College of Medicinehttps://blake.bcm.edu/emanwiki/EMAN2Softwarepakket voor cryo-ET en STA
Warp/MMRC Laboratory of Molecular Biologyhttps://warpem.github.ioSoftwarepakket voor cryo-ET en STA
AreTomoStanford University (Ontwikkeld door Fei Sun en Wah Chiu groepen)https://github.com/czimaginginstitute/AreTomo2Softwarepakket voor cryo-ET en STA
PEETUniversity of Colorado Boulderhttps://bio3d.colorado.edu/PEETSoftwarepakket voor cryo-ET en STA
PyTomMax Planck Institute of Biochemistryhttps://pytom.orgSoftwarepakket voor cryo-ET en STA
Tomo3DSpanish National Centre for Biotechnology (CNB-CSIC)https://sites.google.com/site/3demimageprocessing/tomo3dSoftwarepakket voor cryo-ET en STA
crYOLO (3D)Max Planck Institute of Biophysicshttps://cryolo.readthedocs.ioSoftwarepakket voor cryo-ET en STA
AITomCarnegie Mellon Universityhttps://github.com/xulabs/aitomSoftwarepakket voor cryo-ET en STA
DIALSDiamond Light Source and collaboratorhttps://dials.github.iomicroED-softwarepakket
XDSMax Planck Institute for Medical Research (Ontwikkeld door Wolfgang Kabsch)https://xds.mr.mpg.demicroED-softwarepakket
MOSFLMMRC Laboratory of Molecular Biology (MRC-LMB), University of Cambridgehttps://www.mrc-lmb.cam.ac.uk/mosflmmicroED-softwarepakket
SHELXUniversity of Göttingen (Ontwikkeld door George M. Sheldrick)https://shelx.uni-goettingen.demicroED-softwarepakket
PhenixLawrence Berkeley National Laboratory (PHENIX Consortium)https://phenix-online.orgmicroED-softwarepakket
CootMRC Laboratory of Molecular Biology (MRC-LMB), University of Cambridgehttps://www2.mrc-lmb.cam.ac.uk/personal/pemsley/cootmicroED-softwarepakket
Linux (Ubuntu, CentOS/Rocky)Ubuntu: Canonical Ltd.; CentOS: CentOS Project; Rocky Linux: Rocky Enterprise Software Foundation (RESF)https://ubuntu.com / https://www.centos.org (verouderd) /  https://rockylinux.orgBesturingssysteem
WindowsMicrosofthttps://www.microsoft.com/windowsBesturingssysteem
ZFSOracle Corporation (oorspronkelijk Sun Microsystems); OpenZFS beheerd door de OpenZFS-communityhttps://openzfs.orgBestandssysteem
NFSSun Microsystems (nu beheerd als IETF-standaard)https://www.rfc-editor.org/rfc/rfc8881Protocol
SMB (CIFS)Microsofthttps://learn.microsoft.com/windows-server/storage/file-server/file-server-smb-overviewProtocol
Microsoft Remote Desktop (RDP)Microsofthttps://learn.microsoft.com/windows-server/remote/remote-desktop-servicesRemote toegang
NoMachineNoMachinehttps://www.nomachine.comRemote toegang
TeamViewerTeamViewer SEhttps://www.teamviewer.comRemote toegang
VirtualGL + TurboVNCVirtualGL: The VirtualGL Project; TurboVNC: The TurboVNC Projecthttps://virtualgl.org en https://turbovnc.orgRemote toegang
CUDANVIDIAhttps://developer.nvidia.com/cuda-toolkitComputerframework

Referenties

  1. Cheng Y, Grigorieff N, Penczek PA, Walz T. A primer to single-particle cryo-electron microscopy. Cell. 2015;161(3):438-449.
  2. Kühlbrandt W. Cryo-EM enters a new era. eLife. 2014;3:e03678.
  3. Alewijnse B, et al. Best practices for managing large CryoEM facilities. J Struct Biol. 2017;199(3):225-236.
  4. Walsh RM, et al. Practices for running a research-oriented shared cryo-EM facility. Front Mol Biosci. 2022;9:960940.
  5. Zimanyi CM, et al. Broadening access to cryoEM through centralized facilities. Trends Biochem Sci. 2022;47(2):106-116.
  6. Shell E, Minari K, Serrão VHB. From Icy Specimens to Digital Insights: Integrating Sample Preparation, Data Analysis, and IT Infrastructure. In: Cryo-Electron Microscopy in Structural Biology. 2024.
  7. Kimanius D, Forsberg BO, Scheres SHW, Lindahl E. Accelerated cryo-EM structure determination with parallelisation using GPUs in RELION-2. eLife. 2016;5:e18722.
  8. Střelák D, Sorzano CÓS, Carazo JM, Filipovič J. A GPU acceleration of 3-D Fourier reconstruction in cryo-EM. Int J High Perform Comput Appl. 2019;33(5):948-959.
  9. Pichkur E, et al. Towards on-the-fly Cryo-Electron Microscopy data processing by high performance data analysis. J Phys Conf Ser. 2018;955:012005.
  10. Thompson RF, et al. Collection, pre-processing and on-the-fly analysis of data for high-resolution single-particle cryo-electron microscopy. Nat Protoc. 2019;14(1):100-118.
  11. Punjani A, Rubinstein JL, Fleet DJ, Brubaker MA. cryoSPARC: algorithms for rapid unsupervised cryo-EM structure determination. Nat Methods. 2017;14(3):290-296.
  12. Fernandez-Leiro R, Scheres SHW. A pipeline approach to single-particle processing in RELION. Acta Crystallogr D Struct Biol. 2017;73(Pt 6):496-502.
  13. Scheres SHW. RELION: implementation of a Bayesian approach to cryo-EM structure determination. J Struct Biol. 2012;180(3):519-530.
  14. Tang G, et al. EMAN2: an extensible image processing suite for electron microscopy. J Struct Biol. 2007;157(1):38-46.
  15. Grant T, Rohou A, Grigorieff N. cisTEM, user-friendly software for single-particle image processing. eLife. 2018;7:e35383.
  16. Wagner T, et al. SPHIRE-crYOLO is a fast and accurate fully automated particle picker for cryo-EM. Commun Biol. 2019;2(1):218.
  17. Zhong ED, Bepler T, Berger B, Davis JH. CryoDRGN: reconstruction of heterogeneous cryo-EM structures using neural networks. Nat Methods. 2021;18(2):176-185.
  18. Bepler T, Kelley K, Noble AJ, Berger B. Topaz-Denoise: general deep denoising models for cryoEM and cryoET. Nat Commun. 2020;11(1):5208.
  19. Tegunov D, Cramer P. Real-time cryo-electron microscopy data preprocessing with Warp. Nat Methods. 2019;16(11):1146-1152.
  20. Jamali K, et al. Automated model building and protein identification in cryo-EM maps. Nature. 2024;628(8007):450-457.
  21. Kremer JR, Mastronarde DN, McIntosh JR. Computer visualization of three-dimensional image data using IMOD. J Struct Biol. 1996;116(1):71-76.
  22. Castaño-Díez D, Kudryashev M, Arheit M, Stahlberg H. Dynamo: a flexible, user-friendly development tool for subtomogram averaging of cryo-EM data in high-performance computing environments. J Struct Biol. 2012;178(2):139-151.
  23. Ni T, et al. High-resolution in situ structure determination by cryo-electron tomography and subtomogram averaging using emClarity. Nat Protoc. 2022;17(2):421-444.
  24. Bharat TAM, et al. Advances in single-particle electron cryomicroscopy structure determination applied to sub-tomogram averaging. Structure. 2015;23(9):1743-1753.
  25. Zheng S, et al. AreTomo: an integrated software package for automated marker-free, motion-corrected cryo-electron tomographic alignment and reconstruction. J Struct Biol X. 2022;6:100068.
  26. Nicastro D, et al. The molecular architecture of axonemes revealed by cryoelectron tomography. Science. 2006;313(5789):944-948.
  27. Hrabe T, et al. PyTom: a Python-based toolbox for localization of macromolecules in cryo-electron tomograms and subtomogram analysis. J Struct Biol. 2012;178(2):177-188.
  28. de la Morena JJ, et al. ScipionTomo: towards cryo-electron tomography software integration, reproducibility, and validation. J Struct Biol. 2022;214(3):107872.
  29. Zhan X, Zeng X, Uddin MR, Xu M. AITom: AI-guided cryo-electron tomography image analyses toolkit. J Struct Biol. 2025;217(2):108207.
  30. Winter G, et al. DIALS: implementation and evaluation of a new integration package. Acta Crystallogr D Struct Biol. 2018;74(2):85-97.
  31. Kabsch W. XDS. Acta Crystallogr D Biol Crystallogr. 2010;66(2):125-132.
  32. Battye TGG, et al. iMOSFLM: a new graphical interface for diffraction-image processing with MOSFLM. Acta Crystallogr D Biol Crystallogr. 2011;67(Pt 4):271-281.
  33. Thorn A, Sheldrick GM. Extending molecular-replacement solutions with SHELXE. Acta Crystallogr D Biol Crystallogr. 2013;69(Pt 11):2251-2256.
  34. Liebschner D, et al. Macromolecular structure determination using X-rays, neutrons and electrons: recent developments in Phenix. Acta Crystallogr D Struct Biol. 2019;75(10):861-877.
  35. Emsley P, Cowtan K. Coot: model-building tools for molecular graphics. Acta Crystallogr D Biol Crystallogr. 2004;60(Pt 12 Pt 1):2126-2132.
  36. Pryor E, Kohr H, Ortiz J, Grollios F. Advancing towards a "one-button" screening solution for Cryo-EM data acquisition with Smart EPU. Struct Dyn. 2025;12(5):A86.
  37. Ramírez-Aportela E, et al. FSC-Q: a CryoEM map-to-atomic model quality validation based on the local Fourier shell correlation. Nat Commun. 2021;12(1):42.

Herprints en machtigingen

Trefwoorden

EngineeringCryoEM Facility Structural Biology IT configuration On the fly data processing CryoSPARC setup GPU accelerated data processing
Video binnenkort beschikbaar