È richiesta un abbonamento a JoVE per visualizzare questo contenuto. Accedi o inizia la tua prova gratuita.
Articolo di ricerca
Qui presentiamo un protocollo per migliorare la scoperta negli archivi digitali storici integrando il riconoscimento ottico dei caratteri post-correzione, la classificazione visiva dei documenti, l'arricchimento dei metadati e la valutazione del recupero in un flusso di lavoro auditabile.
Gli archivi digitali storici sono sempre più ricercabili, ma la scoperta rimane limitata quando errori di riconoscimento ottico dei caratteri, tipi di documenti visivamente eterogenei e metadati scarsi vengono gestiti separatamente. Questo studio mirava a sviluppare un protocollo riproducibile per valutare se un flusso di lavoro conservativo di intelligenza artificiale multimodale possa migliorare il recupero archivistico senza sostituire la revisione da parte degli archivisti. È stato assemblato un corpus di 1.600 record archivistici digitalizzati da otto classi di documenti e è stato utilizzato un benchmark di 420 query per confrontare cinque condizioni di recupero: indicizzazione di base, correzione del riconoscimento ottico dei caratteri da solo, classificazione visiva sola, arricchimento dei metadati e integrazione multimodale completa. Gli esiti a livello di record includevano il tasso di errore dei caratteri (CER), il tasso di errore delle parole (WER), il richiamo di entità nominate, l'accuratezza della classificazione dei tipi di documento, la fiducia nella previsione, la completezza dei metadati e la corrispondenza tra titoli di argomento. I risultati a livello di query includevano P@10, R@10, nDCG@10, tempo fino al primo risultato rilevante e tasso di ricerca di successo. La correzione per riconoscimento ottico dei caratteri ridusse fortemente la WER per lettere scritte a mano, registri e registri di registro; la regolazione visiva migliorò la precisione della classificazione soprattutto per mappe, manifesti, giornali e libri di registro; e l'arricchimento dei metadati ha aumentato la completezza in tutti i periodi storici. La condizione multimodale completa ha raggiunto la massima prestazione di recupero (P@10 = 0,624, R@10 = 0,492, nDCG@10 = 0,634) e ha ridotto il tempo medio al primo risultato rilevante da 156,079 s a 58,485 s. Questi risultati supportano un flusso di lavoro modulare e auditabile in cui testo, immagine e segnali descrittivi vengono combinati sotto soglie esplicite e revisione umana.
Gli archivi digitali si sono rapidamente espansi e ora supportano la ricerca in storia, patrimonio culturale, amministrazione pubblica e discipline umanistiche digitali. Tuttavia, l'accesso rimane irregolare perché i documenti d'archivio spesso combinano output degradati di riconoscimento ottico dei caratteri, composizioni di pagina visivamente diversificate, pratiche di catalogazione incoerenti e nomi, luoghi e istituzioni storicamente variabili. Queste limitazioni influenzano non solo la qualità della trascrizione ma anche il recupero, il filtraggio e il riutilizzo a valle delle collezionidigitalizzate 1,2,3,4,5,6,7.
Gli studi esistenti sull'intelligenza artificiale documentale e sul recupero archivistico hanno migliorato componenti individuali come il riconoscimento ottico dei caratteri post-correzione, la classificazione delle immagini del documento, la normalizzazione dei metadati, la modellazione dei temi, l'incorporamento delle parole, il recupero neurale e la pratica di gestione deidati 8,9,10,11,12,13,14,15. 16,17,18,19,20,21,22,23,24,25. Tuttavia, molti sistemi archivistici valutano ancora questi componenti separatamente, rendendo difficile determinare se un flusso di lavoro combinato migliori la scoperta in condizioni di ricerca realistiche. La lacuna metodologica qui affrontata è la mancanza di un protocollo riproducibile e auditabile che colleghi moduli di testo, immagini e metadati ai risultati del recupero in un unico flusso di lavoro archivistico.
L'obiettivo centrale era testare se la correzione del riconoscimento ottico dei caratteri, la classificazione visiva dei documenti e l'arricchimento dei metadati a vincoli di regole producano miglioramenti complementari quando valutati rispetto allo stesso benchmark di recupero.
Abbiamo ipotizzato che la condizione multimodale completa avrebbe superato ogni condizione a singolo componente perché la scoperta archivistica dipende dall'interazione tra testo leggibile, struttura documentale visivamente interpretabile e metadati descrittivi ricercabili. Il flusso di lavoro è stato progettato in modo conservativo: output automatizzati potevano arricchire gli indici di recupero, ma le previsioni a bassa fiducia venivano segnalate per la revisione invece di essere usate come descrizione archivistica autorevole.
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.
Questo studio ha utilizzato registri archivistici digitalizzati e query di recupero simulate come unità di analisi. I depositi archivistici possono limitare l'accesso a documenti sensibili o culturalmente limitati. Segui le regole di accesso ai repository, le procedure istituzionali di sicurezza dei dati e i requisiti di de-identificazione prima di elaborare o condividere qualsiasi documento. Non sono stati generati rifiuti di laboratorio pericolosi, biologici, taglienti, radioattivi o altri rifiuti di laboratorio regolamentati da questo flusso di lavoro digitale.
Progettazione dello studio e costruzione del corpus
La Figura 1 presenta l'intero flusso di lavoro dello studio, inclusa la costruzione dei corpus, l'etichettatura dei riferimenti, la pre-elaborazione delle immagini, la generazione e la post-correzione OCR, la classificazione visiva, l'arricchimento dei metadati, la costruzione degli indici, la valutazione del recupero, l'analisi statistica e il confezionamento della riproducibilità.
La costruzione del corpus è stata condotta dal 15 gennaio al 30 aprile 2025, seguita dalla progettazione e dal debug del sistema dal 1° maggio al 31 ottobre 2025. Il corpus conteneva 1.600 archivi digitalizzati selezionati da otto depositi che rappresentano sistemi statali, cittadini, religiosi, museali, universitari e bibliotecari. Il fotogramma di campionamento era stratificato per classe di archivio e documento per preservare l'eterogeneità archivistica tra lettere manoscritte, registri, mappe, giornali, fotografie con didascalie, manifesti, libri di registro e corrispondenza dattiloscritta.
Per ogni record candidato, il registro di selezione registrava l'identificatore di repository o collezione, l'identificatore del catalogo, la classe del documento, il periodo storico approssimativo, il contesto della lingua dominante, il formato immagine disponibile, la risoluzione dell'immagine, il numero di pagine e i campi descrittivi di base. L'inclusione richiedeva tutto ciò che segue: un identificatore stabile del catalogo; almeno un'immagine di pagina TIFF, JPEG o PNG; risoluzione dell'immagine sorgente di almeno 150 dpi; contenuto testuale, tabellare o strutturale documentale leggibile; e l'assegnazione a una delle otto classi di documenti predefinite. I criteri di esclusione erano duplicati esatti, pagine inverse bianche, immagini ritagliate al punto che mancava più del 30% dell'area con il testo e registri giudicati illeggibili dopo un'ispezione manuale.
Il benchmark di recupero conteneva 420 brevi query in linguaggio naturale generate tra il 5 e il 20 agosto 2025. La generazione delle query seguiva un modello riproducibile: le esigenze informative dei candidati venivano campionate da persone, istituzioni, luoghi, periodi di data, occupazioni, eventi e temi attuali; ogni query veniva normalizzata a 2–9 parole; e i record rilevanti per il bersaglio venivano identificati prima del confronto del sistema. Ogni query è stata valutata sotto cinque condizioni di recupero, generando 2.100 osservazioni di query e condizione corrispondenti.
Etichettatura di riferimento e controllo qualità
L'etichettatura dei riferimenti è stata effettuata dal 1° maggio al 15 luglio 2025 da tre annotatori: due membri dello staff archivistico esperti in catalogazione descrittiva e un ricercatore digitale in discipline umanistiche esperto nella valutazione di documenti storici. La guida di annotazione definiva classi di documenti, categorie linguistiche-contesto, bin per periodi storici, campi di completezza dei metadati, categorie di entità nominate e regole per la selezione delle regioni di valutazione OCR.
Per la valutazione OCR, gli annotatori selezionavano regioni rappresentative con testo che includevano intestazioni, nomi, date, termini istituzionali, note marginali, voci tabellari e, quando presenti, aree di layout rumorose. Quando una pagina conteneva più regioni di testo, la regione selezionata doveva essere rilevante per il recupero e includere abbastanza caratteri per i calcoli CER e WER. I disaccordi venivano inizialmente risolti attraverso discussioni tra i due annotatori principali; I casi irrisolti sono stati giudicati dal Digital Humanities Researcher.
Il controllo qualità utilizzava un sottoinsieme casuale del 12% dei record. L'accordo tra annotatori per il tipo principale di documento era il kappa di Cohen = 0,86, a sostegno di un accordo sostanziale. Il registro di adjudicazione ha mantenuto le etichette originali e finali, la categoria di disaccordo e la ragione della risoluzione affinché i futuri utenti possano controllare le definizioni di classe e i casi limite.
Preprocessing dell'immagine
Tutte le immagini venivano elaborate a livello di record usando Python 3.11.8 con OpenCV 4.9.0, Pillow 10.3.0 e NumPy 1.26.4. Ogni pagina di input veniva convertita in scala di grigi a 8 bit, a meno che il colore non contenesse informazioni semantiche, come mappe, poster, francobolli o annotazioni codificate a colori. La distorsione è stata stimata utilizzando profili di proiezione e rilevamento delle linee di Hough; Il deskewing veniva applicato solo quando l'angolo di squilibramento assoluto superava 1,5 gradi ed era limitato a 8,0 gradi per evitare distorsione.
Il miglioramento del contrasto ha utilizzato l'equalizzazione adattiva dell'istogramma limitato al contrasto con clipLimit = 2.0 e tileGridSize = 8 × 8. Un filtro mediano con un nucleo di 3 × 10−23 veniva applicato solo quando il rapporto stimato rumore-fondo superava 0,35. Le immagini catturate a 150–299 dpi venivano ricampionate a 300 dpi per il riconoscimento ottico dei caratteri; Le immagini già a 300 DPI o superiore non sono state ingrandite. Non è stata utilizzata alcuna super-risoluzione, restauro generativo o allucinazione di contenuto.
Sono stati mantenuti il flusso di scorta, l'oscuramento dei bordi, la texture irregolare della carta, i francobolli marginali, la calligrafia, le linee a righe e i confini delle tabelle a meno che non impedissero la selezione delle regioni OCR. Questa regola preservava le prove d'archivio standardizzando adeguatamente gli input delle immagini per consentire OCR e classificazione riproducibili.
Generazione di base OCR e post-correzione
L'OCR di base è stato generato con Tesseract OCR 5.3.0. Il pacchetto linguistico principale veniva selezionato dalla lingua del catalogo e dalla scrittura visibile; La decodifica multilingue veniva abilitata quando la lingua del catalogo e lo script di pagina non corrispondevano. Gli output OCR venivano raggruppati a livello di record e memorizzati con identificatori di pagina, fiducia OCR, coordinate della scatola delimitata quando disponibili e testo grezzo prima della correzione.
La correzione post-OCR ha utilizzato una procedura conservativa in tre fasi. Innanzitutto, la normalizzazione a livello di carattere ha corretto frequenti confusioni di riconoscimento storico, inclusi legature, sostituzioni lunga-s/s-breve, punteggiatura frammentata e sostituzioni cifra-lettera. In secondo luogo, la correzione a livello di token utilizzava candidati a distanza di modifica e frequenza classificati da un lessico specifico dell'archivio di nomi personali, toponimi, istituzioni, termini amministrativi e varianti ortografiche storiche. Terzo, i controlli di sequenza basati su regole hanno validato entità e date nominate rispetto a prove di contesto e metadati.
I sostituti dei candidati sono stati accettati solo quando la fiducia nella correzione posteriore superava 0,80; Le sostituzioni di entità nominate richiedevano una fiducia di almeno 0,85. I candidati al di sotto della soglia sono stati mantenuti come testo OCR ma segnalati per la revisione. La CER è stata calcolata come la distanza di montaggio di Levenshtein divisa per il numero di caratteri nella trascrizione di riferimento. WER utilizzava la stessa formula a livello di token. Il richiamo delle entità nominate è stato calcolato come entità di riferimento correttamente riconosciute divise da tutte le entità di riferimento nella regione di valutazione selezionata.
Classificazione visiva dei documenti
Il modulo di classificazione visiva assegnava ogni record a una delle otto classi di documenti d'archivio: lettera scritta a mano, registro, mappa, giornale, fotografia con didascalia, poster, registro e corrispondenza dattiloscritta. Il tipo di documento previsto veniva usato come segnale di recupero e filtraggio, non come sostituto autorevole della catalogazione archivistica.
Il modello è stato implementato in PyTorch 2.2.2 e torchvision 0.17.2 utilizzando una backbone EfficientNet-B3 pre-addestrata con ImageNet. Le miniature a livello di record sono state ridimensionate a 384 x 384 pixel. Per ridurre la perdita, i record venivano suddivisi per classe di repository e documenti in set di addestramento, validazione e test con un rapporto 70:15:15, corrispondente a circa 1.120, 240 e 240 record.
L'addestramento utilizzava AdamW con tasso di apprendimento iniziale = 1 × 10-4, decadimento del peso = 1 × 10−2, dimensione del lotto = 16, levigatura dell'etichetta = 0,05 e arresto anticipato quando la perdita di validazione non migliorava per cinque epoche consecutive. Il flipping orizzontale è stato disabilitato perché i layout archivistici speculari non sono realistici. L'aumento era limitato a una rotazione da -3 gradi a +3 gradi e a una variazione di luminosità entro il ±10%.
Le diagnostiche a livello epocale del modello sono riassunte in 20 righe di addestramento, ciascuna contenente perdita di addestramento, perdita di validazione, accuratezza di addestramento, accuratezza di validazione, macro-F1, F1 ponderata, ROC-AUC e PR-AUC.
Flusso di lavoro di arricchimento dei metadati
L'arricchimento dei metadati è stato progettato per migliorare la scopertibilità preservando al contempo il conservatorismo archivistico. I valori esistenti del catalogo venivano mantenuti a meno che non contenessero una contraddizione esplicita, come una data impossibile o un conflitto di tipo documentale confermato sia dall'OCR che da prove visive. I campi di arricchimento dei candidati includevano titolo normalizzato, tipo di documento, data approssimativa, menzioni istituzionali, menzioni geografiche, menzioni dei nomi personali, intestazioni di materia e parole chiave.
La priorità delle prove seguiva un ordine fisso: (1) metadati esistenti del catalogo, (2) output OCR corretto e (3) previsione visiva del tipo di documento. Per i titoli degli argomenti veniva usato un abbinamento controllato del vocabolario, e l'espansione semantica del vicino vicino con i trasformatori di frasi 2.7.0 veniva usata solo quando la somiglianza del coseno era almeno 0,72. La normalizzazione della data richiedeva una fiducia di almeno 0,85 o una concordanza tra OCR e metadati. Ogni campo aggiunto automaticamente manteneva la sua fonte, la fiducia e l'identificatore della regola.
La completezza dei metadati è stata definita come il numero di campi descrittivi core popolati diviso per il numero di campi core applicabili per quel record. La corrispondenza tra titoli di soggetto è stata definita come la presenza di almeno un'etichetta di soggetto con vocabolario controllato, supportata da evidenze di contenuto a livello di record e giudicata rilevante per la categoria di richiesta.
Costruzione del sistema di recupero
Sono stati costruiti cinque indici di recupero per isolare i contributi dei moduli: indicizzazione di base; solo la correzione del riconoscimento ottico dei caratteri; solo classificazione visiva; solo arricchimento dei metadati; e integrazione multimodale completa. Tutti gli indici sono stati costruiti nel software dei motori di ricerca elencato nella Tabella dei Materiali (versione 8.11.1) a livello di record. I parametri BM25 sono stati fissati a k1 = 1,2 e b = 0,75 prima della valutazione.
L'indice di base utilizzava i metadati originali e il testo OCR di base. La condizione OCR sostituiva la OCR di base con la OCR corretta. La condizione visiva ha aggiunto precedenti di tipo documento e miglioramenti di ranking consapevoli della classe. La condizione dei metadati ha aggiunto campi descrittivi arricchiti. La condizione multimodale completa combinava OCR corretto, priors visivi e metadati arricchiti. I pesi dei campi erano fissati prima del test: titolo normalizzato = 3,0, titoli di soggetto = 2,5, menzioni di persone e istituzioni = 2,2, menzioni di luogo = 2,0, tipo di documento = 1,8, testo OCR corretto = 1,0 e testo di base OCR = 0,8, dove applicabile.
Per le query citate è stata abilitata l'abbinamento esatto delle frasi. L'espansione delle query era consentita solo nelle condizioni di arricchimento metadati e multimodale completo ed era limitata a sinonimi accettati con vocabolario controllato e varianti di intestazione di materia. I log di ricerca sono stati generati dal 25 al 28 agosto 2025, nell'ambiente Linux containerizzato indicato nella Tabella dei Materiali, con configurazioni di seed fissi e indici congelati.
Progettazione delle query e misure di risultato
Le 420 query rappresentavano comportamenti comuni di ricerca archivistica piuttosto che prompt benchmark basati solo su parole chiave. Gli argomenti includevano nomi personali, istituzioni, luoghi, date e intervalli di data, occupazioni, eventi e argomenti tematici. Ogni query veniva memorizzata con la formulazione normalizzata, il record set target, la categoria argomento di query e il punteggio di difficoltà.
La difficoltà è stata valutata prima del recupero utilizzando ambiguità del bersaglio, specificità lessicale e frequenza attesa di espressione. I punteggi compositi inferiori a 0,40 sono stati classificati come a bassa difficoltà, da 0,40 a 0,69 come difficoltà moderata e punteggi di 0,70 o superiore come difficoltà alta. I giudizi di rilevanza venivano completati prima del confronto del sistema e poi confrontati con la collezione finale.
Gli esiti del recupero includevano P@10, R@10, nDCG@10, tempo fino al primo risultato rilevante e tasso di ricerca di successo. P@10 era la proporzione dei primi 10 dischi giudicati rilevanti. R@10 era la proporzione di tutti i documenti rilevanti noti recuperati tra i primi 10. nDCG@10 usava rilevanza graduata dove disponibile e rilevanza binaria altrimenti. Il tempo fino al primo risultato rilevante è stato misurato dall'invio della query fino all'apparizione del primo record rilevante nell'output classificato. Una ricerca riuscita è stata definita come almeno un risultato rilevante tra i primi 10 documenti.
Raccolta delle statistiche
Tutte le analisi sono state effettuate utilizzando le versioni software elencate nella Tabella dei Materiali. Gli esiti continui sono stati riassunti come media ± SD quando approssimativamente simmetrici e come mediana con intervallo interquartile in altro caso. Gli esiti categorici sono stati riassunti come conteggi e percentuali.
La normalità delle differenze accoppiate è stata valutata tramite il test di Shapiro-Wilk e i grafici di distribuzione. OCR e risultati pre/post pre/post sono stati confrontati con test T accoppiati quando le differenze accoppiate erano approssimativamente normali e con test Wilcoxon con rango firmato altrimenti. Le prestazioni di classificazione prima e dopo la messa a punto fine venivano confrontate utilizzando il test di McNemar su etichette corrette/sbagliate abbinate. Gli esiti di prelievo multi-braccio abbinati sono stati confrontati con il test di Friedman, seguiti da test Wilcoxon con segno aggiustato a coppie per coppie.
Tutti i test statistici erano a doppia coda e P < 0,05 è stato considerato statisticamente significativo. Gli intervalli di confidenza sono stati stimati utilizzando 2.000 ricampionamenti bootstrap con il seed casuale fissato a 2025. Gli effetti sono stati riportati come differenze medie, odds ratio abbinati o dimensioni degli effetti basate sul ranking in base al tipo di esito.
Riproducibilità, ambito e disponibilità delle risorse
Tutti i parametri della pipeline sono stati fissati prima dei test di recupero. Nessun parametro è stato ottimizzato sul benchmark di recupero tenuto in sospeso. File di configurazione, vocabolari controllati, tabelle lessiche, modelli di query, mappe di campi, linee guida di annotazione, script statistici e script di generazione di figure sono stati mantenuti nel sistema di controllo versione elencato nella Tabella dei Materiali con seed casuale 2025.
Per supportare la validazione indipendente, il workbook dei dati sorgente include una tabella de-identificata di 1.600 record con 17 variabili utilizzate per il riconoscimento ottico dei caratteri, i metadati e le analisi di classificazione visiva. Tabelle derivate Tabella 1, Tabella 2, Tabella 3, Tabella 4 e Tabella 5, riassunti figura-sorgente, definizioni benchmark-interrogazione, riassunti di rilevanza-giudizio, surrogati dei registri di recupero, diagnostiche di addestramento, categorie di lessico, regole di mappatura del vocabolario e campi di indicazioni di annotazione sono forniti come tabelle o file materiali caricabili separati dove applicabile. I materiali che non possono essere condivisi pubblicamente a causa delle restrizioni del repository sono rappresentati da campi di metadati non identificati e campi di campionamento riproducibili.
Questo protocollo valuta la scoperta orientata al recupero piuttosto che la veridicità delle affermazioni storiche. Non sostituisce la valutazione da parte degli archivisti, la valutazione della provenienza, la revisione della privacy o le regole di accesso specifiche per repository.
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.
La correzione OCR ha migliorato la trascrizione, specialmente nei record manoscritti e tabellari
La correzione del riconoscimento ottico dei caratteri ha migliorato la qualità della trascrizione in tutte e otto le classi di documenti d'archivio (n = 1.600 record). Il WER medio è diminuito da 0,529 ± 0,172 a 0,384 ± 0,123, con una variazione media accoppiata di −0,144 (IC 95%, −0,149 a −0,139; Wilcoxon firmato - grado P < 0,001). La CE...
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.
Questo protocollo dimostra che la scoperta negli archivi digitali storici è migliorata maggiormente quando la correzione OCR, la comprensione visiva del documento e l'arricchimento conservativo dei metadati sono stati valutati come componenti di recupero connessi piuttosto che come aggiornamenti tecnici isolati. I maggiori guadagni di OCR si sono verificati nei materiali scritti a mano, tabulari e di registro, supportando il valore della post-correzione per le classi di documenti in cui ...
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.
Gli autori non hanno nulla da rivelare.
Gli autori ringraziano sinceramente i due esperti addetti allo staff archivistico e il ricercatore professionista delle digital humanities per il loro prezioso aiuto nell'annotazione del testo e nel controllo qualità. Questa ricerca è stata finanziata dal Piano di Progetto Scientifico e Tecnologico degli Archivi Provinciali del Jiangsu (Grant n. 2024-9) per la costruzione di un sistema di archivi orali intelligenti basati sul linguaggio, e dal Piano di Sviluppo Scientifico e Tecnologico Provinciale del Jiangsu per la Medicina Tradizionale Cinese (Grant No. MS2025025) per studiare l'eredità e lo sviluppo delle scuole di MTC da una prospettiva archivistica.
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.
| Nome | Azienda | Numero di catalogo | Commenti |
|---|---|---|---|
| Python | Python Software Foundation | v3.11.8; https://www.python.org/ | Workflow scripting, data processing, optical character recognition post-correction, and statistical support |
| R | R Foundation for Statistical Computing | v4.3.3; https://www.r-project.org/ | Statistical analysis and final figure generation |
| Tesseract OCR | Tesseract OCR Project | v5.3.0; https://github.com/tesseract-ocr/tesseract | Baseline optical character recognition generation |
| Tesseract language packs | Tesseract OCR Project | Study-specific language packs; https://github.com/tesseract-ocr/tessdata | Primary and mixed-language optical character recognition decoding |
| OpenCV | OpenCV Team | v4.9.0; https://opencv.org/ | Deskewing, noise estimation, and image preprocessing |
| Pillow | Python Imaging Library contributors | v10.3.0; https://python-pillow.org/ | Image input/output and format normalization |
| NumPy | NumPy developers | v1.26.4; https://numpy.org/ | Array computation for image and metric processing |
| pandas | pandas development team | v2.2.2; https://pandas.pydata.org/ | Tabular data handling and summary exports |
| SciPy | SciPy developers | v1.13.1; https://scipy.org/ | Statistical tests and numerical utilities |
| statsmodels | statsmodels developers | v0.14.2; https://www.statsmodels.org/ | Statistical modeling and paired-comparison support |
| scikit-learn | scikit-learn developers | v1.4.2; https://scikit-learn.org/ | Classification metrics, ROC/PR diagnostics, and validation utilities |
| rapidfuzz | Max Bachmann and contributors | v3.9.0; https://github.com/rapidfuzz/RapidFuzz | Edit-distance candidate ranking for optical character recognition correction |
| spaCy | Explosion AI | v3.7.4; https://spacy.io/ | Named-entity processing with custom lexicon tables |
| PyTorch | PyTorch Foundation | v2.2.2; https://pytorch.org/ | Visual document classifier training |
| torchvision | PyTorch Foundation | v0.17.2; https://pytorch.org/vision/ | EfficientNet-B3 implementation and image transforms |
| EfficientNet-B3 backbone | torchvision / ImageNet pretrained weights | EfficientNet-B3; https://pytorch.org/vision/stable/models/efficientnet.html | Visual document classification backbone |
| sentence-transformers | UKP Lab / Hugging Face ecosystem | v2.7.0; https://www.sbert.net/ | Semantic expansion for controlled-vocabulary candidates |
| Search-engine software | Elastic | Elasticsearch v8.11.1; https://www.elastic.co/elasticsearch | BM25 indexing, retrieval, and ranking |
| Container engine | Docker Inc. | Docker v26.1.1; https://www.docker.com/ | Containerized retrieval environment |
| Linux operating system | Canonical | Ubuntu 22.04 LTS; https://ubuntu.com/ | Fixed operating environment for retrieval runs |
| Version-control system | Git project | Git v2.44.0; https://git-scm.com/ | Version control for configuration, vocabularies, scripts, and figure code |
| ggplot2 | tidyverse | v3.5.1; https://ggplot2.tidyverse.org/ | R-based figure rendering |
| Matplotlib | Matplotlib developers | v3.8.4; https://matplotlib.org/ | Supplementary visualization and quality-assurance plots |
| Annotation guideline | Authors | 5 annotation sections; 8 document-class labels; OCR regions; entity labels; relevance judgments; adjudication rules | Definitions for document classes, OCR regions, entities, relevance judgments, and adjudication |
| Archive-specific OCR lexicon | Authors | 6 lexicon categories: person variants, place names, institution names, date patterns, administrative terms, abbreviations | Names, places, institutions, administrative terms, and spelling variants |
| Controlled vocabulary mapping | Authors / archival repositories | 5 mapping rules linking OCR entities, visual class, title keywords, date coverage, and query topic to metadata fields | Subject-heading matching and semantic expansion |
| Benchmark query set | Authors | 420 benchmark queries; 6 query topics; 3 difficulty levels; 8 target document classes; 4 historical periods; 6 language contexts | Matched retrieval benchmark across five system arms |
| Relevance judgments | Authors / annotators | 2,100 query-system rows; 420 queries x 5 system arms; relevant totals, relevant-in-top-10 counts, graded relevance, and success flags | Ground-truth surrogate for P@10, R@10, nDCG@10, and successful-search rate |
| Training diagnostics | Authors | 20 epochs; training loss; validation loss; training accuracy; validation accuracy; macro-F1; weighted-F1; ROC-AUC; PR-AUC | Epoch-level model diagnostic summaries |
| Computational hardware | Authors | 8 CPU cores; 32 GB RAM; NVIDIA GPU-class training environment | Reproducibility resource detail for JoVE submission |
| Dataset file | Authors | data.xlsx; 1,600 records; 17 variables; DOI listed in manuscript Data Availability | Record-level source data for optical character recognition, metadata completeness, discoverability, and visual classification analyses |
Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.