$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
La correzione OCR ha migliorato la trascrizione, specialmente nei record manoscritti e tabellari
La correzione del riconoscimento ottico dei caratteri ha migliorato la qualità della trascrizione in tutte e otto le classi di documenti d'archivio (n = 1.600 record). Il WER medio è diminuito da 0,529 ± 0,172 a 0,384 ± 0,123, con una variazione media accoppiata di −0,144 (IC 95%, −0,149 a −0,139; Wilcoxon firmato - grado P < 0,001). La CER media è diminuita da 0,377 ± 0,126 a 0,258 ± 0,086, con una variazione media accoppiata di −0,119 (IC 95%, −0,123 a −0,116; Wilcoxon firmato - rango P < 0,001). La Tabella 2 mostra che il WER di base era più alto per lettere scritte a mano, registri e registri di registro, indicando che i registri più complessi visivamente avevano anche il maggiore onere iniziale di riconoscimento.
Dopo la correzione, il WER è diminuito in tutte le classi di documenti. Le maggiori riduzioni medie dei WER accoppiati si sono verificate in lettere manoscritte (n = 262; −0,200; IC 95%, −0,213 a −0,188), registri (n = 263; −0,195; IC 95%, −0,206 a −0,183) e registri (n = 194; −0,173; IC 95%, −0,187 a −0,160). Il CER ha seguito lo stesso schema, supportando l'interpretazione secondo cui il modulo post-correzione avvantaggiava principalmente i record difficili scritti a mano, tabellari e a layout misto.
Il richiamo delle entità nominate è migliorato anche su tutti i tipi di documenti, come mostrato nella tabella riassuntiva. I maggiori aumenti si sono verificati nelle lettere manoscritte (0,302–0,440), nei registri (0,336–0,471) e nei libri di registro (0,369–0,504). La corrispondenza digitata ha raggiunto il richiamo più alto post-correzione di entità nominate (0,646), ma il suo guadagno assoluto è stato minore perché il riconoscimento di base era già più forte per questa classe. La Figura 2 riassume la relazione CER-WER a livello di registrazione di base, l'associazione tra intensità di scrittura a mano e beneficio nella correzione, e lo spostamento post-correzione nella scopertibilità a livello di registrazione.
La classificazione dei documenti visivi è migliorata nel complesso, ma i miglioramenti di prestazioni sono stati disomogenei tra le classi
La classificazione dei documenti visivi è migliorata complessivamente nel set di 1.600 record. La precisione top-1 è aumentata da 0,717 a 0,796 (variazione assoluta, 0,079; McNemar chi-quadrato = 27,33; P < 0,001), e la fiducia media nella previsione è aumentata da 0,736 ± 0,131 a 0,800 ± 0,108 (variazione media accoppiata, 0,064; IC 95%, 0,057–0,071; test t accoppiato P < 0,001). Come mostrato nella Tabella 3, sette delle otto classi sono migliorate dopo la rifinitura specifica dell'archivio, con i maggiori incrementi per mappe, manifesti, giornali e libri di registro.
La corrispondenza digitata non migliorò significativamente dopo la fine tuning (0,796–0,791), suggerendo che le sue caratteristiche visive di base fossero già stabili e che la procedura di addestramento aggiungesse poca separazione di classe aggiuntiva per questa categoria.
La Figura 3 riassume le prestazioni visive della classificazione dei documenti prima e dopo la messa a punto specifica per archivio; il workbook dei dati di origine elenca 20 epoche di perdita e accuratezza di train/validation, insieme a riassunti diagnostici macro-F1, ponderato-F1, ROC-AUC e PR-AUC.
L'arricchimento dei metadati ha migliorato la completezza descrittiva in tutti i periodi storici (n = 1.600 record). La completezza media è aumentata da 0,657 ± 0,125 a 0,907 ± 0,070, con una variazione media accoppiata di 0,250 (IC 95%, 0,243–0,257; Wilcoxon firmato - grado P < 0,001). Come mostrato nella Tabella 4, la completezza di base fu la più bassa per il periodo 1850–1879 e aumentò nei periodi successivi prima dell'arricchimento. La Figura 4 riassume il miglioramento della completezza dei metadati, i campi di metadati recentemente realizzati per tipo di documento e i guadagni di corrispondenza delle intestazioni di soggetto attraverso i periodi storici.
Dopo l'arricchimento, la completezza aumentò in ogni periodo storico: 1850–1879 (n = 281; variazione media, 0,207; IC 95%, 0,191–0,223), 1880–1909 (n = 474; variazione media, 0,236; IC 95%, 0,223–0,248), 1910–1939 (n = 549; variazione media, 0,277; IC 95%, 0,265–0,288) e 1940–1969 (n = 296; variazione media, 0,263; IC 95%, 0,247–0,279). Anche i conteggi medi dei campi popolati aumentarono costantemente nei periodi.
La corrispondenza per l'intestazione dei soggetti è migliorata in parallelo. I tassi di corrispondenza di base variavano dal 64,3% al 69,4%, mentre i tassi di corrispondenza post-arricchimento variavano dall'82,1% all'85,4%. Il maggior guadagno assoluto si è verificato nel periodo più antico (Delta = 0,178), supportando il valore dell'arricchimento conservativo per i record con descrizioni iniziali scarse.
Le prestazioni di recupero migliorate in tutti i sistemi potenziati, con i maggiori vantaggi con l'integrazione multimodale completa
L'efficacia del prelievo migliorava sotto ogni condizione di miglioramento rispetto alla base, ma l'entità del miglioramento variava a seconda del braccio del sistema (n = 420 query di benchmark corrispondenti). I risultati complessivi del recupero sono elencati nella Tabella 5. Le prestazioni di base erano basse: P@10 = 0,394, R@10 = 0,238, nDCG@10 = 0,392, tempo medio fino al primo risultato rilevante = 156,079 s e tasso di ricerca di successo = 5,0% (21/420; IC 95%, 3,3%–7,5%). La Figura 5 riassume le prestazioni di recupero nei cinque rami del sistema sperimentale, inclusi metriche complessive di recupero, tassi di successo a livello tematico e strati di difficoltà delle query.
Tutti e tre i sistemi monocomponenti hanno superato complessivamente la linea di base. La correzione del riconoscimento ottico dei caratteri è aumentata P@10 a 0,484, R@10 a 0,346 e nDCG@10 a 0,475, riducendo il tempo fino al primo risultato rilevante a 124,261 s e aumentando il tasso di ricerca di successo al 30,2% (127/420; IC 95%, 26,0%–34,8%). La classificazione visiva ha prodotto P@10 = 0,490, R@10 = 0,302, nDCG@10 = 0,478, tempo medio fino al primo risultato rilevante = 131,985 s e tasso di ricerca di successo = 22,9% (96/420; IC 95%, 19,1%–27,1%). L'arricchimento dei metadati ha raggiunto la migliore performance di recupero a singolo componente, con P@10 = 0,507, R@10 = 0,347, nDCG@10 = 0,513, tempo medio fino al primo risultato rilevante = 117,474 s e un tasso di ricerca di successo del 38,3% (161/420; IC 95%, 33,8%–43,1%).
Il sistema multimodale completo ha ottenuto le migliori prestazioni in tutti gli endpoint di recupero. P@10 aumentato da 0,394 al valore iniziale a 0,624, R@10 da 0,238 a 0,492 e nDCG@10 da 0,392 a 0,634. Il tempo medio fino al primo risultato rilevante è diminuito da 156,079 s a 58,485 s, e il tasso di ricerca di successo è aumentato dal 5,0% al 95,5% (401/420; IC 95%, 93,0%–97,1%). Questi valori corrispondono a guadagni assoluti di 0,230 per P@10, 0,254 per R@10 e 0,242 per nDCG@10.
Anche il recupero specifico per tema è migliorato con l'integrazione multimodale completa. I tassi di ricerca di successo sono aumentati tra persone, istituzioni, luoghi, occupazioni, eventi e temi tematici, con la categoria professionale che ha mostrato il maggior guadagno pratico, poiché il suo tasso di successo di base era dello 0,0% e saliva al 90,0% sotto la condizione multimodale completa. Le query per toponimi avevano le prestazioni di base più forti ma beneficiavano comunque dell'integrazione multimodale.
I guadagni multimodali variavano a seconda degli strati di documento, periodo e lingua
Le analisi dei sottogruppi hanno mostrato che i guadagni multimodali erano ampiamente distribuiti tra tipi di documenti, periodi storici e contesti linguistici, sebbene l'entità del miglioramento variasse. Questa eterogeneità indica che il flusso di lavoro dovrebbe essere valutato all'interno di ogni collezione target piuttosto che presumere che produca guadagni uniformi. La Figura 6 mostra l'eterogeneità dei guadagni di recupero multimodale tra il tipo di documento target, il periodo storico e il contesto linguistico.
A livello di tipo di documento, nDCG@10 migliorato in tutte le classi target. Fotografie con didascalie, lettere manoscritte, mappe, registri e libri di registro mostrarono forti progressi, mentre giornali e corrispondenza dattiloscritta migliorarono più modestamente. Questi modelli suggeriscono che i record con metadati iniziali deboli o una struttura visiva complessa traggano maggior beneficio dalla combinazione di segnali di testo, immagine e metadati.
A livello storico, R@10 aumentato da 0,175 a 0,429 per il 1850–1879 e raggiunse 0,506 per il 1880–1909, 0,501 per il 1910–1939 e 0,519 per il 1940–1969 con l'integrazione multimodale completa. I guadagni sono stati simili in scala assoluta tra periodi, suggerendo che l'arricchimento e il riconoscimento corretto hanno aiutato sia i record scarsi iniziali sia quelli successivi con metadati di base più ricchi.
I risultati del contesto linguistico hanno mostrato un modello simile. P@10 nella piena condizione multimodale raggiunse 0,607 per dischi misti in alfabeto latino, 0,628 per l'inglese, 0,618 per il francese, 0,661 per il tedesco e 0,639 per portoghese e spagnolo. Il maggior guadagno di precisione si è verificato per i record in alfabeto latino misto, che avevano la precisione di base più debole.
Modelli a livello di componente: contributi complementari piuttosto che ridondanti
Insieme, i risultati mostrano che i componenti del protocollo sono complementari piuttosto che ridondanti. La correzione OCR ha migliorato la riconoscibilità del testo, la classificazione visiva ha aggiunto segnali di tipo documentale consapevoli della struttura, e l'arricchimento dei metadati ha ampliato lo strato descrittivo ricercabile. La condizione multimodale completa ha prodotto i guadagni di recupero più forti e costanti, supportando l'obiettivo dello studio di testare un flusso di lavoro auditabile e orientato al recupero per archivi digitali eterogenei.
Questi risultati supportano un modello di protocollo in cui l'intelligenza artificiale multimodale completa la ricerca archivistica preservando la necessità di governance dei repository, provenienza dei dati e validazione degli esperti.
DISPONIBILITÀ DEI DATI:
Il dataset de-identificato di 1.600 record utilizzato per le analisi principali è disponibile su Zenodo come data.xlsx (https://doi.org/10.5281/zenodo.20774456).

Figura 1: Flusso di lavoro riproducibile per la scoperta archivistica multimodale. (A) Costruzione di corpus da record archivistici a livello di repository con screening di inclusione/esclusione. (B) Etichettatura dei riferimenti e controllo qualità, inclusi il tipo di documento, le regioni di riferimento OCR, il contesto linguistico, il periodo storico e la completezza dei metadati. (C) Preprocessing delle immagini, generazione e post-correzione OCR, classificazione visiva dei documenti e arricchimento conservativo dei metadati. (D) Costruzione dell'indice, valutazione del recupero a cinque bracci, analisi statistica e confezionamento delle risorse. Abbreviazioni: OCR, riconoscimento ottico dei caratteri; CER, tasso di errore del carattere; WER, tasso di errore di parola. Clicca qui per visualizzare una versione più grande di questa figura.

Figura 2: Struttura di errore di riconoscimento ottico dei caratteri a livello di record e rilevabilità dopo la correzione. (A) CER di base rispetto al WER di base su 1.600 record d'archivio, colorati per tipo di documento per le classi rappresentative. (B) Associazione tra intensità di scrittura a mano scalata e variazione del WER dopo la correzione; valori negativi indicano un WER più basso dopo la correzione. La linea adattata e la banda grigia mostrano la tendenza lineare e l'intervallo di confidenza del 95%. (C) Punteggio di rilevabilità a livello di record prima e dopo la correzione per tipo di documento, illustrando i cambiamenti post-correzione nelle prove ricercabili. Abbreviazioni: CER, tasso di errore del carattere; WER, tasso di errore di parola. Clicca qui per visualizzare una versione più grande di questa figura.

Figura 3: Classificazione visiva dei documenti prima e dopo la messa a punto specifica per archivio. (A) Accuratezza Top 1 per tipo di documento alla base e dopo la messa a punto. (B) Distribuzioni di fiducia per previsioni corrette e errate in condizioni di base e post-tuning. (C) Matrice di performance a livello di classe che riassume l'accuratezza top-1 e la fiducia media posteriore prima e dopo la messa a punto. I dati diagnostici del modello includono 20 epoche di curve di perdita/precisione, macro-F1, ponderato-F1, ROC-AUC e PR-AUC. Clicca qui per visualizzare una versione più grande di questa figura.

Figura 4: completezza dei metadati e corrispondenza dei titoli di soggetto dopo arricchimento conservativo. (A) completezza dei metadati a livello di record prima e dopo l'arricchimento. (B) Campi di metadati appena realizzati per tipo di documento. (C) Guadagno nella sfida tra i titoli di argomento attraverso i periodi storici. La completezza è stata calcolata come il numero di core campi popolati applicati diviso per il numero totale di core campi applicabili. Clicca qui per visualizzare una versione più grande di questa figura.

Figura 5: Prestazioni di recupero tra i cinque rami di sistema sperimentale. (A) P@10, R@10, nDCG@10, tempo fino al primo risultato rilevante e tasso di ricerca di successo per la linea di base, la correzione ottica del riconoscimento caratteri, la classificazione visiva, l'arricchimento dei metadati e l'integrazione multimodale completa. (B) Grafico a bolla del tasso di ricerca di successo per argomento di query e braccio di sistema; Il colore indica il braccio di sistema, e la dimensione della bolla indica la percentuale di successo. (C) P@10, R@10 e nDCG@10 tra strati di difficoltà facile, moderata e difficile di interrogazione. (D) Vista alternativa a livello di argomento del tasso di successo che mostra la distribuzione delle ricerche di successo tra argomenti di query e rami di sistema. Abbreviazioni: P@10, precisione a 10; R@10, richiamo alle 10; nDCG@10, guadagno cumulativo scontato normalizzato a 10. Clicca qui per visualizzare una versione più grande di questa figura.

Figura 6: Eterogeneità dei guadagni di recupero multimodale tra i sottogruppi archivistici. (A) nDCG@10 per tipo di documento target e condizione di recupero. (B) R@10 in base al periodo storico e alla condizione di recupero. (C) P@10 in base al contesto della lingua di destinazione e alla condizione di recupero. Le condizioni sono: Baseline, correzione OCR, classificazione visiva, arricchimento dei metadati, integrazione multimodale completa, OCR+Testo, Testo+Visivo+Metadati e Visivo+Metadati. La figura evidenzia che i guadagni multimodali sono diffusi ma non uniformi tra documenti, periodi e lingue. Clicca qui per visualizzare una versione più grande di questa figura.
| Tipo di documento | N record | Pagine mediane | Documenti scritti a mano | Base media WER | Base media Metadati completezza | Base media Scopertibilità |
| | | (%) | | | |
| Lettera scritta a mano | 262 | 2 | 95 | 0.729 | 0.648 | 68.2 |
| Registro | 263 | 7 | 63.5 | 0.679 | 0.674 | 72.2 |
| Mappa | 102 | 1 | 2.9 | 0.457 | 0.552 | 74.1 |
| Giornale | 261 | 8 | 0.8 | 0.495 | 0.66 | 75.5 |
| Fotografia con didascalia | 179 | 1 | 1.1 | 0.374 | 0.601 | 73.6 |
| Poster | 87 | 1 | 0 | 0.413 | 0.571 | 74.8 |
| Registro registro | 194 | 10 | 18 | 0.616 | 0.703 | 71.3 |
| Corrispondenza dattiloscritta | 252 | 3 | 4 | 0.315 | 0.689 | 76.4 |
Tabella 1: Caratteristiche della collezione archivistica per tipo di documento. La tabella riporta il numero di record, il numero mediano di pagine, la percentuale di record contenenti scrittura a mano, il WER medio di base, la completezza media dei metadati di base e il punteggio medio di rilevabilità di base per ciascuna delle otto classi di documenti.
| Tipo di documento | Dimensione del campione | CER | CER | WER | WER | Entità nominata Richiamo | Entità nominata Richiamo | ΔWER |
| (n) | (Base) | (Post) | (Base) | (Post) | (Base) | (Post) | |
| Lettera scritta a mano | 262 | 0.531 | 0.363 | 0.729 | 0.531 | 0.302 | 0.44 | −0.198 |
| Registro | 263 | 0.49 | 0.326 | 0.679 | 0.485 | 0.336 | 0.471 | −0,194 |
| Mappa | 102 | 0.322 | 0.228 | 0.457 | 0.347 | 0.38 | 0.503 | −0.11 |
| Giornale | 261 | 0.354 | 0.256 | 0.495 | 0.381 | 0.436 | 0.558 | −0.114 |
| Fotografia con didascalia | 179 | 0.257 | 0.181 | 0.374 | 0.286 | 0.494 | 0.616 | −0,088 |
| Poster | 87 | 0.287 | 0.199 | 0.413 | 0.316 | 0.448 | 0.57 | −0,097 |
| Registro registro | 194 | 0.442 | 0.293 | 0.616 | 0.439 | 0.369 | 0.504 | −0,177 |
| Corrispondenza dattiloscritta | 252 | 0.219 | 0.155 | 0.315 | 0.232 | 0.524 | 0.646 | −.083 |
Tabella 2: Prestazioni OCR prima e dopo la correzione per tipo di documento. CER e WER sono stati calcolati rispetto alle trascrizioni di riferimento; Il richiamo delle entità nominate veniva calcolato contro entità di persona, luogo, istituzione e data etichettate manualmente. Il WER delta è il WER post-correzione meno il WER basale.
| Tipo di documento | n | Accuratezza, Base | Accuratezza, Post | Fiducia, Base | Fiducia, Post | ΔAccuracy |
| Lettera scritta a mano | 262 | 0.615 | 0.645 | 0.616 | 0.655 | 0.03 |
| Registro | 263 | 0.707 | 0.749 | 0.725 | 0.767 | 0.042 |
| Mappa | 102 | 0.765 | 0.902 | 0.801 | 0.899 | 0.137 |
| Giornale | 261 | 0.716 | 0.843 | 0.728 | 0.83 | 0.127 |
| Fotografia con didascalia | 179 | 0.815 | 0.869 | 0.824 | 0.89 | 0.054 |
| Poster | 87 | 0.771 | 0.903 | 0.792 | 0.889 | 0.132 |
| Registro registro | 194 | 0.687 | 0.793 | 0.701 | 0.787 | 0.106 |
| Corrispondenza dattiloscritta | 252 | 0.796 | 0.791 | 0.804 | 0.82 | -0.005 |
Tabella 3: Prestazioni nella classificazione visiva dei documenti prima e dopo la fine tuning specifica per archivio. La tabella riporta la dimensione del campione, l'accuratezza top-1, la fiducia media a posteriori e la variazione dell'accuratezza in base al tipo di documento. I dati diagnostici includono 20 righe a livello epocale con macro-F1, F1 ponderato, ROC-AUC, PR-AUC, perdita di addestramento, perdita di validazione, accuratezza dell'addestramento e accuratezza di validazione.
| Completezza | Completezza | Campi Popolati | Campi Popolati | Titolo dell'argomento Partita | Titolo dell'argomento Partita | Δ Completezza | Δ Titolo di argomento Partita |
| (Base) | (Post) | (Base) | (Post) | (Base) | (Post) | | |
| 0.534 | 0.868 | 4.274 | 8.584 | 0.643 | 0.821 | 0.334 | 0.178 |
| 0.607 | 0.898 | 4.838 | 8.709 | 0.672 | 0.841 | 0.291 | 0.169 |
| 0.68 | 0.927 | 5.426 | 9.095 | 0.686 | 0.849 | 0.247 | 0.163 |
| 0.686 | 0.922 | 5.48 | 8.953 | 0.694 | 0.854 | 0.236 | 0.16 |
Tabella 4: Arricchimento dei metadati per periodo storico. La completezza è la proporzione di campi descrittivi principali applicabili popolati per un record; i campi popolati sono riportati come conteggi medi; La corrispondenza per titoli di soggetto indica se le evidenze a livello di registrazione supportavano almeno un'etichetta di soggetto con vocabolario controllato.
| Braccio di sistema | n query | P@10 | R@10 | nDCG@10 | È ora di passare per la prima cosa rilevante Risultato(s) | Tasso di ricerca di successo |
| | | | | | (%) |
| Base | 420 | 0.394 | 0.238 | 0.392 | 156.079 | 5 |
| Correzione OCR | 420 | 0.484 | 0.346 | 0.475 | 124.261 | 30.2 |
| Classificazione visiva | 420 | 0.49 | 0.302 | 0.478 | 131.985 | 22.9 |
| Arricchimento dei metadati | 420 | 0.507 | 0.347 | 0.513 | 117.474 | 38.3 |
| Multimodale completo | 420 | 0.624 | 0.492 | 0.634 | 58.485 | 95.5 |
Tabella 5: Prestazioni di recupero per i cinque bracci del sistema sperimentale. P@10, R@10, nDCG@10, tempo fino al primo risultato rilevante e tasso di ricerca di successo sono stati calcolati su un benchmark di 420 query sotto condizioni di query abbinata.