Framework basato su blockchain per la generazione e la gestione di esempi non apprendibili per migliorare la privacy dei dati e il controllo degli accessi

Summary

Questo articolo propone un framework basato su blockchain per generare esempi non apprendibili, integrando la perturbazione dinamica con il controllo degli accessi. Migliora la protezione della privacy garantendo che gli utenti non autorizzati ricevano dati perturbati, salvaguardando le informazioni sensibili e consentendo una gestione efficiente dei dati e l'accesso tramite contratti intelligenti.

Abstract

Nel contesto del rapido sviluppo di modelli linguistici di grandi dimensioni (LLM), l'apprendimento contrastivo è stato ampiamente adottato grazie alla sua capacità di aggirare le costose annotazioni dei dati sfruttando grandi quantità di dati di rete per l'addestramento dei modelli. Tuttavia, questo uso diffuso solleva notevoli preoccupazioni per quanto riguarda la protezione della privacy dei dati. Gli esempi non apprendibili, una tecnica che interrompe l'apprendimento dei modelli perturbando i dati, impedisce efficacemente ai modelli non autorizzati di utilizzare in modo improprio i dati sensibili. Tuttavia, i metodi esistenti per generare UE devono affrontare due sfide principali: in primo luogo, le perturbazioni possono essere invertite utilizzando tecniche come la purificazione inversa o il denoising, compresi i modelli di diffusione che rimuovono le perturbazioni protettive nelle UE di immagine; In secondo luogo, una volta pubblicati i dati, garantire la tracciabilità dei dati e gestire il controllo degli accessi diventa difficile. Per affrontare questi problemi, questo articolo propone un Blockchain-Integrated Unlearnable Example Generation and Management Framework (B-UEGMF) per la generazione e la gestione degli UE. Sfruttando le proprietà decentralizzate e immutabili della blockchain, memorizziamo i valori hash di esempio sulla blockchain e gestiamo dinamicamente i diritti di accesso ai dati attraverso contratti intelligenti. Inoltre, gli UE vengono generati utilizzando una tecnica di perturbazione multi-obiettivo, il Dynamic Error-Minimizing Noise (DEM), che migliora la robustezza rispetto ai metodi di inversione. Forniamo anche una valutazione quantitativa delle capacità di protezione della privacy degli esempi generati. I risultati sperimentali dimostrano che il framework proposto ha migliorato significativamente la difesa delle UE contro gli attacchi inversi, garantendo al contempo una gestione efficiente della privacy dei dati.

Introduction

Negli ultimi anni, con il rapido progresso del deep learning e dei modelli linguistici di grandi dimensioni, l'apprendimento contrastivo è emerso come un approccio efficiente all'apprendimento non supervisionato grazie alla sua indipendenza dalle costose annotazioni manuali ^1,2. Tuttavia, l'uso estensivo di set di dati pubblici ha sollevato notevoli preoccupazioni in merito alle violazioni della privacy e all'uso improprio dei dati. I casi di utilizzo non autorizzato di dati pubblicamente disponibili per l'addestramento dei modelli sono diventati sempre più comuni

Protocol

Apparecchio
Abbiamo preso in considerazione un'attività di classificazione supervisionata con un set di dati , dove rappresenta le caratteristiche di input e denota le etichette di classe corrispondenti per un problema di classe K. Il set di dati D viene suddiviso in un set d....

Results

Blockchain e framework di smart contract
I risultati sperimentali hanno dimostrato che il proposto Blockchain-Integrated Unlearnable Example Generation and Management Framework (B-UEGMF), combinato con contratti intelligenti, ha consentito un'efficace gestione dinamica dell'accesso ai dati specifico del cliente. Per gli utenti autorizzati, i dati puliti recuperati hanno raggiunto un'accuratezza del test del 90,2% su un modello surrogato ResNet-18 valutato sul set di dati CIFAR-10. Al contrario, gli ut.......

Discussion

L'integrazione di blockchain e UE ha fatto progredire il campo della protezione della privacy dei dati fornendo una soluzione trasparente e decentralizzata per la gestione dell'accesso ai dati. A differenza dei metodi convenzionali di tutela della privacy, che spesso si basano esclusivamente su tecniche di perturbazione³¹, questo studio colma il divario tra la protezione dei dati e il tracciamento delle responsabilità. Negli scenari di apprendimento federato, il f.......

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
CUDA 12.1	NVIDIA		Utilizzato per migliorare le prestazioni delle applicazioni di deep learning
NVIDIA A800 80GB PCIe A800 80GB PCIe	NVIDIA		Utilizzato per l'addestramento del modello di Deep Learning
Pitone 3.10	Fondazione del software Python		Utilizzato per la pre-elaborazione e l'analisi dei dati
PyTorch 2.5.1	Contatti		Framework di deep learning utilizzato per l'addestramento dei modelli
Ubuntu 22.04	Canonico		Sistema operativo utilizzato per la configurazione dell'ambiente