Estrutura baseada em blockchain para gerar e gerenciar exemplos não aprendizes para melhorar a privacidade de dados e o controle de acesso

Summary

Este artigo propõe uma estrutura baseada em blockchain para gerar exemplos não aprendidos, integrando perturbação dinâmica com controle de acesso. Ele aprimora a proteção da privacidade, garantindo que usuários não autorizados recebam dados perturbados, protegendo informações confidenciais e permitindo o gerenciamento e o acesso eficientes aos dados por meio de contratos inteligentes.

Abstract

No contexto do rápido desenvolvimento de grandes modelos de linguagem (LLMs), o aprendizado contrastivo tornou-se amplamente adotado devido à sua capacidade de contornar anotações de dados dispendiosas, aproveitando grandes quantidades de dados de rede para treinamento de modelos. No entanto, esse uso generalizado levanta preocupações significativas em relação à proteção da privacidade de dados. Exemplos não aprendidos (UEs), uma técnica que interrompe o aprendizado de modelos ao perturbar os dados, impede efetivamente que modelos não autorizados façam uso indevido de dados confidenciais. No entanto, os métodos existentes para gerar UEs enfrentam dois desafios principais: primeiro, as perturbações podem ser revertidas usando técnicas como purificação reversa ou redução de ruído, incluindo modelos de difusão que removem perturbações protetoras em UEs de imagem; Em segundo lugar, uma vez que os dados são publicados, torna-se difícil garantir a rastreabilidade dos dados e gerenciar o controle de acesso. Para resolver esses problemas, este artigo propõe uma Estrutura de Geração e Gerenciamento de Exemplos Não Aprendidos Integrados a Blockchain (B-UEGMF) para gerar e gerenciar UEs. Ao alavancar as propriedades descentralizadas e imutáveis do blockchain, armazenamos exemplos de valores de hash no blockchain e gerenciamos dinamicamente os direitos de acesso a dados por meio de contratos inteligentes. Além disso, os UEs são gerados usando uma técnica de perturbação multiobjetivo, Dynamic Error-Minimizing Noise (DEM), que aumenta a robustez contra métodos de reversão. Também fornecemos uma avaliação quantitativa dos recursos de proteção de privacidade dos exemplos gerados. Os resultados experimentais demonstram que a estrutura proposta melhorou significativamente a defesa dos UEs contra ataques reversos, garantindo um gerenciamento eficiente da privacidade dos dados.

Introduction

Nos últimos anos, com o rápido avanço do aprendizado profundo e dos grandes modelos de linguagem, o aprendizado contrastivo emergiu como uma abordagem eficiente de aprendizado não supervisionado devido à sua independência de anotações manuais caras ^1,2. No entanto, o uso extensivo de conjuntos de dados públicos levantou preocupações significativas sobre violações de privacidade e uso indevido de dados. Casos de utilização não autorizada de dados disponíveis publicamente para treinamento de modelos tornaram-se cada vez mais comuns³. Por exemplo, em 2017,....

Protocol

Configuração
Consideramos uma tarefa de classificação supervisionada com um conjunto de dados , onde representa os recursos de entrada e denota os rótulos de classe correspondentes para um problema de classe K. O conjunto de dados D é dividido em um conjunto de dados de trein....

Results

Blockchain e estrutura de contrato inteligente
Os resultados experimentais demonstraram que a Estrutura de Gerenciamento e Geração de Exemplos Não Aprendidos Integrada ao Blockchain (B-UEGMF), combinada com contratos inteligentes, permitiu o gerenciamento dinâmico eficaz do acesso específico do cliente aos dados. Para usuários autorizados, os dados limpos recuperados alcançaram uma precisão de teste de 90,2% em um modelo substituto ResNet-18 avaliado no conjunto de dados CIFAR-10. Em contraste, usuári.......

Discussion

A integração de blockchain e UEs avançou no campo da proteção da privacidade de dados, fornecendo uma solução transparente e descentralizada para gerenciar o acesso aos dados. Ao contrário dos métodos convencionais de preservação da privacidade, que muitas vezes dependem apenas de técnicas de perturbação³¹, este estudo preenche a lacuna entre a proteção de dados e o rastreamento de responsabilidade. Em cenários de aprendizado federado, a estrutura proposta garante.......

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
CUDA 12.1	NVIDIA		Usado para melhorar o desempenho de aplicativos de aprendizado profundo
NVIDIA A800 80GB PCIe A800 80GB PCIe	NVIDIA		Usado para treinamento de modelo de aprendizado profundo
Python 3.10	Fundação de Software Python		Usado para pré-processamento e análise de dados
PyTorch 2.5.1	Linkedin		Estrutura de aprendizado profundo usada para treinamento de modelo
Ubuntu 22.04	Canônico		Sistema operacional usado para configurar o ambiente