Estados de bem-estar digital: limites e oportunidades

Um processo judicial holandês estabeleceu uma estrutura dentro da qual o Estado emergente de bem-estar digital pode respeitar o direito à privacidade.

As autoridades públicas estão cada vez mais usando novas tecnologias para executar serviços públicos. As ideias mais recentes dizem respeito a aplicativos de assistência médica para impedir a disseminação adicional do coronavírus. Em todo o mundo, existem muitos outros exemplos do que as Nações Unidas chamam de 'Estados de bem-estar digital'. Embora os governos argumentem que as novas tecnologias tornam seus serviços mais eficientes e econômicos, muitos expressam preocupação com a 'vigilância' dos cidadãos.

Tais controvérsias tendem a se associar a episódios individuais. Dado o surgimento generalizado dos Estados de bem-estar digital, são necessárias diretrizes universais para explorar as oportunidades que eles oferecem, mas também seus limites legítimos. Em um caso de primeira instância, os direitos humanos provaram oferecer orientações relevantes.

Proteger ou punir

Muitos Estados assistenciais começaram a usar big data e algoritmos em suas provisões de seguridade social. Os Estados de bem-estar digital podem ser definidos como tendo sistemas de proteção e assistência social 'conduzidos por dados e tecnologias digitais usados ​​para automatizar, prever, identificar, inspecionar, detectar, direcionar e punir'. Por exemplo, ferramentas orientadas a dados são usadas para detectar fraudes da segurança social. Da mesma forma, alguns governos usam dados de localização para rastrear e localizar o paradeiro de seus cidadãos, com o objetivo de interromper o coronavírus.

À primeira vista, esses aplicativos oferecem soluções rápidas para os governos. No entanto, decisões precipitadas dificultam a pesquisa adequada e debates aprofundados sobre sua eficácia, necessidade e efeitos colaterais. Uma sugestão do governo holandês de criar aplicativos de rastreamento atraiu uma resposta pública de 60 especialistas. Eles alertaram contra a rápida implementação, pedindo que o objetivo, a necessidade e a eficácia desses aplicativos sejam pesados ​​contra o tecido da sociedade, incluindo direitos e liberdades fundamentais.

Citando Michel Foucault, os especialistas escreveram: 'A vigilância é permanente em seus efeitos, mesmo que descontínua em sua ação'. Eles expressaram medo de que os aplicativos estabelecessem um precedente para o uso futuro de tecnologias comparativamente invasivas, após a crise de Covid-19 ter desaparecido - e enfatizaram que qualquer aplicativo deveria ser temporário, necessário, proporcional, transparente, completamente anônimo, voluntário e gerenciado por um organismo independente.

Outras discussões de novas tecnologias se referem a princípios semelhantes. Portanto, são necessárias diretrizes universais para apoiar o desenvolvimento e o funcionamento de qualquer nova tecnologia usada nos estados de bem-estar digital. O recente julgamento do tribunal distrital de Haia mostra que os direitos humanos internacionais formam uma base adequada para criar tais diretrizes.

'Indicação de risco do sistema'

O primeiro caso judicial usando direitos humanos para avaliar novas tecnologias em estados de bem-estar digital focado na Indicação de Risco do Sistema Holandês (SyRI). O processo da SyRI foi instaurado contra o Estado holandês por uma coalizão de organizações não-governamentais, apoiada pelo então relator especial da ONU sobre extrema pobreza e direitos humanos, Philip Alston, que escreveu um resumo de amicus ao tribunal.

O SyRI foi criado para detectar fraudes de bem-estar, coletando nada menos que 17 categorias de dados pessoais coletados por diferentes órgãos públicos. Isso incluía informações sobre emprego, detenção, sanções, finanças, educação, pensões, abono de família, recebimento de benefícios e seguro de saúde. O SyRI tem sido usado de forma recorrente, especialmente em bairros com pessoas mais pobres e vulneráveis. Ele analisou os dados usando um algoritmo com indicadores de risco, selecionando, assim, requerentes potencialmente fraudulentos. O algoritmo e seus indicadores foram mantidos em segredo por medo de que os cidadãos começassem a "jogar no sistema".

O tribunal decidiu que o SyRI violou importantes direitos humanos e, portanto, deve ser encerrado imediatamente. Para a ONU, isso foi nada menos que uma decisão histórica - pela primeira vez, prender, por motivos de direitos humanos, o uso de tecnologias digitais e o abundante processamento de informações pelas autoridades de assistência social. Estabeleceu um precedente legal importante e poderia inspirar ONGs de todo o mundo a influenciar o debate público ou mesmo a ir a tribunal.

Vida privada e familiar

O tribunal enfatizou o direito ao respeito à vida privada e familiar, ao lar e à correspondência no artigo 8 da Convenção Europeia de Direitos Humanos, e prestou atenção especial à obtenção de um equilíbrio justo entre a importância coletiva da sociedade para combater a fraude e, assim, limitar o indivíduo. direito ao respeito pela vida privada. O Estado tem uma responsabilidade especial de salvaguardar esse equilíbrio justo ao usar novas tecnologias, disse o tribunal.

A falta de transparência do SyRI sobre seu funcionamento impediu o escrutínio de saber se havia esse equilíbrio. Pode até resultar em julgamentos injustos envolvendo distinções discriminatórias entre as pessoas, por exemplo, com base no status socioeconômico ou migrante. Isso pode ter graves consequências negativas, não apenas para os indivíduos envolvidos, mas também para a sociedade em geral. Não apenas os fraudadores foram apanhados no grande processamento de dados, mas, no caso do SyRI, todos que moravam em um determinado bairro e qualquer um 'sinalizado' como potencialmente alegando ilegalmente.

O tribunal não disse que o governo nunca poderia usar novas tecnologias. Ele considerou o combate à fraude um objetivo legítimo. Igualmente, no entanto, as novas tecnologias provocaram perguntas sobre o direito à proteção de dados pessoais. A proteção adequada da privacidade contribuiu para a confiança no governo, enquanto a proteção inadequada e a pouca transparência tiveram o efeito oposto: eles poderiam deixar os cidadãos com medo e menos dispostos a compartilhar seus dados. Além disso, o SyRI não convenceu em termos de necessidade e proporcionalidade e finalidade do processamento de dados.

Aqui, o tribunal usou os regulamentos de proteção de dados da União Europeia para explicar os princípios de um equilíbrio justo entre direitos e propósitos: transparência, limitação de propósitos e minimização de dados. Tais princípios também aparecem nas diretrizes para aplicativos de rastreamento de contatos recentemente promulgados pela Rede de Saúde Eletrônica da UE.

Todas essas fontes podem ser usadas para converter mensagens semelhantes em diretrizes universais para os estados de bem-estar digital, permitindo que eles se beneficiem das novas tecnologias de maneira responsável. Então, as novas tecnologias podem contribuir para o bem-estar econômico e social de todos os cidadãos.

Sonja Bekker é professora associada da Universidade de Tilburg, onde é professora de política social e relações de trabalho na Europa, Jean Monnet.