por Steven Hill
Virtualmente todos os meses, novas controvérsias surgem ao redor do Facebook, Google, Amazon, Twitter e outras empresas do Vale do Silício. A última controvérsia, que envolveu aliados de Donald Trump, passando dados pessoais de cerca de 87 milhões de usuários do Facebook nas eleições presidenciais dos EUA, é mais uma janela para a natureza dessas empresas. Antes disso, havia o flagelo de notícias falsas e bots de propaganda russa que se espalhavam pela plataforma do Facebook como um câncer metastático. E antes que o Google fosse multado em 2,4 bilhões de euros pela Comissão Européia por manipular seus resultados de busca em favor das empresas preferidas.
No caso do Facebook, ficamos com a assustadora questão de saber se Zuckerberg e seus gênios da computação realmente entendem sua própria criação. A inteligência artificial do Facebook foi construída (ou mais precisamente, montada em consórcio) ao longo de vários anos por centenas de desenvolvedores e programadores diferentes. O professor Zeynep Tufekci, da Universidade de Harvard, descreve o algoritmo do Facebook como "matrizes gigantes, talvez milhões de linhas e colunas e nem mesmo os programadores entendem mais exatamente como está operando.” Há tantas variáveis que entram em sua classificação complexa e proprietária que o Facebook não pode dizer com autoridade porque algo aparecerá ou não no feed de notícias de um usuário, ou como e por que de repente os trolls russos e seus bots conseguiam manipular os algoritmos para alcançar quase metade de todos os eleitores dos EUA com notícias falsas direcionadas. (Isso incluiu tantas mentiras quanto o papa havia endossado Donald Trump para presidente, que recebeu quase 2 milhões de "compromissos" do Facebook (número total de ações, curtidas e comentários) nos três meses que antecederam a eleição dos EUA).
No entanto, vários especialistas vêm observando atentamente essa empresa e descobriram alguns de seus padrões de comportamento. Combinado com recentes revelações de um denunciante, eis o que aprendemos sobre como o Facebook e seus algoritmos realmente funcionam. É ainda mais alarmante do que se pensava.
A AI está sendo direcionada aos usuários para afetar não apenas a publicidade, mas também as notícias e as eleições. Dado o amplo uso e influência do Facebook - com 2 bilhões de usuários globais, está rapidamente substituindo a televisão como a mídia dominante, de entretenimento e comercial do mundo - essa manipulação atinge o cerne de nossas sociedades democráticas.
Primeiro, os “algoritmos de engajamento” do Facebook usam a vigilância tecnológica do nosso comportamento on-line para capturar nossos dados pessoais de uma maneira que faria a Stasi babar de inveja. O objetivo é gerar previsões automatizadas cada vez mais precisas sobre quais anúncios somos mais influenciados.
Recentemente Wired relatou em um memorando vazado no Facebook que revelou que a empresa ofereceu aos anunciantes a oportunidade de atingir 6,4 milhões de usuários mais jovens, alguns com apenas 14 anos, durante momentos de vulnerabilidade psicológica. O Facebook monitorou postagens, fotos e interações em tempo real para rastrear os níveis emocionais, e o documento de 23 páginas realmente destacou a capacidade do Facebook de direcionar os anúncios para os “momentos em que os jovens precisam de um aumento de confiança”. Como explica o Dr. Tufekci: Os humanos são uma espécie social ... Somos particularmente suscetíveis a vislumbres de novidades, mensagens de afirmação e pertencimento, e mensagens de indignação em relação a inimigos percebidos. Esses tipos de mensagens são para a comunidade humana o que o sal, o açúcar e a gordura são para o apetite humano ”.
Alimentação Frenesi
Por isso, o Facebook oferece a seus usuários uma grande gula de alimentação, criando o que o primeiro presidente da empresa, Sean Parker, chamou recentemente de “loop de feedback de validação social”. A plataforma é projetada especificamente para manter os usuários clicando, tocando e rolando para baixo um feed sem fim e, no processo, nos entrega a vários anunciantes.
Mas isso não é tudo. Com base em nossos perfis individuais, os algoritmos de engajamento do Facebook também são projetados para nos alimentar de notícias sensacionalistas (falsas e reais) selecionadas para provocar emoções poderosas de raiva e medo. Reagindo, clicando e compartilhando essas histórias, os usuários são conduzidos pela “arquitetura de persuasão” do Facebook em guetos informativos hiper-partidários de opinião e fatos alternativos, chamados de “bolhas cognitivas”.
Um exemplo escandaloso foi a falsa teoria da conspiração criticada em torno do Facebook durante a campanha presidencial de que Hillary Clinton e sua ex-presidenta de campanha publicaram um anel sexual infantil no porão de uma pizzaria em Washington DC. Além do fato de que o restaurante, Comet Ping Pong, não tem nem mesmo um porão, a equipe do restaurante e seu proprietário foram atingidos por uma série de ameaças de abuso e morte nas redes sociais. As coisas passaram de alarmantes para perigosas quando um homem entrou no Comet Ping Pong com um rifle de assalto e começou a atirar (felizmente ninguém ficou ferido). Essa foi apenas uma das dezenas de notícias falsas, todas com histórias absurdas. Outras histórias afirmavam que Hillary Clinton vendia armas para Ísis e que um agente do FBI ligado a vazamentos de e-mails de Clinton havia sido misteriosamente encontrado morto.
Uma análise do BuzzFeed News descobriu que 17 das 20 histórias de eleições falsas de alto desempenho eram abertamente pró-Donald Trump ou anti-Hillary Clinton. Nos últimos três meses da campanha presidencial, as principais notícias eleitorais falsas geraram quase 9 milhões de engajamentos no Facebook, o que foi 20% maior do que o número recebido por reportagens eleitorais de 19 grandes agências de notícias combinadas.
Escolhendo O Alvo
Mas os impactos são ainda mais profundos do que notícias falsas. Whistleblower Christopher Wylie revelou ao New York Times e ao Observer do Reino Unido como sua antiga empresa, Cambridge Analytica, usou informações pessoais de 87 milhões de usuários do Facebook para criar um sistema que criou perfis psicológicos e políticos da maioria dos eleitores americanos por meio de questionários online. A Cambridge Analytica era liderada pelo principal conselheiro de Trump, Steve Bannon, do canal de mídia Breitbart. Para a eleição presidencial dos EUA em 2016, o Guardian relata que a Cambridge Analytica implantou um conjunto de técnicas que foram adotadas pelo Departamento de Defesa dos EUA e pelo Ministério de Defesa do Reino Unido, em particular suas “operações psicológicas” ou psicopéias. Esses métodos estavam focados em mudar a mente das pessoas, não através de persuasão, mas através de “domínio informacional” que depende de desinformação, notícias falsas, boatos e “mensagens psicográficas”. Como o New York Times apontou, um eleitor considerado neurótico pode ser mostrado um comercial de direitos de armas que mostrava ladrões invadindo uma casa, em vez de uma defesa legal seca da Segunda Emenda; eleitores perturbados pela ansiedade seriam alvo de anúncios alerta sobre os perigos representados pelo Estado Islâmico, mas tais anúncios seriam considerados ineficazes para aqueles identificados como "otimistas".
O precursor da Cambridge Analytica, chamado SCL Elections, afirma que usou um conjunto similar de ferramentas em mais de 200 eleições em todo o mundo, incluindo na Itália, Ucrânia, Romênia, África do Sul, Nigéria, Quênia, Índia, Indonésia, Tailândia e muitas outras democracias. Quando a violação de dados do Facebook ocorreu pela primeira vez em 2014, ela incluía um terço dos usuários norte-americanos ativos e quase um quarto dos eleitores americanos em potencial. Wylie contou aos jornais; “Nós exploramos o Facebook… e construímos modelos para explorar o que sabíamos sobre [seus usuários] e direcionar seus demônios internos .” Paul-Olivier Dehaye, especialista em dados e acadêmico baseado na Suíça, que publicou algumas das primeiras pesquisas sobre os processos da Cambridge Analytica, diz que é cada vez mais aparente que o Facebook é "abusivo por design".
Mesmo que as técnicas da Cambridge Analytica não tenham sido totalmente influentes para influenciar os eleitores, como afirmam alguns especialistas , isso erra um ponto importante. Deixados à própria sorte, essas empresas estão escrevendo as regras do nosso futuro digital coletivo. E estamos apenas no estágio inicial do que essas tecnologias eventualmente serão capazes. A ligação de poderosas respostas emotivas que foram digitalmente estimuladas a orquestrar uma espécie de pensamento grupal partidário lembra assustadoramente o livro Two Minutes of Hate, de George Orwell, em seu romance 1984.. O Dr. Tufekci diz que “o principal modelo de negócio subjacente às plataformas Big Tech - atraindo atenção com uma enorme infraestrutura de vigilância para permitir publicidade direcionada e principalmente automatizada em larga escala - é muito compatível com autoritarismo, propaganda, desinformação e polarização. "
Além Das Redes Sociais
Com seus 2 bilhões de usuários em todo o mundo, o Facebook cresceu de um projeto iniciado no dormitório de Zuckerberg em Harvard para se tornar muito mais do que uma plataforma de rede social. Ele se transformou em uma grande plataforma de notícias, entretenimento e publicidade que é vista por mais pessoas do que qualquer rede de televisão dos EUA ou Europa, qualquer jornal ou revista e qualquer canal de notícias on-line. Ele também atinge centenas de milhões de usuários no mundo em desenvolvimento , onde a empresa adaptou seu aplicativo para conexões de baixa largura de banda e telefones Android mais baratos. Muitos empreendedores do mercado negro e cinza no mundo em desenvolvimento usam um aplicativo do Facebook como um portal comercial semelhante ao eBay para compra e venda.
O Google também dominou esses tipos de arquiteturas de engajamento, e a Amazon está a caminho. Ao fazê-lo, essas empresas tornaram-se três das empresas mais valorizadas do mundo. Juntos, o Google e o Facebook agora respondem por 73% de toda a receita global de publicidade on-line (84% fora da China ) e 25% de todas as vendas de anúncios (on-line ou off-line) . A Amazon está agora lentamente a recuperar o atraso no jogo de publicidade. Mas esse crescente duopólio está acabando com outros meios de comunicação, forçando até mesmo o Twitter e o Snapchat a lutar pelos recados publicitários necessários para sobreviver.
Em outras palavras, nós, o público, somos as cobaias para os experimentos algorítmicos desses monopólios da plataforma. O poder dos algoritmos está sendo colocado em prática para fins muito questionáveis e tem uma propensão a resultar em consequências imprevistas. Viktor Mayer-Schönberger, professor da Universidade de Oxford e co-autor de Reinventando o capitalismo na Era do Big Data , diz; “Os algoritmos e conjuntos de dados por trás deles se tornarão caixas-pretas que não nos oferecem responsabilidade, rastreabilidade ou confiança. No passado, diz ele, a maioria dos códigos de computador pode ser aberta e inspecionada, tornando-a efetivamente transparente. Mas com a IA e seus enormes conjuntos de dados aprimorados pelo “aprendizado de máquina”, a capacidade humana de monitorar esses quebra-cabeças tecnológicos está declinando.
A Europa operou por muito tempo com o "princípio da precaução", que é como o juramento hipocrático na medicina que diz: "Primeiro, não faça mal". Os produtos e serviços criados por essas empresas do Vale do Silício desfrutaram de amplo acesso aos mercados e consumidores europeus. . Os europeus têm grande fé em uma Internet aberta, mas as armadilhas desse excesso de otimismo estão se tornando cada vez mais aparentes. Agora que o Facebook se tornou um grande monopólio global, uma grande plataforma de mídia para todo o planeta, ele se tornou menos benigno e está despertando mais sinais de alarme.
Uma Plataforma Modelo Europeia?
Muitas pessoas lamentaram por muito tempo "Onde está o Facebook e o Google europeus?" Mas o imperador não tem mais roupas; A liderança digital das empresas de plataforma do Vale do Silício tem demonstrado ser sinistramente irresponsável e oscilante em ser perigosa. Agora é a hora de algumas start-ups europeias se unirem, com dinheiro inicial da UE e / ou governos individuais, e criar uma nova versão do Facebook (e Google e Amazon) que incorpore os valores europeus. Chame isso de Facebook 2.0. A China conseguiu isso - por que a Europa não pode?
Neste ponto, uma espécie de renacionalização da Internet parece natural e quase inevitável. As nações e os blocos regionais, como a UE e a China, devem reconfigurar a Rede de maneiras que funcionem para suas populações, seus valores e suas necessidades futuras. Atualmente, essas empresas de plataforma parecem existir em toda parte e em nenhum lugar, crescendo em gigantes globais. Uma ideia que foi discutida é a de transformar esses tipos de serviços em serviços públicos. Outra é a de separá-los como monopólios excessivamente grandes. Outra opção é a de exigir licenças digitais que mapeiem as regras e regulamentos de operação para plataformas baseadas na Internet, da mesma forma que as empresas tradicionais de tijolo e argamassa devem receber permissões e licenças de negócios.
A evolução da Era Digital está avançando rapidamente, e assim como em eras passadas, quando os monopólios de telefonia, telefone e Microsoft precisavam ser forçados, é hora de descobrir o equipamento certo para essas empresas de plataformas. A alternativa é deixar os padrões e normas que governarão o futuro a serem definidos por essas empresas Frankenstein do Vale do Silício.
Steven Hill é jornalista residente no Centro de Ciências Sociais WZB de Berlim e ex-membro da Holtzbrinck na American Academy em Berlim. É autor de sete livros, mais recentemente Die Startup Illusion: Wie die Internet-Ökonomie unseren Sozialstaat ruiniert e Europe's Promise: Por que o Caminho Europeu é a Melhor Esperança em uma Era Insegura.
Nenhum comentário:
Postar um comentário