Yuval Noah Harari: "Algoritmos moldam política, cultura e sociedade"

Tornou-se um pensador de referência global com livros como Sapiens e 21 lições para o século XXI. Agora, retorna com Nexus (Companhia das Letras), uma história das redes de informação, da Idade da Pedra à Inteligência Artificial - IA que, diz, é um ponto de inflexão na história humana. Uma IA que não é apenas um avanço, avalia, porque governa a linguagem e pode tomar decisões, e que para se impor não precisa de nenhum Terminator, basta contar histórias, como fazem os humanos há milênios.

O israelense Yuval Noah Harari (Qiryat Atta, 1976) responde por telefone ao jornal La Vanguardia, em meados de agosto, “aguardando se explode uma guerra ainda maior ou se é possível um cessar-fogo. É uma situação tensa. Não confio nas pessoas que estão no comando, nem no meu governo, nem no outro lado. Espero que a razão e a compaixão prevaleçam, mas dada a personalidade daqueles que governam é difícil ter esperanças”.

A entrevista é de Justo Barranco, publicada por La Vanguardia, 03-09-2024. A tradução é do Cepat.

Eis a entrevista.

Você diz que se utilizarmos mal a IA, poderá acabar com o domínio humano na Terra. O que isto significa?

Criamos uma nova inteligência potencialmente mais poderosa e inteligente do que nós. E se escapar de nosso controle, as consequências podem ser catastróficas. E não só para a humanidade, mas para o resto do sistema ecológico. Não é que IA seja malvada, mas sendo extremamente poderosa e sem se importar conosco e outras entidades orgânicas, pode nos fazer o que nós fizemos com tantos outros organismos, com tantos animais.

Agora, este é um cenário muito extremo. Com a IA, parte do problema é que há centenas de cenários muito perigosos. Alguns são fáceis de imaginar: um ditador dá à IA o controle das armas nucleares e por erro de cálculo ocorre uma catástrofe. Ou os terroristas criam um novo vírus mortal com a IA. É a própria natureza da IA que pode criar novas visões e ideias por si só. Não é uma ferramenta em nossas mãos. Estamos liberando milhões de novos agentes autônomos que podem se tornar mais inteligentes do que nós, e não podemos prever e nem controlar o que farão.

Diz que possuem uma ferramenta poderosa: a linguagem.

Na civilização, na cultura humana, a chave para quase tudo o que criamos é, em última instância, a linguagem. É a chave da política para convencer as pessoas. É a chave da arte. Da religião, quando se pensa nos livros sagrados, nas mitologias, nas orações. E as finanças, o dinheiro, em última instância, baseiam-se em palavras e símbolos. Até hoje, ninguém, exceto os humanos, podia entender e criar essas coisas. Nenhum outro animal sabia que existe dinheiro, deuses e nações, porque a linguagem é necessária para abordar essas coisas.

Em muitos sentidos, a IA domina a linguagem melhor do que a maioria. Já cria textos, imagens e vídeos, e é ainda é muito primitiva. O que acontecerá quando puder criar manifestos políticos persuasivos, novos dispositivos financeiros, novos livros sagrados? Por milhares de anos, os humanos viveram envolvidos no casulo cultural criado por outros humanos. Agora, será cada vez mais criado por uma inteligência não-humana.

Ressalta que, pela primeira vez, a nossa história não acontece só por decisões humanas.

Alguns dizem que a IA é como a imprensa e o rádio, e que copia as nossas ideias e as difunde. Não está certo. É capaz de criar ideias próprias e também de tomar decisões sobre a propagação das ideias humanas. Em um jornal, talvez a pessoa mais importante seja o editor, que decide o que é incluído e o que é deixado de lado. Agora, a IA está fazendo o trabalho dos editores de jornais nas redes sociais, não o de uma impressora.

No TikTok e no Facebook, é um algoritmo que decide quais mensagens receberão mais atenção. E isso molda a opinião pública, a cultura humana. Começamos a ver, e isso só vai aumentar, como as decisões dos algoritmos moldam a política, a cultura e a sociedade.

Você diz que podemos viver dentro dos sonhos de uma inteligência alheia que não precisa criar o Terminator, apenas histórias.

Sim. Foi o que vimos, há quase dez anos, com a campanha de limpeza étnica em Myanmar contra os rohingya, em parte impulsionada por algoritmos que, para aumentar a participação dos usuários no Facebook, propagaram teorias da conspiração escandalosas, notícias falsas e ódio contra esta minoria. Isto levou ao assassinato de dezenas de milhares. Mesmo que os algoritmos tenham apenas 1% de responsabilidade, é a primeira vez na história que as decisões tomadas por uma IA sobre quais informações divulgar contribuíram para uma importante mudança histórica. Os algoritmos já matam pessoas.

E quando olhamos para as democracias, vemos uma situação estranha. Os estadunidenses têm a tecnologia da informação mais sofisticada da história, mas estão perdendo a capacidade de falar e ouvir entre si. Em vez de facilitar a comunicação, a suspeita é que esta tecnologia a dificulta, porque existem muitas vozes não-humanas.

A democracia é uma conversa e deveria ser entre humanos. No entanto, nos últimos anos, muitas entidades não-humanas entraram. Mais de 20% do conteúdo do Twitter é difundido por bots. E os algoritmos que decidem quais vozes amplificar e silenciar não são humanos. O que acontece com a conversa humana, quando as vozes mais fortes nela não são humanas?

Aponta um momento de fracasso no diálogo democrático.

As pessoas não conseguem entrar em acordo sobre quase nada, sobre os fatos mais básicos, escutar-se, manter um debate ponderado. Quando vemos a mesma coisa acontecendo no mundo todo, surge a suspeita de que deve haver uma causa comum e que é a nova tecnologia da informação.

Antes da tecnologia da informação moderna, não era possível ter democracias em grande escala. As democracias antigas eram pequenas cidades-estados ou tribos. Se milhões de pessoas tentam manter um debate e não há jornais, rádio ou televisão, não conseguem. E como a democracia se edifica sobre essas tecnologias da informação, qualquer revolução importante nelas está destinada a criar turbulências na democracia.

Considera que nos Estados Unidos não há divisões maiores do que nos anos 1960. E fala em suicídio conservador.

Algumas pessoas tentam explicar o que acontece nos Estados Unidos a partir de divisões ideológicas profundas, mas elas eram piores nos anos 1960. Os direitos civis, a revolução sexual, o Vietnã, o auge da Guerra Fria... No entanto, os estadunidenses eram capazes de manter um diálogo ponderado. Concordavam em fatos básicos, como sobre quem havia vencido as eleições. Agora, é impossível.

E as diferenças ideológicas não parecem ser maiores. É difícil explicar o que está acontecendo só em termos de ideologia. De fato, em muitos países, os partidos que se definem como conservadores estão cometendo suicídio, tornam-se partidos radicais antissistema. Trump e seus apoiadores são revolucionários radicais. São contra o FBI, dizem que as eleições são um roubo. Querem desmantelar completamente o sistema existente, criar algo novo. Hoje, partidos conservadores se tornam revolucionários radicais e os chamados progressistas, como os democratas, precisam se tornar guardiões das instituições.

Teme que Trump vença?

Muito. Diz abertamente que não respeita o processo democrático básico. O mais importante das democracias é a sua capacidade de autocorreção. Se você vota em um homem forte, em um ditador, ele pode tomar muitas decisões boas, no entanto, mais cedo ou mais tarde, tomará uma má, não reconhecerá o seu erro e você não conseguirá se livrar dele.

Na Venezuela, Chávez e o seu movimento chegaram ao poder democraticamente e durante algum tempo muitas pessoas pensaram que estavam fazendo coisas boas, mas finalmente começaram a destruir o país. Agora, o povo da Venezuela não consegue se livrar deles. E o perigo é que algo semelhante possa acontecer nos Estados Unidos. Se Trump for eleito, pode ser que faça algo semelhante a Chávez e Putin.

Como alinhar a IA e a vida?

Precisamos perceber que ainda temos o controle. É responsabilidade dos governos regulá-la. Por milhares de anos, proibiram o dinheiro falso e agora devem proibir a criação de seres humanos falsos, os bots e algoritmos que se passam por humanos e difundem histórias. Uma IA nunca deveria se fazer passar por um ser humano.

As empresas de redes sociais dizem que não querem censurar as opiniões de nenhum ser humano por causa da liberdade de expressão. E consigo entendê-las, mas os bots não têm liberdade de expressão. Não há defesa para as empresas de redes sociais que permitem que entidades não-humanas, bots, sequestrem a conversa. E se os algoritmos que gerenciam uma rede social espalham indignação e teorias da conspiração para aumentar a participação, devem ser considerados responsáveis, assim como aconteceria com o editor de um jornal.

Como enxerga o momento atual da guerra em Israel, as decisões de Netanyahu e essa guerra em massa que alguns chamam de genocídio?

É pior do que em qualquer outro momento da minha vida. Estamos à beira do abismo. Por pior que as coisas foram nos últimos meses, agora, pode-se chegar a uma guerra regional em grande escala, que é aquilo que os extremistas dos dois lados querem. Possuem suas fantasias messiânicas e acreditam que quanto maiores as chamas, mais cedo o Messias ou o que quer que seja virá. Precisamos lembrar que a raiz do conflito é a existência de dois povos nesta terra e que possuem o direito de estar aqui. No entanto, ambos tendem a negar a existência do outro ou o seu direito de existir.

Deveria ser simples reconhecer que há mais de sete milhões de palestinos que nasceram aqui e não têm outro lugar para onde ir. E também há mais de sete milhões de judeus. A maioria nasceu aqui, não tem para onde ir e também tem o direito de existir aqui. E é tecnicamente possível que ambos coexistam em dois Estados ou em algum outro tipo de acordo, porque não há escassez objetiva de terra, alimentos, água e eletricidade.

O que estimula o conflito são as mitologias, as fantasias, como as ideias de que Deus nos deu todo este país e que todos os outros não são daqui e devem desaparecer. Tão logo nos desfaçamos destas fantasias e reconheçamos a simples realidade de que existem dois povos aqui com direito a existir, será possível encontrar uma solução viável para que judeus e palestinos possam desfrutar de segurança, prosperidade e respeito no país que nos viu nascer.

O cessar-fogo não é suficiente. Precisamos voltar à ideia de paz, uma paz baseada no reconhecimento do direito à existência de ambos os povos. Vimos a história de povos que lutaram entre si com extrema crueldade, durante séculos, e finalmente mudaram de opinião e encontraram formas de viver juntos. Não acredito que judeus e palestinos sejam tão diferentes a ponto de não alcançarem isto.

Netanyahu é um obstáculo?

Israel não é Netanyahu. Continua sendo uma sociedade democrática. Há uma oposição muito forte contra ele. Mesmo antes da guerra, centenas de milhares de israelenses se manifestaram contra as suas políticas. Mesmo agora, em meio à guerra, todas as semanas há dezenas de milhares de israelenses que se manifestam nas ruas contra ele e as políticas que lidera. Espero que, por fim, seja estabelecido um governo israelense diferente, que escolha um caminho diferente, tanto para proteger a democracia israelenses como para estabelecer a paz com os palestinos e o mundo árabe.