O Papa deveria ter ido mais longe em relação à IA

por Daron Acemoglu

A inteligência artificial está remodelando a forma como nos comunicamos, acessamos informações e trabalhamos, como a renda e o status são distribuídos e até mesmo como travamos guerras. No entanto, o debate público permanece restrito à competição entre laboratórios de IA ou a discussões abstratas sobre as capacidades da tecnologia. Quase ninguém questiona qual deveria ser o propósito da IA ​​ou se nossa mentalidade, instituições e mecanismos de controle atuais são capazes de direcionar a tecnologia para melhorias abrangentes no bem-estar humano. 

Foi, portanto, revigorante ver o Papa Leão XIV abordar o assunto em sua primeira  encíclica , que descreve a trajetória atual da IA ​​como uma profunda ameaça à dignidade humana. Como economista que há muito defende que os resultados impulsionados pela tecnologia são questões de escolha, não de destino, saúdo sua intervenção. 

Leo está à frente da maioria dos comentaristas ao apontar que “a tecnologia nunca é neutra, porque assume as características daqueles que a concebem, financiam, regulamentam e utilizam”. No entanto, receio que nem mesmo ele tenha se aprofundado o suficiente na questão mais importante: para que a IA deveria ser projetada? 

Como  Simon Johnson  e eu destacamos em nosso livro  Poder e Progresso: Nossa Luta Milenar por Tecnologia e Prosperidade , existem múltiplos caminhos que uma tecnologia como a IA pode seguir, e cada um deles tem implicações de longo alcance para a sociedade. Por exemplo, o Papa está certo em questionar a trajetória atual da IA ​​na guerra e na aplicação da lei. O que era tabu há poucos anos — vigilância em massa impulsionada por IA, algoritmos selecionando alvos para assassinato — tornou-se rotina. 

Enquanto muitos no Vale do Silício pressionam os Estados Unidos a reforçar seu  poderio militar por meio de um novo complexo algorítmico-militar , Leão XIII adverte que “qualquer tecnologia que facilite ataques sem o reconhecimento de seres humanos diminui o limiar moral do conflito”. O Papa então apela ao “desarmamento da IA” para libertá-la “da mentalidade de competição 'armada', que hoje não se limita apenas ao contexto militar, mas também é um fenômeno econômico e cognitivo”. 

Uma sabedoria mais fundamental subjaz a essas preocupações específicas: o progresso tecnológico não é necessariamente progresso moral. O simples fato de algo ser tecnicamente viável não significa que seja bom para a humanidade. A desejabilidade de uma tecnologia depende de quem a controla e da ideologia e dos interesses que os guiam. 

Leo alude ao que considero o risco mais imediato, ou seja, que “embora a IA prometa aumentar a produtividade ao assumir tarefas rotineiras, ela frequentemente força os trabalhadores a se adaptarem à velocidade e às exigências das máquinas, em vez de projetar máquinas para trabalharem com aqueles que trabalham”. Mas o Papa não chega a questionar a filosofia predominante no design da IA. A abordagem de toda a indústria de IA centra-se em imitar as capacidades humanas e automatizar tarefas humanas, com o objetivo de criar uma “inteligência artificial geral” que possa fazer tudo o que uma pessoa faz. 

Essa filosofia se baseia na premissa equivocada de que a inteligência artificial e a inteligência humana são fundamentalmente semelhantes. Os humanos aprendem "na primeira tentativa". Formulamos hipóteses a partir de alguns exemplos,  simulamos possibilidades  em nossas mentes e refinamos nossa compreensão por meio de um processo social de  tentativa e erro . Portanto, as crianças  aprendem a linguagem  imitando algumas palavras, generalizando e ajustando sua fala com base em como os outros respondem. Não somos muito bons em absorver grandes volumes de informação ou em analisar dados não estruturados em busca de padrões relevantes. 

Em contraste, os modelos de IA prosperam com enormes conjuntos de treinamento e  se destacam  no reconhecimento de padrões em larga escala, mas ainda não demonstraram criatividade genuína. Eles não têm experiência de vivência no mundo real, nem capacidade de aprendizado por tentativa e erro através de interações com o mundo físico e social (exceto de forma limitada quando há recompensas claras para o aprendizado por reforço em domínios específicos). 

Quando duas coisas são diferentes, você não deve — e geralmente não pode — usar uma para imitar a outra. Os resultados seriam inferiores. Teria sido um erro colossal se Phil Jackson, o lendário técnico do Chicago Bulls na década de 1990, tivesse pressionado Michael Jordan a imitar tudo o que Scottie Pippen e Dennis Rodman faziam. O time conquistou campeonatos consecutivos justamente porque esses jogadores trabalhavam juntos e complementavam as habilidades uns dos outros. 

O mesmo se aplica à IA e às habilidades humanas. Usar a IA para fazer o que os humanos não conseguem, permitindo que  os humanos expandam suas capacidades , é mais produtivo do que a imitação. Em um cenário futuro onde a IA aumenta, em vez de substituir, as capacidades humanas, eletricistas seriam auxiliados por diagnósticos de IA, enfermeiros consultariam a IA na interpretação de sintomas e professores poderiam usar a IA para personalizar o ensino para cada aluno. 

Otimistas e especialistas do setor podem argumentar que a IA com foco na automação ainda pode beneficiar a todos, desde que as políticas redistributivas acompanhem o ritmo. Mas esse argumento tem um histórico ruim. Quatro décadas de automação digital já concentraram os ganhos no topo, dizimaram o trabalho de nível médio e produziram um crescimento decepcionante da produtividade agregada. Há poucos motivos para esperar que uma rodada ainda mais poderosa de automação, implementada por um setor ainda mais concentrado, tenha um resultado diferente. 

E as consequências globais são ainda maiores do que nos EUA. Para bilhões de pessoas nos países em desenvolvimento, onde um emprego digno é o único caminho seguro para sair da pobreza, uma agenda de IA centrada na automação é uma receita para o desastre. Podemos e devemos exigir um modelo diferente. 

Talvez a maior falha da indústria de IA atual seja sua recusa em reconhecer tudo isso. O pequeno grupo de pessoas que está lançando essa tecnologia no mundo é guiado por uma ideologia de controle (sobre a humanidade) e pela convicção de que as máquinas são uniformemente melhores que os humanos. 

Leo tem razão ao pedir clareza moral e um debate sério em toda a sociedade. Mas a conversa precisa ir além da exortação e partir para escolhas concretas: ações antitruste contra as plataformas dominantes, investimentos públicos em IA complementar à humana, regulamentação da vigilância e das armas autônomas, e direitos significativos para trabalhadores e cidadãos sobre os dados dos quais esses sistemas dependem. 

A intervenção de Leo torna essa resposta um pouco mais provável do que antes. Mas nós, os demais, também precisamos defender a humanidade.

Daron Acemoglu, laureado com o Prêmio Nobel de Economia de 2024 e Professor do Instituto de Economia do MIT, é coautor (com James A. Robinson) de Why Nations Fail: The Origins of Power, Prosperity and Poverty  (Profile, 2019) e coautor (com Simon Johnson) de  Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity (PublicAffairs, 2023).