O aprendizado das máquinas deve aumentar as possibilidades humanas

A socióloga Elena Esposito sugere mudar o foco da inteligência artificial para as máquinas como parceiras da comunicação. Entrevista por Florian Butollo.

Butollo: Diz -se que a inteligência artificial fornece respostas sobre questões como os níveis certos de tributação, planejamento urbano razoável, gerenciamento de empresas e avaliação de candidatos a emprego. As habilidades da IA ​​para prever e julgar são melhores do que as dos seres humanos? A disponibilidade de grandes quantidades de dados significa que o mundo se torna mais previsível?

Esposito: os algoritmos podem processar incomparavelmente mais dados e executar determinadas tarefas com mais precisão e confiabilidade do que os seres humanos. Essa é uma grande vantagem que devemos ter em mente também quando destacamos seus limites, que existem e são fundamentais. O mais óbvio é a tendência dos algoritmos, que aprendem com os dados disponíveis, de prever o futuro projetando as estruturas do presente - incluindo vieses e desequilíbrios.

Isso também produz problemas como super-adaptação, que surge quando o sistema é excessivamente adaptado aos exemplos do passado e perde a capacidade de capturar a variedade empírica do mundo. Por exemplo, aprendeu tão bem a interagir com os usuários destros com os quais foi treinado que não reconhece uma pessoa canhota como um possível usuário.

Os algoritmos também sofrem com uma cegueira específica, especialmente no que diz respeito à circularidade pela qual as previsões afetam o futuro que visam prever. Em muitos casos, o futuro previsto pelos modelos não ocorre, não porque eles estejam errados, mas precisamente porque eles estão certos e são seguidos.

Pense, por exemplo, nas previsões de fluxo de tráfego no verão para as chamadas partidas inteligentes: dias pretos, vermelhos, amarelos etc. Os modelos preveem que em 31 de julho ao meio-dia haverá engarrafamentos nas rodovias, enquanto as 2 da manhã alguém vai viajar melhor. Se seguirmos as previsões, que são confiáveis ​​e bem-feitas, estaremos todos na fila às duas da manhã - contradizendo a previsão.

Essa circularidade afeta todos os modelos de previsão: se você seguir a previsão, corre o risco de falsificá-la. É difícil prever surpresas e confiar demais em formas algorítmicas, limitando o espaço da invenção e a abertura do futuro.

Você vê perigos políticos em confiar demais na IA? O hype atual sobre o assunto é um sinal da perda de nossa soberania como sociedades?

Os perigos políticos existem, mas não são determinados diretamente pela tecnologia. As possibilidades oferecidas pelos algoritmos podem levar a resultados e riscos políticos muito diferentes - desde o hype da personalização que promete desdobrar a autonomia dos usuários individuais até o sistema de 'crédito social' chinês, que segue na direção oposta.

Quais são as suas recomendações para o uso da IA ​​da maneira certa? O que os formuladores de políticas devem considerar ao formular diretrizes, normas e regulamentos éticos com isso em mente?

Heinz von Foerster tinha como imperativo ético "Agir sempre para aumentar o número de possibilidades". Hoje, mais do que nunca, parece-me um princípio fundamental. Especialmente quando estamos lidando com condições muito complexas, acho que é melhor tentar aprender continuamente com os desenvolvimentos atuais do que fingir saber para onde você quer ir.

E, aliás, os algoritmos de aprendizado de máquina também funcionam dessa maneira. Nessas técnicas de programação avançada, os algoritmos aprendem com a experiência e, de certa forma, programam-se - seguindo direções que os próprios projetistas geralmente não conseguem prever.

O que é uma expectativa razoável de IA? O que podemos esperar e como podemos chegar lá?

O que eu espero em relação à IA é que a própria ideia de reproduzir artificialmente a inteligência humana será abandonada. Os algoritmos mais recentes que usam aprendizado de máquina e big data nem funcionam como a inteligência humana e nem tentam imitá-la - e, exatamente por esse motivo, eles são capazes de executar com grande eficácia tarefas que até agora estavam reservadas para a inteligência humana. .

Através do big data, os algoritmos 'alimentam' as diferenças geradas (consciente ou inconscientemente) pelos indivíduos e seu comportamento para produzir informações novas, surpreendentes e potencialmente instrutivas. Os processos algorítmicos partem da inteligência dos usuários para operar com competência como parceiros de comunicação, sem a necessidade de serem inteligentes.



Elena Esposito é professora de sociologia na Universidade de Bielefeld e na Universidade de Bolonha. Sua pesquisa atual sobre previsão algorítmica é apoiada por uma concessão avançada de cinco anos do Conselho Europeu de Pesquisa.