| Banco de imagens Duarte Tonetti Advogados Carolina Jakutis, advogada do Contencioso Cível Empresarial do Duarte Tonetti Advogados. |
Por Carolina Jakutis
O uso de inteligência artificial já faz parte da rotina de inúmeras empresas. Sistemas automatizados participam de decisões relacionadas a vendas, análise de crédito, atendimento ao consumidor, segmentação de ofertas, direcionamento de campanhas publicitárias, identificação de fraudes e até processos de recrutamento e seleção.
A promessa é conhecida: mais eficiência, rapidez e redução de custos.
Mas existe uma questão que vem ganhando espaço no debate jurídico e empresarial: o que acontece quando uma decisão tomada por um sistema automatizado produz efeitos discriminatórios?
Embora muitas dessas ferramentas sejam apresentadas como neutras, algoritmos são desenvolvidos, treinados e alimentados por dados produzidos por seres humanos. E, justamente por isso, podem reproduzir distorções, vieses históricos e padrões discriminatórios já existentes na sociedade.
É o que especialistas chamam de discriminação algorítmica: situações em que sistemas automatizados acabam produzindo exclusões, limitações ou tratamentos desiguais para determinados grupos, mesmo sem uma intenção discriminatória explícita.
No caso da população LGBTQIA+, esse debate ganha contornos ainda mais relevantes.
No Brasil, a homofobia e a transfobia foram equiparadas pelo Supremo Tribunal Federal aos crimes previstos na Lei nº 7.716/1989, que trata dos crimes resultantes de discriminação ou preconceito de raça, cor, etnia, religião ou procedência nacional. Isso significa que práticas discriminatórias motivadas por orientação sexual ou identidade de gênero podem gerar consequências jurídicas relevantes, inclusive nas esferas cível, administrativa e criminal.
Embora nem sempre seja simples identificar a origem de uma decisão automatizada, o fato de ela ter sido produzida por um sistema tecnológico não elimina a necessidade de controle nem afasta a responsabilidade de quem utiliza essa tecnologia.
Imagine, por exemplo, uma ferramenta de recrutamento baseada em inteligência artificial que aprenda, a partir de dados históricos, a priorizar determinados perfis profissionais. Sem mecanismos adequados de auditoria e revisão humana, o sistema pode acabar reproduzindo padrões de exclusão já presentes na base utilizada para seu treinamento.
Situações semelhantes podem surgir em sistemas de análise de crédito, moderação de conteúdo, reconhecimento facial, segmentação de campanhas ou plataformas digitais que utilizam processos automatizados para tomada de decisões.
O debate ganhou força nos últimos anos com a consolidação de diretrizes nacionais e internacionais voltadas à auditoria de vieses em sistemas preditivos. Órgãos de defesa dos direitos civis e o próprio Ministério Público têm intensificado o monitoramento sobre como bases de dados desatualizadas ou mal estruturadas podem perpetuar barreiras de acesso a oportunidades, produtos, serviços e relações de consumo para grupos historicamente minorizados.
Mais do que a tecnologia em si, o cenário evidencia uma preocupação crescente da sociedade: compreender de que forma sistemas de inteligência artificial corporativos devem ser supervisionados para não reproduzir práticas discriminatórias.
Esse cenário reforça uma pergunta que cada vez mais empresas precisarão responder: quem assume a responsabilidade quando uma ferramenta tecnológica produz um resultado discriminatório?
Do ponto de vista jurídico, a resposta tende a ser mais simples do que muitos imaginam.
Não basta alegar que a decisão foi tomada pelo sistema ou que a tecnologia foi fornecida por terceiros. Se a ferramenta integra a atividade empresarial e influencia a prestação de serviços, o relacionamento com consumidores ou a tomada de decisões corporativas, a empresa pode ser chamada a responder pelos danos causados.
No âmbito das relações de consumo, por exemplo, a responsabilização pode surgir quando sistemas automatizados geram bloqueios indevidos, recusas injustificadas, restrições de acesso a produtos, serviços ou campanhas, ou qualquer outra forma de tratamento desigual sem justificativa objetiva e verificável.
Da mesma forma, empresas podem enfrentar questionamentos quando utilizam ferramentas cujos critérios de funcionamento não são minimamente compreendidos, auditados ou supervisionados.
O desafio jurídico não está apenas no resultado final da decisão automatizada, mas também na ausência de transparência, governança e mecanismos de correção.
A terceirização da tecnologia não significa a terceirização da responsabilidade.
Sob a perspectiva do Direito Civil, a empresa pode responder não apenas por uma conduta discriminatória praticada diretamente por seus colaboradores, mas também por permitir que sistemas utilizados em sua operação produzam efeitos lesivos sem o devido controle.
Por essa razão, a discussão sobre inteligência artificial deixou de ser apenas um tema de inovação ou tecnologia.
Hoje, ela também é uma questão de gestão de risco.
Empresas que utilizam sistemas automatizados precisam ser capazes de compreender minimamente como essas ferramentas funcionam, quais critérios influenciam suas decisões e quais mecanismos existem para revisão humana de eventuais erros.
Isso passa pela revisão de contratos com fornecedores de tecnologia, realização de auditorias periódicas, criação de canais de contestação, manutenção de registros sobre decisões automatizadas e implementação de políticas de governança compatíveis com os riscos envolvidos.
A inteligência artificial pode trazer ganhos significativos de eficiência. Mas eficiência não elimina responsabilidade.
À medida que algoritmos passam a participar de decisões cada vez mais relevantes para consumidores, trabalhadores e usuários, cresce também a expectativa de que as empresas sejam capazes de explicar, supervisionar e corrigir os impactos produzidos por essas ferramentas.
No atual cenário regulatório e social, governança tecnológica deixou de ser apenas uma boa prática corporativa. Tornou-se uma medida essencial para reduzir riscos jurídicos, proteger reputações e assegurar que inovação e direitos fundamentais caminhem lado a lado.
Nenhum comentário:
Postar um comentário