Quem Controla os Controladores?

 

IA:QUEM CONTROLA OSCONTROLADORES?

Por Rick Schwartz

Durante décadas, o conceito de inteligência artificial foi tratado como ficção e permeava nossa sociedade sob o prisma do imaginário. Hoje, em um salto de 4 anos, ela está silenciosamente incorporada ao cotidiano de toda a humanidade.

Algoritmos determinam o que vemos nas redes sociais, quais notícias chegam até nós, que músicas ouvimos e até mesmo quando alguém solicita um carro por aplicativo; o algoritmo decide com base em probabilidade de aceitação, tempo estimado e histórico de desempenho.

Eles não possuem consciência, mas possuem algo igualmente útil e poderoso: a capacidade analítica de prever o nosso comportamento. Quando abrimos as redes sociais, não estamos navegando em um espaço neutro, estamos atravessando um filtro algorítmico que prioriza conteúdos com maior probabilidade de manter nossa atenção na tela. O que é apresentado como uma grande vantagem, carrega um efeito social mais complexo do que parece.

O algoritmo aprende nossas preferências, muitas das quais estão relacionadas ao nosso perfil psicológico e biológico. Nesse campo estão as nossas inclinações políticas, nossos problemas de saúde e fragilidades emocionais. Toda essa espiral de informações passa a reforçar padrões.

No mercado global, sistemas de IA já participam de decisões financeiras. Plataformas como a Amazon ajustam preços dinamicamente conforme demanda, localização e perfil de consumo.

Em 2018, no campo político, veio à tona o caso da Cambridge Analytica, que utilizou dados do Facebook para influenciar campanhas políticas, evidenciando como informações coletadas por meio das redes sociais podem ser usadas para segmentar mensagens eleitorais. O dado se tornou insumo de estratégia e micro direcionamento de massas.

Outro exemplo são as chamadas Big Techs, que concentram a capacidade de processamento e armazenamento de dados. Empresas como Meta, Google, Amazon e Microsoft monopolizam a controladoria de serviços essenciais: busca, nuvem, comunicação, armazenamento e publicidade.

A inteligência artificial é absoluta no gerenciamento em larga escala: quanto mais preciso, maior a vantagem competitiva. A discussão atual não é sobre máquinas conscientes dominando o mundo. É sobre sistemas automatizados influenciando decisões humanas globalmente. E a grande reflexão que fica é: quem faz a regulação desses sistemas? Como proteger a privacidade e a autonomia individual? As leis referentes à IA que já vemos implementadas na União Europeia são suficientes?

O futuro aponta para sistemas cada vez mais integrados à estrutura social e eficientes, porém, invisíveis e difíceis de auditar. A tecnologia seguirá evoluindo e essa vigilância velada se enraizando cada vez mais nos dispositivos do dia a dia.

Vivemos um momento histórico em que a inteligência artificial não é mais hipótese distante e aqueles que detêm os dados, detêm capacidade de influenciar, modelar e definir o comportamento coletivo. A pergunta não é se a IA controla. A pergunta é: quem controla a IA? E, sobretudo, quem controla os controladores?

(*) é entusiasta da área de tecnologia, escritor e autor do livro “Future Rising: A Sétima Máquina”, ficção científica de atmosfera cyberpunk que aborda IA, poder algorítmico e os limites do livre-arbítrio humano

Ilustração: Jornal Expoente.