IA ameaça autonomia da humanidade sem regulação imediata

Alerta sobre o futuro da autonomia humana

A inteligência artificial representa uma ameaça iminente à autonomia da humanidade se não forem implementadas regulamentações rigorosas nos próximos anos. Este é o posicionamento de Maria Ressa, ganhadora do Prêmio Nobel da Paz em 2021, que ocupa a posição de copresidente do painel científico internacional da ONU dedicado ao estudo da inteligência artificial. A especialista enfatiza que a regulação da inteligência artificial não é uma questão de liberdade de expressão, mas de segurança pública fundamental.

Ressa, jornalista filipina-americana reconhecida por seu trabalho investigativo sobre o poder das grandes corporações tecnológicas, adverte que o mundo encontra-se em um ponto crítico. Segundo ela, caso nenhuma ação concreta seja tomada agora, a humanidade perderá o controle sobre as implicações dessa tecnologia, comprometendo irreversivelmente a capacidade de autodeterminação das pessoas.

As três fases evolutivas da inteligência artificial

Durante uma conferência realizada em Oslo sobre ameaças às democracias contemporâneas, Ressa apresentou uma análise inovadora sobre como a inteligência artificial evoluiu em três ondas distintas. Ela destaca que essa tecnologia não é recente, existindo há aproximadamente sete décadas, mas apenas nos últimos anos alcançou visibilidade massiva junto ao público geral.

Primeira onda: redes sociais e polarização

A primeira fase foi caracterizada pelo surgimento das plataformas de redes sociais, que conseguiram capturar e manter a atenção dos usuários de forma sem precedentes. Esses ambientes digitais aprofundaram a polarização social, fragmentaram comunidades e contribuíram para o isolamento psicológico das pessoas, mesmo durante períodos de conectividade digital constante.

Segunda onda: manipulação biológica através de chatbots

A segunda onda envolveu o desenvolvimento de tecnologias capazes de manipular aspectos fundamentais da biologia humana. Por meio de chatbots e sistemas conversacionais, essas ferramentas exploram a necessidade humana de conexão e intimidade, criando dependências comportamentais sofisticadas que afetam tanto adolescentes quanto adultos.

Terceira onda: inteligência agentiva autônoma

A terceira e mais preocupante fase refere-se ao surgimento da chamada inteligência artificial agentiva e multiagentiva. Esses modelos avançados transcendem a simples simulação de comportamentos humanos, possuindo a capacidade de atuar independentemente em nome das pessoas, tomando decisões e executando ações sem supervisão direta.

Desafios políticos e obstáculos à regulação

Um dos principais entraves para a implementação de regulação da inteligência artificial provém de líderes políticos que temem que controles mais rigorosos prejudiquem a competição tecnológica com nações rivais, particularmente a China. O presidente norte-americano Donald Trump representa uma voz proeminente nessa posição. Ressa classifica esse argumento como uma estratégia eficaz de relações públicas, mas fundamentalmente equivocada.

De acordo com a análise de Ressa, a China implementa salvaguardas mais robustas para proteger seus cidadãos do que as corporações do Vale do Silício oferecem ao restante da população mundial. Um exemplo concreto é a versão chinesa do TikTok, que incorpora restrições de idade muito mais rigorosas em comparação com a versão global disponível para usuários ocidentais.

Responsabilidade corporativa e ações judiciais

Ressa defende que o primeiro passo essencial para promover transformações significativas é estabelecer responsabilidade clara das grandes empresas tecnológicas pelos danos que causaram. Ela celebra as ações judiciais nos Estados Unidos que resultaram em condenações substanciais, como o acordo que obriga a Meta a desembolsar até dezoito bilhões de dólares ao longo da próxima década e implementar restrições significativas no acesso de adolescentes ao Facebook e Instagram.

Essas medidas judiciais representam um precedente importante para futuras regulamentações, estabelecendo que as corporações tecnológicas podem ser responsabilizadas por prejuízos públicos causados por suas plataformas.

Medidas de proteção e limitações atuais

A ganhadora do Nobel elogia as iniciativas implementadas pela União Europeia e por países como Austrália no estabelecimento de limites de idade para acesso a redes sociais. Contudo, ela aponta uma falha fundamental nessas abordagens: essas medidas protegem principalmente menores de idade, ignorando que os recursos que geram dependência também afetam significativamente a população adulta.

Ressa argumenta que as plataformas deveriam eliminar completamente os recursos que criam dependência psicológica, não apenas para adolescentes, mas para todos os usuários. Ela ressalta que a manipulação política não se restringe aos jovens; adultos em todo o mundo também sofrem influência sistemática através dessas ferramentas digitais.

Soluções através de plataformas públicas alternativas

Na perspectiva de Ressa, uma solução viável envolve a criação de plataformas de comunicação desenvolvidas por organizações sem fins lucrativos e entidades de interesse público, totalmente fora do controle das megacorporações tecnológicas. Esse modelo seguiria o precedente estabelecido pelos governos ao investirem em infraestrutura pública, como parques, praças e bibliotecas.

Um exemplo prático dessa abordagem é o Rappler Communities, lançado em 2023. Fundamentado no protocolo descentralizado e seguro Matrix, essa plataforma permitiu que a redação do Rappler estabelecesse conexão direta com seus leitores, criando espaços onde os usuários pudessem interagir entre si de forma autêntica e segura, fomentando o que Ressa chama de "conversas reais".

O projeto evoluiu para uma iniciativa colaborativa envolvendo diversos veículos de comunicação das Filipinas, com planos de expansão para outros países do Sudeste Asiático. Essa abordagem cria ambientes digitais onde as pessoas possam se sentir seguras, conversar umas com as outras e, fundamentalmente, ouvir perspectivas diferentes, elementos essenciais para o funcionamento genuíno da democracia contemporânea.

O chamado urgente para ação

O apelo de Ressa é claro e imediato: a regulação da inteligência artificial não deve ser adiada. A janela de oportunidade para estabelecer controles efetivos está fechando rapidamente. Sem intervenção decisiva de legisladores, autoridades públicas e cidadãos organizados, a autonomia humana será progressivamente comprometida por sistemas que escapam ao controle democrático e se concentram nas mãos de corporações privadas não prestáveis de contas à população.