IA ameaça autonomia humana sem regulação imediata, alerta Nobel

IA e o risco à autonomia humana

A inteligência artificial representa uma ameaça significativa à autonomia humana caso não sejam implementadas regulações adequadas nos próximos anos, segundo advertência feita por Maria Ressa, ganhadora do Prêmio Nobel da Paz em 2021. A jornalista e ativista digital enfatiza que a inteligência artificial já ultrapassou limites críticos e exige ação imediata de governos e cidadãos para evitar perda de controle sobre essa tecnologia.

Ressa, que atualmente atua como copresidente do painel científico internacional da ONU dedicado ao estudo da inteligência artificial, trouxe perspectivas alarmantes sobre como essa tecnologia tem transformado a vida das pessoas globalmente. Durante participação em conferência realizada em Oslo sobre ameaças às democracias modernas, a cofundadora do site de notícias Rappler ressaltou que a inteligência artificial não é apenas uma questão tecnológica, mas um assunto crítico de segurança pública que demanda regulação urgente.

O ciclo evolutivo da inteligência artificial

De acordo com Ressa, a inteligência artificial passou por três ondas distintas que chegaram ao conhecimento público, cada uma mais sofisticada que a anterior. A primeira onda foi marcada pelo surgimento das redes sociais, que capturaram atenção massiva de usuários ao redor do mundo, aprofundaram divisões políticas e contribuíram para o isolamento social das pessoas.

A segunda fase da inteligência artificial envolveu o desenvolvimento de tecnologias capazes de explorar aspectos profundos da biologia humana, especialmente através de ferramentas como chatbots que simulam intimidade e conexão pessoal. Esses sistemas foram projetados para se aproveitar das necessidades psicológicas humanas de forma cada vez mais sofisticada.

A terceira onda representa o passo mais preocupante: a chamada inteligência artificial agentiva e multiagentiva. Esses modelos avançados conseguem não apenas simular comportamentos humanos com precisão impressionante, mas também executar ações de forma autônoma em substituição ao ser humano. Essa capacidade de agir independentemente marca um ponto de inflexão crítico que Ressa identifica como momento decisivo para a regulação.

Pressão por regulamentação como medida de segurança

Ressa é enfática ao afirmar que solicitar regulamentação da inteligência artificial não é questão de liberdade de expressão, mas sim de segurança pública fundamental. Em declarações à Reuters durante sua visita a Oslo, a ativista digitou com convicção: "Acho que estamos naquele momento em que, se isso não acontecer, vamos perder o controle. A situação ficará fora do nosso alcance se não agirmos agora".

Segundo sua análise, os cidadãos devem pressionar políticos e autoridades competentes para aprovar marcos regulatórios que limitem o avanço desenfreado da inteligência artificial. Ressa defende uma abordagem baseada em responsabilização das grandes empresas tecnológicas pelos danos que suas plataformas e sistemas causam às sociedades.

Argumentos contra a regulação e resposta crítica

Alguns críticos importantes, incluindo o presidente dos Estados Unidos Donald Trump, rejeitam apelos por regulamentação mais rigorosa da inteligência artificial sob o argumento de que isso prejudicaria a competição tecnológica com a China. Ressa, contudo, classificou esse argumento como uma estratégia eficaz de relações públicas que não reflete a realidade.

A ativista apontou que a China na verdade implementa salvaguardas mais robustas para seus cidadãos do que empresas do Vale do Silício aplicam globalmente. Como exemplo concreto, ela citou que a versão chinesa do TikTok possui restrições significativas de idade para usuários menores, demonstrando que regulação e competitividade tecnológica não são necessariamente excludentes.

Responsabilização de grandes empresas tecnológicas

Ressa defende que o primeiro passo essencial para promover mudanças estruturais é fazer com que as grandes corporações tecnológicas sejam responsabilizadas pelos danos causados por suas plataformas e sistemas. Ela elogiou especificamente as ações judiciais nos Estados Unidos que resultaram em Meta concordar em pagar até 18 bilhões de dólares ao longo da próxima década e implementar restrições severas ao uso do Facebook e Instagram por adolescentes.

Além disso, Ressa reconheceu positivamente as medidas implementadas pela União Europeia e por países como Austrália para estabelecer limites de idade nas redes sociais. No entanto, alertou que essas restrições não resolvem a questão fundamental de que as ferramentas desenvolvidas pela indústria tecnológica geram dependência também entre adultos, não apenas entre jovens usuários.

Solução: plataformas de interesse público

Para enfrentar o problema estrutural da inteligência artificial e seu controle por grandes corporações, Ressa propõe a criação de plataformas de comunicação desenvolvidas por grupos de interesse público e completamente fora do domínio das mega empresas tecnológicas. Seu modelo se baseia na ideia de que governos investem em bens públicos como parques e praças, portanto deveriam fazer o mesmo com infraestrutura digital crítica.

Como exemplo prático dessa visão, Ressa citou o lançamento do Rappler Communities em 2023. Baseado no protocolo aberto, seguro e descentralizado Matrix, essa plataforma permitiu que a redação do Rappler se conectasse diretamente aos leitores, enquanto os próprios leitores interagiam entre si para realizar "conversas reais" sem intermediários corporativos.

O projeto foi expandido, convidando outros veículos de comunicação das Filipinas a participarem da iniciativa, e agora está se expandindo para outros países do Sudeste Asiático. Ressa descreve esse espaço como um lugar onde "as pessoas podem se sentir seguras no ambiente digital, onde podem conversar umas com as outras e, mais importante ainda, ouvir umas às outras para que a grande obra da democracia se concretize".

Reflexões finais sobre futuro democrático

A mensagem central de Maria Ressa é clara: o momento para agir sobre regulação da inteligência artificial é agora, antes que a tecnologia escape completamente do controle humano. Sua experiência como jornalista que documentou o poder das corporações tecnológicas durante o reconhecimento do Nobel da Paz fornece credibilidade e urgência a seus alertas sobre os riscos à autonomia humana.