China e Irã usam IA para espionagem, alerta Anthropic

Anthropic interrompe operações de vigilância com IA

A empresa de inteligência artificial Anthropic divulgou nesta semana um relatório revelando que encerrou várias campanhas de vigilância patrocinadas por Estados que utilizavam seus modelos de IA para espionagem. O documento apresenta evidências de que governos e atores alinhados a eles recorrem progressivamente à inteligência artificial para monitorar minorias, dissidentes e opositores políticos em diferentes regiões do mundo.

Os incidentes de IA para espionagem foram identificados em operações originadas na China, Irã e África Ocidental, sendo detectados e interrompidos entre janeiro e julho deste ano. A Anthropic reforça em seu relatório que essas campanhas de vigilância tinham como foco específico comunidades que historicamente sofrem perseguição pelos regimes envolvidos.

Principais grupos-alvo das campanhas de vigilância

De acordo com a análise da Anthropic, as operações de IA para espionagem visavam ativistas pró-democracia de Hong Kong, comunidades tibetanas, minorias étnicas e opositores do regime iraniano que residem no exterior. Essas campanhas representam uma evolução preocupante no uso de tecnologia de inteligência artificial para fins repressivos.

Um caso específico envolveu iranianos que desenvolveram um método sofisticado para identificar pessoas por meio de suas contas em redes sociais, utilizando os modelos de IA da empresa. Essa técnica demonstra como a inteligência artificial pode ser instrumentalizada para localizar e potencialmente prejudicar dissidentes.

Operações na África Ocidental e destilação de dados

Na África Ocidental, um contratado que trabalhava para as autoridades de segurança nacional do Mali utilizou o Claude, modelo de IA da Anthropic, para projetar software que permitiu a coleta de inteligência. Esse caso ilustra como a inteligência artificial é implementada em infraestruturas de vigilância governamental em diferentes continentes.

A Anthropic também acusou desenvolvedores chineses de utilizarem o Claude de forma desonesta. Segundo a empresa, esses desenvolvedores geravam respostas a consultas de usuários enquanto simultaneamente "destilavam" os dados para aprimorar seus próprios modelos de inteligência artificial. A destilação refere-se a um processo técnico no qual um modelo de IA é utilizado para treinar outro, prática que estava sendo executada sem autorização.

Bloqueios de uso indevido e pesquisas biológicas

Além das campanhas de vigilância, a Anthropic bloqueou múltiplas tentativas de usuários que buscavam desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e criar esquemas de golpes românticos online. Esses bloqueios evidenciam a necessidade contínua de monitoramento de IA para espionagem e atividades ilícitas.

Em relação às pesquisas ligadas a armas biológicas que a empresa detectou e bloqueou, a intencionalidade dos envolvidos permanecia menos evidente. A Anthropic optou por não identificar os indivíduos, reconhecendo que "as pessoas envolvidas nesses estudos de caso são cientistas" e que "identificá-las ou identificar seus laboratórios poderia expô-las a riscos".

Focos de pesquisa biológica detectados

Os estudos bloqueados concentravam-se em pesquisas relacionadas ao vírus chikungunya, transmitido por mosquitos, a uma cepa "altamente patogênica" de gripe aviária, a uma família de vírus que inclui a varíola e o mpox, além de estudos sobre venenos e outras toxinas. Essas áreas de pesquisa despertaram preocupação sobre possíveis aplicações prejudiciais.

Contexto global de segurança em IA

O relatório da Anthropic reflete uma tendência internacional crescente de Estados buscarem explorar tecnologias de inteligência artificial para fins de vigilância e controle. A detecção e interrupção dessas campanhas sublinha a importância de empresas de IA manterem vigilância constante sobre seus sistemas e usuários, prevenindo IA para espionagem e outras aplicações malévolas.

A ação da empresa sediada em San Francisco representa um passo importante na responsabilização das plataformas de inteligência artificial, demonstrando que há mecanismos de detecção capazes de identificar e bloquear operações sofisticadas de vigilância. No entanto, a contínua inovação em técnicas de abuso sugere que a segurança em IA permanece um desafio permanente para a indústria.