Recentemente, a Anthropic revelou que seu modelo de IA, Claude, está sendo utilizado para automatizar ciberataques e vigilância em massa. Um operador de língua russa, conhecido como ‘JackPoterz’, mirou em mais de 20 organizações, incluindo ministérios governamentais e órgãos de inteligência, além de embaixadas e missões diplomáticas na Ucrânia e na Europa.
Além disso, operadores de língua chinesa também aproveitaram o Claude como uma camada de engenharia e orquestração para pesquisa de vulnerabilidades. Um dos fluxos de trabalho gerou mais de uma dúzia de possíveis descobertas de zero-day em firmware de dispositivos de rede em apenas um mês. Isso mostra como a IA está mudando a dinâmica dos ciberataques, permitindo que operadores individuais realizem invasões em apenas duas a três horas, lidando com dezenas de vítimas simultaneamente.
Em um caso separado, um consultor independente, provavelmente baseado em Bamako e trabalhando com o serviço de inteligência do Mali, utilizou o Claude como a principal força de engenharia para construir um sistema de vigilância doméstica em larga escala. Este sistema monitora cerca de 25 milhões de cartões SIM em todos os três operadores móveis nacionais do país. A plataforma implantada funcionou localmente, utilizando modelos locais, com o Claude fornecendo suporte em design de software e engenharia. O sistema foi projetado para gerar dossiês de inteligência sobre números de telefone sem a necessidade de uma ordem judicial.
Esses desenvolvimentos ressaltam a importância de se manter atento às inovações em IA e suas aplicações, tanto positivas quanto negativas, no cenário global de segurança cibernética.
