Sam Altman alertou recentemente que fraudes impulsionadas por inteligência artificial estão chegando “muito em breve” e que isso vai comprometer os sistemas que usamos para verificar identidades. Mas isso já está acontecendo – e não se limita aos bancos. Está afetando todas as áreas do governo americano neste exato momento.
Semanalmente, fraudes geradas por IA desviam milhões de dólares de programas de assistência pública, fundos de ajuda a desastres e programas de seguro-desemprego. Redes criminosas já utilizam deepfakes, identidades sintéticas e modelos de linguagem avançados para ultrapassar defesas contra fraudes que estão ultrapassadas, incluindo ferramentas de camada única facilmente enganáveis, como reconhecimento facial (e estão vencendo).
Vimos um prenúncio disso durante a pandemia, quando quadrilhas exploraram falhas nos sistemas estaduais para roubar centenas de bilhões em benefícios de desemprego. Não era apenas gente usando máscaras para burlar reconhecimento facial. Eram identidades falsas geradas por IA, clones de voz e documentos forjados sobrecarregando sistemas que nunca foram projetados para detectar essas ameaças. Hoje, essas táticas estão ainda mais sofisticadas e totalmente automatizadas.
Sou Haywood Talcove, CEO da LexisNexis Risk Solutions. Trabalho com mais de 9 mil agências em todo o país. Como testemunhei nesta audiência e nesta outra perante a Câmara dos Deputados dos EUA neste ano, o que vemos em campo é claro: a fraude está mais rápida, barata e escalável do que nunca. Grupos de crime organizado, nacionais e internacionais, usam IA generativa para imitar identidades, gerar documentos sintéticos e inundar nossos sistemas com pedidos fraudulentos. Eles não estão apenas roubando do governo. Estão roubando do povo americano.
O inspetor-geral da Administração de Pequenos Negócios (SBA) estima agora que quase US$ 200 bilhões foram roubados dos programas de seguro-desemprego durante a pandemia, uma das maiores perdas por fraude da história dos EUA. Programas como Medicaid, Receita Federal (IRS), TANF, CHIP e auxílio a desastres enfrentam vulnerabilidades semelhantes.
Também vimos isso de perto em nosso trabalho com o Serviço Secreto dos EUA protegendo o programa SNAP do Departamento de Agricultura, que se tornou um verdadeiro “banquete” para fraudadores, com bilhões sendo roubados mensalmente em todo o país. Em apenas um dia, usando IA, uma quadrilha pode registrar dezenas de milhares de pedidos falsos em diversos estados, a maioria processada automaticamente, a menos que haja um alerta.
Chegamos a um ponto de inflexão. À medida que a IA evolui, a escala e a sofisticação desses ataques crescerão rapidamente. Assim como a Lei de Moore previa que o poder de processamento dobraria a cada dois anos, hoje vivemos uma nova forma de crescimento exponencial. Gordon Moore, cofundador da Intel, descreveu essa tendência em 1965, e ela guiou décadas de inovação. Acredito que logo reconheceremos um princípio similar para a IA, que chamo de “Lei de Altman”: a cada 180 dias, as capacidades da IA dobram.
Se não modernizarmos nossas defesas na mesma velocidade dos avanços tecnológicos, estaremos permanentemente em desvantagem. O que precisamos com urgência são ferramentas e infraestruturas mais inteligentes, e não mais burocracia.
Isso significa aplicar camadas de verificação de identidade mais avançadas, e não apenas escaneamento facial ou senhas. Significa usar dados em tempo real, análises comportamentais e ferramentas interjurisdicionais capazes de detectar anomalias antes que o dinheiro seja liberado. Também significa ressuscitar o que já funcionou: ferramentas como o National Accuracy Clearinghouse, que detectava bilhões de dólares em benefícios duplicados cruzando dados entre os estados, até ser desativado.
A IA é um multiplicador de forças, mas pode ser armada com mais facilidade do que utilizada para proteção. No momento, os criminosos a utilizam melhor do que nós. Até que isso mude, nossos sistemas mais vulneráveis, e as pessoas que dependem deles, continuarão expostos.
