Autoridades da China alertam para golpes que clonam vozes de familiares para extorquir dinheiro

A inteligência artificial está sendo utilizada para viabilizar esquemas de fraude financeira com lucros expressivos, variando desde a monetização de conteúdos sintéticos até golpes de engenharia social sofisticados. Na China, autoridades alertam para o uso de ferramentas capazes de clonar a voz de familiares e amigos a partir de apenas cinco segundos de áudio. Essa técnica é empregada para extorquir dinheiro de vítimas, com prejuízos que já atingiram a marca de 4,3 milhões de Yuan (cerca de 635 mil dólares).

Paralelamente aos crimes diretos, a tecnologia permite a geração de renda através da criação automatizada de músicas. Um usuário chinês consegue faturar até 100 mil Yuan mensais (aproximadamente 15 mil dólares) ao utilizar ferramentas de IA para compor faixas. O processo consiste em definir o tema por meio de uma foto, escolher o gênero musical e o estilo de canto para adicionar os vocais. O resultado, quase indistinguível de produções originais, é então publicado em plataformas de vídeos curtos e música para monetização.

A proliferação de conteúdos sintéticos também se manifesta em vídeos de longa duração, focados em temas como mitologia de "O Senhor dos Anéis", a história de Hogwarts ou a vida em castelos medievais. Essas produções combinam vozes relaxantes com informações de precisão questionável, impactando a qualidade do conhecimento transmitido.

A tendência de sofisticação desses ataques deve se intensificar com a popularização de dispositivos vestíveis, como óculos, pingentes e fones de ouvido integrados com IA, que ampliam os vetores de exposição e vulnerabilidade do capital e da segurança dos usuários.