Seedance 2.0: Vídeos falsos gerados pela IA se espalham rapidamente pela internet, enganando milhões de usuários

O avanço da inteligência artificial (IA) está transformando a forma como consumimos informações na internet. A recente lançada do Seedance 2.0 e outros modelos semelhantes estão criando conteúdo de alta qualidade, mas também abrindo brechas para desinformação e manipulação.

Empresas líderes da tecnologia, como Google, Kuaishou e Meta, estão lucrativas com a produção de vídeos gerados por IA. No entanto, não têm feito o suficiente para combater o problema que criaram. É hora de questionar tudo o que vemos na internet.

A capacidade da IA em processar informações é impressionante. O Seedance 2.0 pode processar até uma dúzia de arquivos de referência e sintetizar realidades alternativas convincentes para qualquer pessoa acreditar. Isso significa que, por alguns centavos, podemos entregar as chaves da realidade a indivíduos mal-intencionados.

A indústria da informática está tentando conter o desastre com iniciativas de autenticidade de conteúdo, mas essas ainda não existem. Enquanto isso, os vídeos falsos se espalham pela internet e as pessoas são enganadas sem problemas.

Um exemplo disso foi a captura do líder venezuelano Nicolás Maduro pelas forças especiais americanas em janeiro. Embora o Seedance 2.0 não existisse na época, imagens geradas por IA de Maduro sob custódia ou multidões celebrando acumularam milhões de visualizações em poucas horas.

A analista Tal Hagin afirma que "já não estamos na fase de falta de seis meses, já estamos lá: incapazes de identificar o que é IA e o que não é". É hora de educar as pessoas para questionarem tudo o que veem na internet. A desinformação pode ter consequências graves, incluindo danos à reputação ou economia das vítimas.

É importante lembrar que a realidade se desfaz quando substituída por uma fabricada. Todo mundo sofre com isso e há milhões de pessoas cuja reputação ou economia podem ser arruinadas. Além disso, haverá mortes em casos de desinformação extremamente graves.

A questão é: será que estamos preparados para lidar com essas consequências? É hora de exigir uma campanha pública mundial contra a desinformação gerada por IA e educar as pessoas sobre como questionarem o conteúdo que veem na internet.