Tecnologia Anúncios fraudulentos com “deepfakes” inundam redes sociais
Por Redação O Sul | 5 de maio de 2024
Em um vídeo impulsionado nas redes sociais, a imagem de uma das maiores vozes da música brasileira, em uma suposta entrevista, abre sua intimidade e revela problemas sexuais para, no fim, sugerir um tratamento contra disfunção erétil. “Me senti um garoto de 18 anos”, propaga o vídeo adulterado de Roberto Carlos. Produtos similares são vendidos também com rostos falsos do cantor Solimões, do jogador Ronaldo e do médico Drauzio Varella, entre outros.
Em outro anúncio, um cantor de funk com mais de 13,9 milhões de seguidores indica uma forma rápida e fácil de ganhar dinheiro: “O que vira agora é o Subway Money”, diz, supostamente, MC Ryan. Mas a imagem é falsa.
De promessas de um jogo que pode deixar o apostador milionário a anúncios de remédios milagrosos para calvície, disfunção erétil e rugas, casos de simulações realistas geradas por inteligência artificial (IA) começam a chegar à Justiça brasileira. E mostram como as redes sociais falham para identificá-los e tirá-los do ar.
De um lado, os “clones” de IA servem de isca para usuários das redes sociais. Do outro, figuras públicas veem suas imagens e vozes usadas indiscriminadamente para vender produtos e serviços. O material fruto da “réplica” de rostos é chamado de deepfake, um fenômeno que não é novo, mas ganhou impulso com a popularização de ferramentas de IA generativa, capazes de criar conteúdo.
Algoritmos
Na plataforma de anúncios da Meta, dona de Instagram, WhatsApp e Facebook, há no mínimo 130 resultados de postagens pagas do jogo Subway Money, que promete aos jogadores dinheiro na hora, “sem burocracia e sem taxas.” Ao menos desde dezembro do ano passado, essas postagens exibem deepfakes de pessoas conhecidas, como a influenciadora Virgínia e a atriz Mel Maia, além de MC Ryan. Mantidas no ar, elas engordam a receita da Meta.
Vídeos similares circulam também no TikTok.
Enquanto os anúncios de jogos apostam nos rostos de figuras conhecidas entre os jovens, as propagandas de medicamentos e tratamentos médicos recorrem a imagens de pessoas com apelo para todas as gerações. Em vídeos curtos, deepfakes de Drauzio Varella, Ana Maria Braga, Susana Vieira, Paolla Oliveira e Eliana vendem segredos de “uma cápsula rosa milagrosa” para a juventude. Todos têm vozes recriadas digitalmente.
Os materiais costumam ser curtos, de 30 segundos a um minuto. E trazem mensagens apelativas: “Quase perdeu seu casamento”, “O segredo de artistas para eliminar flacidez, rugas e muito mais!”
Anúncios impulsionados
Ao driblar os sistemas de segurança das redes, os anúncios impulsionados que propagam deepfakes se tornam ainda mais potentes. Isso porque as plataformas de monetização usam dados pessoais e de navegação dos usuários para, com os algoritmos, segmentar o público e maximizar a probabilidade de que uma pessoa clique em determinada postagem, explica Fernando Ferreira, doutor em inteligência computacional e pesquisador do NetLab da UFRJ:
“Quando estamos falando de propagandas idôneas, isso auxilia empresas a encontrarem seu público-alvo. O problema é que golpistas também utilizam tais ferramentas.”
Ferreira lembra ainda que os fraudadores costumam usar contas e sites temporários para dificultar o rastreamento. As fraudes envolvem ainda a venda de cursos e materiais que não existem e a divulgação de sites de e-commerce falsos, diz o pesquisador.
João Finamor, professor de marketing digital da ESPM, diz que o fenômeno ganhou amplitude em plataformas menos reguladas. Enquanto a Meta permite mapear anúncios ativos, o X (antigo Twitter) e o TikTok não dão essa possibilidade. Ele ainda alerta que esses conteúdos são disseminados em grupos de aplicativos de mensagem.
Em suas próprias redes sociais, alguns “clonados” alertam para o conteúdo falso. Mas, diante das falhas das plataformas em derrubar os materiais, há quem vá aos tribunais.
Em abril, o podcaster e youtuber Igor Rodrigues Coelho, o Igor 3K, do Flow Podcast, obteve na Justiça uma decisão favorável contra o Facebook para que fossem removidos, sob pena de multa, deepfakes em que ele supostamente aparecia anunciando um serviço financeiro fraudulento. A decisão de Ana Paula Mezzina Furlan, da 1º Vara do Juizado Especial Cível de São Paulo, reconheceu a falha da plataforma.
No processo, os advogados explicam que o apresentador tentou contato pelos meios oficiais do Facebook, sem sucesso. Ele recorreu à Justiça por temer danos a sua imagem e golpes contra usuários do Flow.
Responsabilidade
Pelo Marco Civil da Internet, as redes sociais estão protegidas de serem responsabilizadas por propagarem conteúdo de terceiros — incluindo deepfakes, que são iscas de golpe. O artigo 19 especifica que os provedores só podem ser responsabilizados civilmente (com multas ou indenizações) se, após ordem judicial clara e específica, não removerem ou bloquearem o conteúdo ilegal no prazo estipulado.
Desde 2021, o Código Penal considera mais grave a pena de estelionato (crime de enganar alguém para obter vantagem financeira ou material, mediante fraude ou falsificação) quando aplicado em ambiente digital.
Drauzio Varella move, desde dezembro de 2023, uma ação civil contra o Facebook, na qual pede dados de registro que ajudem a identificar os indivíduos ou grupos que disseminam deepfakes. Na ação, os advogados ressaltam que os golpes podem configurar crimes contra a saúde pública, pois envolvem medicamentos.
O médico também apresentou, em abril, denúncia contra a Meta no Ministério Público de São Paulo, com o argumento de que a empresa também tem responsabilidade, por permitir a veiculação de anúncios.
Deixe seu comentário
Últimas
Porto Alegre Mutirão em Porto Alegre retira 90 toneladas de resíduos em limpeza de ruas já secas no bairro Sarandi
Rio Grande do Sul Avião da Força Aérea Brasileira leva 20 toneladas de ração para animais no Rio Grande do Sul
Rio Grande do Sul Governo do RS vistoria obras de recuperação na ERS-129, entre Colinas e Roca Sales
Rio Grande do Sul Saiba onde pedir 2ª via de certidões perdidas nas enchentes
Rio Grande do Sul Governo gaúcho firma acordo para assistência a animais resgatados
