Uma quadrilha está utilizando inteligência artificial para adulterar vídeos que circulam nas redes sociais, com o objetivo de aplicar golpes e pedir doações para projetos sociais que não existem. Esses vídeos alterados aparecem em anúncios do YouTube em diversas partes do Brasil.
Exemplo de anúncio no YouTube:
Entre os projetos que os criminosos estão utilizando para enganar as vítimas, destaca-se a Casa Francisco de Assis, uma antiga instituição de caridade que hoje não está mais em funcionamento, já que seu Cadastro Nacional de Pessoa Jurídica (CNPJ) foi baixado.
Os vídeos manipulados são armazenados numa conta do YouTube chamada Casa São Francisco de Assis, onde os golpistas realizam suas publicações.
Como age a quadrilha?
- Os criminosos pegam vídeos de contas de projetos sociais, que variam de instituições de caridade a figuras públicas, alterando a voz e a fala utilizando tecnologia de IA;
- Nos vídeos, eles pedem dinheiro para causas diversas, como lares de idosos, crianças em situação de vulnerabilidade, pessoas passando fome e ONGs de animais.
Uma das vítimas desse golpe é a professora Katya Lichtnow, criadora da Escola de Cuidados ISS, que atua no Brasil e em Portugal há seis anos, capacitando cuidadores de idosos. Katya descobriu que um de seus vídeos, originalmente postado no Instagram, foi adulterado pelos golpistas. Nele, Katya aparece com a fala distorcida, solicitando dinheiro para uma instituição que não existe, enquanto o vídeo original abordava um tema completamente diferente.
Vídeo Alterado com IA
Vídeo Original postado por Katya
Katya teve conhecimento do vídeo falso há cerca de 10 dias, após uma amiga avisá-la. Apesar de registrar um boletim de ocorrência e denunciar o conteúdo na plataforma, o vídeo continua disponível. Ela expressou sua frustração, afirmando que esses golpistas podem já ter arrecadado uma quantia significativa antes que a situação seja resolvida.
Katya adverte os internautas a ficarem atentos e a não doarem dinheiro a instituições desconhecidas. Ela também recomenda sempre tentar entrar em contato diretamente com os responsáveis pelos projetos para validar a autenticidade das doações.
Segundo ela, o golpe parece atingir principalmente pessoas mais velhas, que podem não ter tanta familiaridade com tecnologia. “Muitas pessoas vulneráveis acabam acreditando ser uma causa nobre e doam,” alerta Katya.
Centenas de vítimas de golpes online
Ainda não há um número exato de pessoas que podem ter sido enganadas, mas centenas de usuários já reclamaram nos comentários da conta dos criminosos, pedindo que mais pessoas denunciassem os vídeos. Além disso, os golpistas criaram uma conta no Instagram com mais de 50 mil seguidores, suspeita-se que comprando seguidores para dar mais credibilidade ao perfil, visto que as postagens apresentam baixo engajamento.
Posição do YouTube
Representantes do YouTube Brasil afirmaram que conduziram uma análise detalhada e removeram os conteúdos que violavam as diretrizes da plataforma. Em nota, a empresa destacou que “não permite spam, golpes ou práticas enganosas que explorem os usuários.”
A empresa também enfatizou que “não permite conteúdo cujo objetivo principal é induzir pessoas a deixar o YouTube para acessar outros sites, removendo esse tipo de material rapidamente.”
Identificação e prevenção de golpes
De acordo com a Polícia Civil do Distrito Federal, a produção não autorizada de fotos ou vídeos por meio de IA para fins criminosos aumentou de 21 casos em 2023 para 48 em 2024, marcando um crescimento de 128%. Essa tendência é atribuída à popularização da tecnologia.
O delegado Eduardo Del Fabbro, da Delegacia de Repressão aos Crimes Cibernéticos, aponta que as fraudes estão se tornando mais complexas. Sinais como olhares fixos e movimentos labiais desarticulados podem indicar vídeos manipulados. “O movimento da boca pode não coincidir com o que a pessoa está dizendo,” explica o delegado.
O professor Alisson Possa, especialista em direito digital, aconselha sempre confirmar a veracidade da informação através de canais alternativos. “Ligue para a pessoa ou converse por aplicativos que garantam a identidade do contato,” sugere.
A advogada Manuela Menezes Silva, da OAB de São Paulo, relata casos em que golpistas usam chamadas de vídeo com deepfakes direcionadas a pessoas idosas, buscando arrecadar dinheiro. Ela alerta para a importância de sempre desconfiar de chamadas urgentes e sugere criar um código que apenas amigos ou familiares conheçam.
Manuela acrescenta que notar que a boca de uma pessoa não se move de forma natural em um vídeo pode ser um sinal de alerta sobre a utilização de IA.
Facebook Comments