Tudo sobre Inteligência Artificial
A inteligência artificial é um tema quente, trazendo muitos benefícios para usuários e empresas. No entanto, ela também abre portas para práticas duvidosas. Uma reportagem do The New York Times revela que muitas empresas estão enfrentando fraudes internas, com funcionários criando recibos de despesas falsos utilizando modelos de IA.
Essa situação se agravou a tal ponto que as companhias estão se adaptando, implementando novos sistemas para identificar recibos produzidos por chatbots de IA, como o ChatGPT e o Gemini.
Fraude causada pela IA, mas não por culpa dela
O problema começou logo após o surgimento de ferramentas que conseguem criar imagens realistas. Anant Kale, CEO da AppZen, comentou que viu diversos tutoriais nas redes sociais ensinando a fazer recibos falsos, o que tornou o processo surpreendentemente fácil.
Diante disso, sua empresa, que audita relatórios de despesas corporativas, passou a desenvolver ferramentas específicas para detectar esses recibos criados por IA. Outras plataformas, como a SAP Concur, também estão seguindo essa iniciativa.
Os recibos gerados por IA só vão melhorar, e [por isso] precisamos usar a inteligência artificial para combater a IA fraudulenta.
Nicolas Ritz, desenvolvedor de produtos na Navan, ao The New York Times.
A AppZen tem encontrado casos onde funcionários enviaram recibos de hotéis e passagens aéreas para cidades que nunca visitaram, todos gerados por IA. Estima-se que cerca de 30% dos recibos fraudulentos identificados atualmente foram criados por chatbots, e o total de fraudes aumentou em 30% desde maio de 2024.
IA contra IA: um jogo de gato e rato
Mason Wilder, diretor de pesquisa da Association of Certified Fraud Examiners, destacou que a IA não apenas facilita esse tipo de fraude, mas também torna a detecção mais complexa.
Os chatbots deixam uma impressão digital nos metadados das imagens, mas essa informação desaparece quando alguém faz uma captura de tela ou tira uma foto do recibo. Para enfrentar esse desafio, as plataformas de auditoria estão inovando.
Novos algoritmos comparam recibos suspeitos com versões reais de fornecedores, examinando detalhes que muitas vezes passam despercebidos a olho nu, como o espaçamento entre letras. Sistemas como o da AppZen também analisam padrões de comportamento dos funcionários, como horários de envio e histórico de despesas, para identificar possíveis indícios de fraudes. Isso pode incluir repetições de nomes de garçons ou pratos em diferentes recibos.
Não existe uma única técnica capaz de detectar esses recibos. É preciso empregar várias camadas de verificação. É um jogo de gato e rato.
Anant Kale, CEO da AppZen, ao The New York Times.
As empresas estão agora se valendo da IA para implementar medidas de segurança. Isso inclui a análise de metadados, cruzamento de informações de fornecedores e horários de envio, além de sistemas automatizados de aprendizado profundo para auditorias. O objetivo é identificar repetições e anomalias em recibos suspeitos.
O crescente uso de IA para fraudes é um alerta para as empresas sobre a necessidade de se manter sempre um passo à frente. E você, o que pensa sobre essa nova onda de fraudes? Deixe sua opinião nos comentários.
Facebook Comments