O mais recente modelo de geração de imagens da OpenAI, o GPT-4o, surpreendeu ao superar um dos grandes desafios de seus antecessores: a capacidade de gerar textos legíveis e realistas dentro de imagens. Essa evolução, porém, tem um lado preocupante — o sistema se mostrou incrivelmente eficaz na criação de documentos falsos, como comprovantes, recibos e até prescrições médicas falsas.
Um exemplo alarmante foi compartilhado por Deedy Das, da Menlo Ventures, que usou o GPT-4o para criar um recibo falso de um jantar caríssimo em um restaurante real de São Francisco.
A imagem, à primeira vista, é convincente: detalhes do pedido, subtotal calculado corretamente e até o valor da gorjeta. Outro usuário foi além, aplicando filtros e manchas de comida para deixar o documento ainda mais crível — um prato cheio para fraudes em reembolsos corporativos.
Mas o problema não para aí. Das também testou o modelo para gerar receitas médicas falsas de medicamentos controlados, como Zoloft, e o resultado foi igualmente impressionante.
Essa capacidade abre portas para uma infinidade de crimes, desde declarações de impostos falsas e cheques bancários adulterados até identidades e certidões de nascimento forjadas.
O fim da era da confiança em imagens?
Antes, modelos de IA tinham dificuldade em reproduzir texto coerente, resultando em caracteres distorcidos ou frases sem sentido. Agora, com o GPT-4o, a linha entre o real e o fabricado está se apagando.
Medidas de segurança como metadados ou marcas d’água que indicam origem artificial podem ser facilmente removidas, tornando a detecção ainda mais difícil.
Um dado preocupante: mesmo antes da popularização dessas ferramentas, uma pesquisa de 2015 já mostrava que 85% das pessoas admitiam mentir para receber reembolsos maiores.
Com a IA facilitando a falsificação, esse tipo de fraude pode se tornar ainda mais comum, especialmente em empresas com processos internos frágeis.
Enquanto a tecnologia avança, nossa capacidade de distinguir o verdadeiro do falso parece ficar para trás. Se já era difícil confiar em tudo o que se vê na internet, agora até documentos aparentemente inofensivos podem ser armadilhas.
Veja mais sobre tecnologia!
