Utilizador descobre que ChatGPT cria passaportes falsos: “em 5 minutos”

Um empresário do setor de tecnologia descobriu que o ChatGPT era capaz de criar passaportes falsos em apenas cinco minutos — e compartilhou a descoberta no LinkedIn, junto com a imagem de um passaporte que ele mesmo havia acabado de gerar.

“Levei cinco minutos para criar uma réplica do meu próprio passaporte que a maioria dos sistemas KYC [sistemas de verificação de identidade que analisam documentos e dados dos clientes] provavelmente aceitaria sem questionar”, revelou Boris Musielak na publicação.

Até então, a inteligência artificial (IA) convencional não conseguia gerar documentos falsos com precisão — erros como má formatação eram comuns. Mas o exemplo apresentado por Musielak era uma cópia quase perfeita, o que provocou uma grande discussão entre os usuários do LinkedIn. Comentários como “Loucura! Espero que você tenha alterado alguns dados e não tenha exposto demais suas informações aqui”, “Você sabe que está cometendo um crime, né? Mesmo que seja só pra provar um ponto” e “Como você fez isso? Queria tentar” surgiram rapidamente.

O empresário admitiu que a imagem não é 100% perfeita e que não funcionaria em sistemas que exigem leitura de chip — como os de controle de imigração —, mas alertou para o risco crescente de fraudes e roubo de dados pessoais.

“Agora está mais fácil do que nunca para golpistas colocarem esse tipo de prática em escala massiva”, disse Musielak ao site Cybernews.

Hoje em dia, para abrir contas, alguns bancos digitais — como o Revolut — ou corretoras de criptomoedas — como a Binance — solicitam apenas que os usuários enviem uma selfie e fotos de um documento de identidade. O receio agora é que imagens falsas possam burlar esses sistemas e viabilizar fraudes e transações ilegais.

“As implicações são óbvias: qualquer processo de verificação que dependa de imagens como ‘prova’ já está oficialmente ultrapassado. O mesmo vale para selfies — sejam elas estáticas ou em vídeo, não importa. A GenAI também consegue falsificá-las. O KYC baseado em imagens acabou. Game over. O único caminho viável daqui em diante é a identidade verificada digitalmente, como acontece com as provas eletrônicas exigidas pela União Europeia”, defendeu Musielak.

Dezesseis horas após ele revelar essa funcionalidade no LinkedIn, o ChatGPT deixou de permitir a criação desse tipo de documento. Agora, ao tentar gerar algo semelhante, a plataforma apenas responde que não pode “criar ou gerar qualquer tipo de documento de identificação falso ou não oficial usando dados pessoais”.

Leia Também: Primeiros ‘astronautas’ a explorar pólos da Terra estão de volta; veja

Fonte: Noticias ao Minuto Read More