O caso do pedreiro Edimar Rocha Martins, que viajou mais de 2 mil quilômetros entre o Maranhão e Minas Gerais em busca de um romance com uma mulher feita por inteligência artificial, acendeu um alerta para possíveis golpes com a teconologia.

O uso de dicas de aparência em vídeos, sons e imagens, o contexto do envio de materiais e até ferramentas de investigação digital podem evitar problemas.

Entenda o caso: MA para MG: Pedreiro viaja mais de 2 mil km atrás de mulher criada por IA

Recomendamos para você

Não custa desconfiar

De acordo com o cientista de dados Arnobio Morelix, da Faculdade Sirius, o estranhamento com um vídeo de IA deve ir além da aparência humana, pois a imagem ou voz sintética tem melhorado cada vez mais.

O erro que a gente vê hoje é procurar defeitos na imagem, mas o deepfake de hoje é muito bom na imagem; o que ele é ruim é no contexto. Não só a aparência, mas o contexto. Quando a gente recebe um vídeo num contexto político, pedindo uma senha, uma decisão urgente, vale a pena pensar o motivo de receber essa mensagem, e desconfiar da urgência pode ajudar muito

Arnobio Morelix, cientista de dados

Veja algumas dicas para identificar um deepfake:

“O mais importante é lembrar que esses sinais estão ficando mais fracos a cada dia. O deepfake tem ficado mais sofisticado”, alerta o especialista.

Investigação forense digital

Marcio Fabozi, especialista em IA, explica que programas de identificação forense digital, como SynthID, Hive AI e Reality Defender, ajudam a rastrear e identificar se um vídeo foi gerado por inteligência artificial. Porém, nada é garantido.

“É importante entender que nenhuma dessas ferramentas é infalível. Um detector como esses pode apontar indícios de manipulação, mas a confirmação depende de outras verificações, como a fonte, o contexto e a autenticidade da informação. A inteligência artificial está evoluindo rapidamente, e os mecanismos de proteção precisam acompanhar esse avanço”, pondera.

Há também a tecnologia C2PA, um tipo de marca d’água que fica impregnada em alguns conteúdos de IA e ajuda na identificação da origem dos materiais, porém a ferramenta não é utilizada por todas as plataformas generativas. Plataformas como Gemini e Claude usam essa marca para rastreio.

Fabozi explica que os vídeos podem funcionar como um atrativo para golpes.

“O vídeo falso funciona como uma isca, e o risco aumenta quando a pessoa acredita naquela mensagem e acaba fornecendo informações, acessando páginas fraudulentas ou instalando programas maliciosos. Por isso, sempre reforço que a tecnologia precisa caminhar junto com a conscientização. Antes de clicar, de compartilhar qualquer informação ou de realizar uma transação, é fundamental verificar a origem daquela solicitação”.

Pode ser crime?

Afinal, produzir e compartilhar um deepfake pode ser crime? Sim e não. O advogado Rodrigo Baraldi explica que o uso do vídeo como “instrumento de estelionato, de crimes contra a honra ou de violência psicológica contra a mulher” se enquadra na ilegalidade.

“Se o deepfake for utilizado em um golpe que configure fraude eletrônica, a pena prevista é de quatro a oito anos de reclusão e multa, podendo haver aumentos conforme o caso. A pena acompanha o crime praticado, não o nome da tecnologia utilizada”, explica o advogado.

Em casos de conteúdo de nudez ou falsa acusação de crime, a responsabilidade criminal também é compartilhada com quem repassa o vídeo.

Baraldi também afirma que, em casos como o do pedreiro Edimar Rocha, citado no começo da reportagem, é possível questionar um dano ou prejuízo na Justiça cível e criminal.

“A vítima pode exigir o ressarcimento dos prejuízos financeiros e indenização por danos morais, conforme os danos e a responsabilidade demonstrados. Também pode pedir a retirada do conteúdo e medidas urgentes para interromper sua divulgação. A reparação civil não depende, como regra, de uma condenação criminal: uma conduta pode gerar o dever de indenizar mesmo sem configurar crime. No processo criminal, além da punição do responsável, a sentença condenatória pode fixar um valor mínimo de reparação, desde que observados os requisitos processuais, inclusive o pedido adequado e o direito de defesa”, afirma o especialista.

Falso amor

A promessa de viver um romance em uma fazenda em Minas Gerais levou o pedreiro Edimar Rocha Martins, de 49 anos, a viajar mais de 2 mil km até Belo Horizonte. Ele saiu de Imperatriz, no Maranhão, na última sexta-feira (9) e chegou à capital mineira no domingo (11).

Edmar desembarcou em Belo Horizonte na expectativa de encontrar a mulher com quem interagia por meio das redes sociais. Ele não sabia, no entanto, que as respostas eram dadas de forma automática por um perfil criado por Inteligência Artificial.

A mulher, que se apresentava nos vídeos como Jéssica, dizia ser proprietária de uma fazenda em Minas Gerais e prometia que os dois poderiam morar juntos.

Somente após chegar a Belo Horizonte e perguntar pela mulher é que o pedreiro descobriu que “Jéssica” não existia no mundo real. Em uma conversa com a Rádio Itatiaia, ele contou que, depois que perdeu a mãe, ficou muito solitário e encontrou na mulher do vídeo uma esperança de começar uma nova vida.

  • 1 de 6

    Edmar desembarcou em Belo Horizonte na expectativa de encontrar a mulher com quem interagia por meio das redes sociais. • Rádio Itatiaia

  • 2 de 6

    A mulher se apresentava nos vídeos como Jéssica e dizia ser proprietária de uma fazenda em Minas Gerais • Rádio Itatiaia

  • 3 de 6

    Ele não sabia que o perfil da mulher havia sido criado por Inteligência Artificial. • Rádio Itatiaia

  • 4 de 6

    Nos vídeos, "Jéssica" prometia que os dois poderiam morar juntos. • Rádio Itatiaia

  • 5 de 6

    O homem contou que, depois que perdeu a mãe, ficou muito solitário e encontrou na mulher do vídeo uma esperança de começar uma nova vida. • Rádio Itatiaia

  • 6 de 6

    Em um dos vídeos ela afirma que o homem "nunca mais vai precisar trabalhar" • Rádio Itatiaia

Após a repercussão do caso de Edimar, a Prefeitura de Belo Horizonte fez uma publicação nas redes sociais alertando para os riscos de conteúdos criados ou manipulados por inteligência artificial.

Segundo a administração municipal, imagens, vídeos e conversas podem ser produzidos artificialmente, o que exige atenção antes de confiar em pessoas conhecidas pela internet.

“Informação também é uma forma de proteção. Compartilhe esse alerta e nos ajude a evitar que outras pessoas passem pela mesma situação”, finaliza a publicação.

Até o momento, de acordo com a Polícia Civil, o caso não foi registrado.

 



Fonte: https://www.cnnbrasil.com.br/nacional/brasil/como-identificar-videos-feitos-com-ia-e-evitar-golpes/