Hessen: Porque este estado lidera o combate aos crimes de IA

A chuva bate com força nas janelas do centro de comando em Wiesbaden, enquanto, nos monitores, surgem rostos de pessoas que nunca existiram.

Selfies impecavelmente iluminadas - mas, ao olhar com atenção, há detalhes que não batem certo: o recorte das orelhas parece estranho, a sombra “desliza” para um lugar impossível, e o olhar fica vazio. Uma jovem agente faz zoom na imagem, franze a testa e classifica-a como caso suspeito: fraude por deepfake. Noutro ecrã, desfilam registos de conversas criadas por uma IA que se faz passar por neta e pede dinheiro. É aquele instante que todos conhecemos: “Como é que alguém consegue distinguir o verdadeiro do falso?” No estado alemão de Hessen, estão a tentar responder a isso com dados, tecnologia e pessoas treinadas para detectar falsificações a olho nu - e com um plano ambicioso.

Hessen constrói um escudo contra crimes com IA (LKA de Hessen)

Quem entra hoje na área de criminalística do LKA de Hessen (Landeskriminalamt, a polícia criminal estadual) sente que pisou um híbrido entre filme policial e escritório de start-up. Em cima das mesas não há apenas dossiers: há GPUs potentes, ferramentas de informática forense e ambientes de teste para análise de voz. Aqui não se trabalha só em modo “resposta a incidentes”; há espaço para experiência na fronteira do que é novo, com equipas a falar de redes neuronais com a naturalidade com que outros falariam de uma fotografia de radar. A meta é clara: não correr atrás - ficar alguns passos à frente.

Essa postura ganhou peso depois de um caso que, internamente, foi visto como um ponto de viragem: um casal idoso em Frankfurt perdeu todas as poupanças em 15 minutos, após um suposto filho pedir “ajuda urgente” por videochamada. A voz batia certo, o rosto também, até o riso embaraçado parecia familiar - mas tudo era sintético. Mais tarde, uma equipa especializada de Hessen reconstituiu, fotograma a fotograma, o que a IA tinha “construído”. No fim, conseguiram identificar o autor porque minúsculos artefactos no fundo do vídeo não correspondiam à alegada casa. Histórias destas correm na instituição como, em tempos, corriam relatos de assaltos a bancos - com uma diferença essencial: hoje, o local do crime pode ser um servidor na Europa de Leste.

A base do avanço é simples e pouco romântica: para combater crimes com IA, é preciso pensar como a IA. Hessen investiu cedo em projectos que, noutras regiões, pareciam “ficção científica”: parcerias de investigação com a TU Darmstadt, laboratórios-piloto com bancos em Frankfurt, e uma estrutura centralizada para reportar tentativas de burla digital. Não é uma rede improvisada; é uma estratégia deliberada. A receita junta investigação policial clássica, forense orientada por dados e experimentação jurídica à luz das novas regras europeias. O objectivo, muito pragmático, é apanhar os autores antes de as tácticas se tornarem generalizadas.

Além disso - e este ponto costuma ficar esquecido - a capacidade de resposta depende também de higiene digital fora da polícia. Reduzir a exposição pública de dados pessoais, rever definições de privacidade e evitar publicar áudios longos e nítidos (por exemplo, em “stories” ou vídeos públicos) não elimina o risco, mas baixa o “combustível” disponível para clonagem de voz e engenharia social. Num mundo de deepfakes, o que partilhamos passa a ter valor operacional.

Como Hessen começa a desmontar crimes com IA de forma sistemática

Nas unidades de Hessen, fala-se já numa espécie de “triagem de IA”. Conteúdos suspeitos - vídeos, mensagens de voz, e-mails - entram em percursos de verificação por camadas:

1. Verificações automáticas: metadados, estrutura do ficheiro e comparação com bases de referência.
2. Avaliação de cenário: é potencial fraude em massa, extorsão dirigida ou manipulação política?
3. Análise fina: se necessário, peritos forenses aprofundam o caso com ferramentas especializadas.

No papel, parece burocrático; no terreno, funciona quase como uma urgência para delitos digitais. A vantagem é directa: criminosos deixam de ter meses para testar, com tranquilidade, qual é o esquema que passa despercebido.

Em paralelo, Hessen está a montar um sistema de alerta precoce (Frühwarnsystem) para abuso de IA. Em colaboração com seguradoras e bancos, surgem catálogos de padrões: que tipos de e-mail aparecem subitamente em milhares de caixas de correio? Como muda a escolha de palavras, a gramática e até os erros ortográficos quando as burlas deixam de ser escritas por humanos e passam a ser geradas por modelos de linguagem? Enquanto ainda nos lembramos de quando o phishing era mal escrito e fácil de ridicularizar, em Eschborn já há modelos treinados para detectar esta nova linguagem de burla - mais “limpa”, mais convincente, mais perigosa. E há uma verdade desconfortável por trás disto: quase ninguém lê cada e-mail com atenção total. A polícia sabe-o tão bem como os burlões.

A frente jurídica é outro campo de batalha. Se um autor usa IA para clonar uma voz, isso constitui um crime autónomo ou “apenas” uma forma agravada de engano? Como lidar com plataformas que fornecem ferramentas de deepfake sem praticarem, por si, o crime final? A resposta está a ser construída em pequenos grupos de trabalho que juntam investigadoras, magistrados do Ministério Público e juristas de TI. Aí, os casos são dissecados, assinalam-se falhas na lei penal e criam-se orientações provisórias para a prática diária. Um responsável resume a filosofia interna: “Quem espera por leis prontas para os crimes com IA já perdeu.” Hessen tenta preencher a lacuna com guias testados no terreno, que depois acabam frequentemente em debate a nível nacional.

Também vale a pena acrescentar uma dimensão que ganha peso em qualquer território com actividade financeira intensa: a coordenação com equipas de cibersegurança do sector privado. Quando bancos e seguradoras partilham sinais de ataque, e quando as autoridades devolvem indicadores técnicos úteis, encurta-se o tempo entre “primeiro sinal” e “interrupção” de uma campanha fraudulenta. A eficácia, aqui, mede-se em horas - não em semanas.

O que podemos trazer, na prática, do método de Hessen contra a fraude por deepfake

A pergunta central é simples: o que é que tudo isto muda para quem só quer viver o dia-a-dia sem entrar em pânico sempre que o telefone toca? Em Hessen, a aposta passa por uma formação de resiliência digital que não se limita às instituições públicas. Balcões de atendimento ao cidadão, universidades seniores, centros de formação e até agências locais de caixas económicas recebem materiais baseados em casos reais: nada de campanhas “polidas”, mas sim capturas de ecrã pixelizadas, chamadas falsas gravadas e conversas autênticas. A mensagem é directa: não é preciso ser especialista em TI para detectar burla com IA - mas é preciso treinar novos reflexos, como se treinou noutros tempos para vendas porta-a-porta e esquemas telefónicos.

Um erro recorrente, segundo investigadoras em Hessen, é a vergonha: muitas pessoas calam-se depois de caírem num truque com IA. Ou reportam tão tarde que as pistas digitais já desapareceram. Por isso, em workshops internos, agentes praticam uma abordagem empática, menos parecida com interrogatório e mais próxima de aconselhamento. Quem vê um reformado de 72 anos, de mãos a tremer, a contar como “a neta” lhe pediu ajuda, percebe depressa por que motivo isto é tão importante. Culpa não ajuda a investigar. Transparência ajuda. E a lição mais dura mantém-se: qualquer pessoa pode ser vítima, por mais competente que se considere no mundo digital.

Um investigador resumiu assim, num encontro com a imprensa:

“Hoje, os autores já não precisam de capuz: basta uma IA minimamente treinada e alguns dados apanhados nas redes sociais.”

Para contrariar isto, o LKA de Hessen insiste em três rotinas simples no quotidiano - banais à primeira vista, decisivas na prática:

• Definir sempre uma frase-código em família ou entre amigos, para confirmar alegadas chamadas de emergência.
• Nunca fazer transferências apenas com base em áudios ou vídeos; usar sempre um segundo canal (telefonar de volta para um número conhecido, confirmar pessoalmente).
• Reportar tentativas de burla de forma consistente - mesmo quando não se caiu no esquema.

Hessen como laboratório de teste para lidar com riscos da IA e crimes com IA

Depois de alguns dias a acompanhar equipas em Hessen, percebe-se uma ideia: a linha da frente não separa apenas polícia e criminosos; separa também comodismo e atenção. Os crimes com IA exploram exactamente aquilo que nos torna humanos no fim de um dia cansativo: distracção, stress, pressa, vontade de acreditar numa voz familiar. Em Hessen, tenta-se preparar a sociedade para um quotidiano em que tecnologia de engano será tão comum como hoje é o spam no e-mail.

A discussão sobre pioneirismo resolve-se quase sozinha: outros estados alemães enviam delegações a Wiesbaden, grupos de trabalho europeus pedem experiências e start-ups testam ferramentas de detecção em condições reais. O detalhe mais revelador é que isto não acontece num laboratório futurista, mas no cinzento habitual de corredores administrativos - cheiro a café, impressoras avariadas e pessoas a conciliar turnos com sessões de formação. É precisamente essa normalidade que torna a mensagem mais séria: crimes com IA não são um tema do futuro; são mais uma peça, já presente, na rotina do combate ao crime - com ferramentas diferentes e a certeza de que o progresso tecnológico nunca é só “bom” ou “mau”: é algo que se negoceia, se regula e se aprende a enfrentar.

Talvez por isso Hessen seja tão interessante: porque admite, sem dramatismo, que ninguém controla totalmente esta evolução - e, ainda assim, actua com determinação. Um laboratório onde se cometem erros úteis para outros aprenderem. E um espelho do que está em jogo: a confiança em imagens, vozes e texto entrou numa fase de teste permanente. Quem vê hoje um deepfake ser desmascarado, amanhã questiona com mais frequência as próprias certezas. Queiramos ou não, este tipo de cepticismo está a tornar-se uma competência básica. E fica a pergunta que paira, silenciosa, entre os ecrãs do centro de comando em Wiesbaden: quanta vigilância digital estamos dispostos a aceitar no nosso dia-a-dia?

Ponto-chave	Detalhe	Valor para o leitor
Sistema de alerta precoce (Frühwarnsystem) contra burla com IA	Hessen liga canais de reporte, bancos e informática forense num monitorização conjunta	Percebes por que razão vagas de fraude com IA podem ser detectadas e travadas mais cedo
Novos métodos de investigação	Combinação de análise com IA, recolha clássica de prova e pioneirismo jurídico	Ganhas uma ideia realista de como a polícia actua contra deepfakes e ataques semelhantes
Rotinas práticas de protecção	Frase-código, verificação por segundo canal e reporte consistente de suspeitas	Consegues ajustar hábitos já hoje para reduzir o risco de cair em crimes com IA

FAQ

• Como reconheço, como particular, uma chamada deepfake?
  Procura atrasos mínimos, pausas pouco naturais, rigidez estranha na expressão em videochamada e pedidos de dinheiro com urgência emocional. Se houver dúvida, desliga e liga de volta por um contacto conhecido.

• O que devo fazer se for vítima de burla com IA?
  Contacta imediatamente o banco ou serviço de pagamentos, apresenta queixa às autoridades e guarda todas as mensagens, números e e-mails. Quanto mais rápida for a reacção, maior a probabilidade de interromper fluxos de dinheiro.

• A minha voz pode ser clonada a partir de vídeos nas redes sociais?
  Sim. Com ferramentas disponíveis publicamente, bastam alguns minutos de áudio. Evita expor informação sensível e considera limitar a visibilidade de conteúdos com voz nítida.

• Hessen trabalha com empresas tecnológicas privadas?
  Sim. Especialmente na zona de Frankfurt, existem cooperações com start-ups e fornecedores de segurança para testar tecnologias de detecção em condições reais.

• Tenho de desconfiar de todas as mensagens a partir de agora?
  Não de todas; mas pedidos de dinheiro, “emergências” emocionais e instruções fora do habitual merecem um reality check rápido. Um telefonema de confirmação demora segundos e pode evitar perdas elevadas.