As IAs com comportamentos humanos têm gerado muitas preocupações legítimas sobre sua capacidade de substituir trabalhadores, mas uma empresa decidiu usar essa tecnologia contra um dos maiores problemas da humanidade: os golpistas por telefone. A IA imita o alvo favorito dos criminosos – um idoso – para manter os fraudadores na linha o maior tempo possível com conversas que não levam a lugar algum, no estilo “Vovô Simpson”.
Criada pela O2, maior operadora de telefonia móvel do Reino Unido, a “Daisy” (ou “dAIsy”) é uma inteligência artificial desenvolvida para enganar os golpistas, fazendo-os acreditar que estão falando com uma avó real que gosta de divagar. Quando chega o momento de entregar os supostos dados bancários, a IA fornece números e nomes falsos.
O software foi projetado para manter os golpistas ocupados pelo maior tempo possível. Isso não só reduz o tempo disponível para os criminosos engajarem vítimas reais, como também permite à O2 coletar informações valiosas sobre os truques e técnicas mais utilizados nesses golpes.
No vídeo divulgado, é possível ouvir como os golpistas reagem à armadilha – tornando-se cada vez mais irritados e usando palavrões. A IA é tão convincente que conseguiu manter algumas pessoas na linha por até 40 minutos.
Se você já assistiu a algum dos vários canais do YouTube dedicados a enganar golpistas, muitas vezes usando um modulador de voz para soar como uma idosa, já sabe o que esperar. Daisy foi treinada com a ajuda de um dos scambaiters mais populares da internet, Jim Browning.
Como Daisy funciona
Daisy funciona ouvindo o que o golpista diz e transcrevendo a voz para texto. Suas respostas são geradas por um LLM (Modelo de Linguagem Extensa) personalizado, que inclui uma camada de personalidade de personagem, e depois transformadas em fala por um modelo de IA de texto para fala. Tudo isso ocorre em tempo real.
Os clientes da O2 não podem usar Daisy diretamente para se vingarem dos golpistas. Em vez disso, a ferramenta de IA foi integrada a uma lista de números considerados “alvos fáceis” pelos fraudadores. Daisy pode interagir com os golpistas 24 horas por dia, 7 dias por semana, sem a necessidade de intervenção humana.
Um compromisso contra golpes
Murray Mackenzie, Diretor de Fraude da Virgin Media O2, afirmou:
“Estamos comprometidos em fazer a nossa parte para impedir os golpistas, investindo em tudo, desde tecnologia de firewall para bloquear mensagens de texto fraudulentas até detecção de chamadas de spam com IA para manter nossos clientes seguros. Mas, acima de tudo, Daisy também serve como um lembrete de que, por mais persuasivo que alguém do outro lado da linha possa parecer, eles nem sempre são quem você pensa que são.”
Daisy foi criada após uma pesquisa da O2 revelar que 71% dos britânicos gostariam de se vingar de golpistas que enganaram eles ou seus entes queridos. No entanto, a maioria disse que não participaria de armadilhas contra golpistas porque não queria perder tempo.
Embora o trabalho da IA seja impressionante, sua capacidade de manter conversas tão convincentes também é inquietante. Ironicamente, tecnologias semelhantes estão sendo usadas pelos próprios golpistas para enganar pessoas, fazendo-as acreditar que estão falando com parentes.