Poucos meses depois que o ChatGPT foi lançado, em novembro de 2022, os primeiros chatbots de inteligência artificial (IA) para criar fraudes também começaram a funcionar. As duas tecnologias – a legítima e a fraudulenta – estão aparecendo em ritmos parecidos e hackers já usam essas versões “alternativas” para melhorar golpes, e-mails de phishing e a criação de malwares.
Recentemente, por exemplo, um funcionário de Hong Kong de uma empresa multinacional recebeu um e-mail de seu CEO. Ele entrou em reunião de vídeo com seus pares executivos e fez transação de US$ 25,5 milhões (R$ 126,17 milhões, em conversão direta), só para, meses depois, descobrir que tanto o e-mail quanto a videochamada eram falsas e geradas por IA. O Olhar Digital reportou esse caso aqui.
Apesar de não ser possível pontuar exatamente se o culpado pelo e-mail foi um chatbot de IA, a tecnologia está crescendo. Hoje, mais de 200 modelos de linguagem com serviços de hacking são vendidos na dark web, segundo análise de pesquisadores da Universidade de Indiana (EUA).
Apesar de não ser possível definir exatamente quantos dos e-mails enviados são confeccionados usando a tecnologia, a maioria dos chatbots fraudulentos que surgiram no último ano são criados a partir de modelos de IA de código aberto, como o Llama 2, da Meta, ou os modelos “jailbroken” (códigos desbloqueados de desenvolvedoras que não os revelam publicamente e são vendidos na dark web).
Jason Clinton, diretor de segurança da informação da Anthropic, criadora do Claude, disse ao WSJ que a empresa monitora esses vazamentos para controlá-los. Já uma porta-voz da OpenAI diz que a dona do ChatGPT trabalha para que suas ferramentas não sejam usadas para fins maliciosos.
No entanto, segundo Brian Miller, CISO da seguradora de saúde sem fins lucrativos Healthfirst, a comunidade de hackers está sempre à frente. Ele é um dos que viu sua empresa ser alvo de ataques, com falsos fornecedores tentando aplicar golpes.
Fonte: Olhar Digital / Por Vitoria Lopes Gomez, editado por Rodrigo Mozelli
Copyright © 2023. Todos os direitos reservados. Ascenda Digital Mídia LTDA.