No mês de março, a OpenAI lançou a mais recente versão de seu modelo de linguagem natural, o GPT-4. Como qualquer avanço tecnológico de grande escala, há um risco de ataques cibernéticos - à medida que mais usuários são atraídos, a superfície de ataque aumenta. A unidade de Inteligência e pesquisa de ameaças da Palo Alto Networks, chamada Unit 42, está monitorando os tópicos populares, os domínios recém registrados e os domínios ocupados relacionados ao ChatGPT para entender esse movimento, já que a plataforma de inteligência artificial também está atraindo a atenção de golpistas.

O Brasil ocupa uma posição proeminente quando se trata do uso do aplicativo de mensagens gerado pelo ChatGPT. De acordo com uma pesquisa recente divulgada pela Semrush, o país é o quinto colocado globalmente, respondendo por 4,3% do tráfego mundial do ChatGPT. A tecnologia tem se tornado cada vez mais um ativo crucial para as organizações que utilizam a automação para aumentar a produtividade e eficácia de seus processos.

Segundo a unidade de Inteligência e Pesquisa de Ameaças da Palo Alto Networks, Unit 42, houve um aumento de 910% nos registros mensais de domínios relacionados ao ChatGPT entre novembro de 2022 e abril de 2023. Além disso, os pesquisadores observaram um crescimento alarmante de 17.818% nos domínios de ataque relacionados aos logs de segurança do DNS no mesmo período de tempo. Os pesquisadores também identificaram até 118 tentativas diárias de URLs maliciosos relacionados ao ChatGPT.

Marcos Oliveira, Country Manager da Palo Alto Networks no Brasil,  alerta para os perigos potenciais de usar Copycat Chatbots para encorajar os usuários do ChatGPT a interagir com esses chatbots com uma mentalidade defensiva. De acordo com ele, com o lançamento da API oficial do ChatGPT pela OpenAI, há um número crescente de produtos suspeitos usando a tecnologia, tornando importante que os usuários do ChatGPT estejam vigilantes e protejam suas informações pessoais e dados.

Atividades suspeitas relacionadas ao ChatGPT

Enquanto a OpenAI se tornou uma das marcas mais famosas no campo da inteligência artificial, houve vários casos de ameaças detectados usando domínios desonestos com seus nomes, como "openAI" e "ChatGPT". Por exemplo, openai[.]us, openai[.]xyz e chatgpt[.]jobs. Embora a maioria desses domínios não hospede nada malicioso desde o início de abril de 2023, segundo os pesquisadores da Unit 42, esses endereços não são controlados pela OpenAI ou outras empresas de gerenciamento de domínios, o que pode permitir o uso desses domínios para fins maliciosos a qualquer momento.

Durante o período de pesquisa, a Unit 42 observou um aumento significativo no volume de registros diários de domínio. Logo após a Microsoft anunciar sua nova versão do Bing em 7 de fevereiro de 2023, mais de 300 domínios relacionados ao ChatGPT foram registrados. Ainda segundo Marcos Oliveira, o reconhecimento e a popularidade do ChatGPT resultaram em um aumento significativo nos logs do produto DNS Security.

A Unit 42 também realizou uma pesquisa de palavras-chave no tráfego do sistema Advanced URL Filtering e identificou dois grandes picos de busca com as palavras "ChatGPT e o GPT-4" no dia em que a OpenAI lançou a API oficial. Isso mostra a crescente conscientização e interesse dos usuários na tecnologia, bem como a possibilidade de que os golpistas também estejam monitorando essas tendências para lançar ataques cibernéticos.

Estudos de caso de golpes do ChatGPT

Quando o estudo foi conduzido pela equipe de pesquisadores da Unit 42, foram identificados diversos URLs de phishing que tentavam se passar por sites oficiais da OpenAI. Esse tipo de ação envolve a criação de um site falso que se assemelha ao site oficial do ChatGPT e, em seguida, os golpistas tentam induzir os usuários a baixar malware ou compartilhar informações confidenciais.

Outra estratégia comum utilizada pelos golpistas para distribuir malware é apresentar aos usuários um botão "DOWNLOAD FOR WINDOWS". Ao clicar nesse botão, o usuário acaba baixando um malware Trojan, que é um programa malicioso capaz de infectar dispositivos como se fosse um programa legítimo, sem que as vítimas percebam o perigo.

Além disso, os golpistas podem se aproveitar da engenharia social relacionada ao ChatGPT para cometer roubo de identidade ou fraude financeira. Mesmo que o OpenAI ofereça uma versão gratuita da plataforma, os golpistas tentam levar as vítimas a sites fraudulentos, afirmando que elas precisam pagar por esses serviços. Nesses sites falsos do ChatGPT, as vítimas são atraídas a fornecer suas informações confidenciais, como detalhes do cartão de crédito e endereço de e-mail.

Os especialistas da Unit 42 descobriram que alguns criminosos estão aproveitando a popularidade em ascensão da OpenAI para atividades fraudulentas relacionadas a criptomoedas. Um desses golpistas utilizou o nome de Elon Musk e o logotipo da OpenAI para atrair pessoas para um suposto evento legítimo de distribuição de criptomoedas.

Os riscos dos Copycat Chatbots

Apesar do ChatGPT ter se tornado um dos aplicativos mais populares este ano, a crescente oferta de imitadores de chatbot de IA no mercado pode aumentar os riscos de segurança. Alguns desses aplicativos oferecem seus próprios modelos de linguagem, enquanto outros afirmam oferecer serviços do ChatGPT por meio da API pública anunciada em 1º de março.

Antes do lançamento da API do ChatGPT, haviam vários projetos de código aberto que permitiam aos usuários se conectar à plataforma de IA por meio de diversas ferramentas de automação. Como o ChatGPT não está acessível em alguns países ou regiões, os sites criados com essas ferramentas ou API podem atrair um número significativo de usuários nessas áreas, o que oferece aos agentes de ameaças a oportunidade de monetizar o ChatGPT por proxy.

Fonte: https://tiinside.com.br/04/05/2023/dominios-maliciosos-relacionados-ao-chatgpt-aumentam-910-de-acordo-com-estudo/