ChatGPT sendo usado para escrever malware, ransomware: relatórios

Uma nova IA chatbot destinado a ajudar na redação de e-mails, ensaios e codificação, está sendo usado por alguns para atividades criminosas como espionagem, ransomware e spam malicioso, entre outras coisas.

Desde o seu lançamento em novembro pela empresa artificial de San Francisco laboratório de pesquisas OpenAI, ChatGPT gerou interesse generalizado em como a ferramenta chatbot pode ser usada para o futuro.

ChatGPT

Um logotipo do ChatGPT visto em um telefone celular. (CFOTO/Future Publishing via Getty Images/Getty Images)

Mas apenas algumas semanas após o lançamento do ChatGPT, uma análise de fóruns de hackers clandestinos mostrou que os participantes – muitos com pouca ou nenhuma experiência em codificação – estavam usando a ferramenta para criar malware e se envolver em outras atividades nefastas.

“Ainda é muito cedo para decidir se os recursos do ChatGPT se tornarão ou não a nova ferramenta favorita para os participantes da Dark Web”, escreveram pesquisadores da empresa de segurança Check Point Research na sexta-feira. “No entanto, a comunidade cibercriminosa já demonstrou interesse significativo e está entrando nessa última tendência de gerar código malicioso”.

META DIZ QUE ESTÁ CENSURANDO CONTEÚDO QUE APOIA ATAQUES PRÓ-BOLSONARO

Os pesquisadores observaram que o código pode ser usado de maneira “benigna”. Mas os malfeitores podem facilmente modificar o script “para criptografar a máquina de alguém completamente sem qualquer interação do usuário”, disse a empresa.

A FOX Business entrou em contato com a OpenAI para comentar.

A ferramenta de bate-papo já gerou alguma controvérsia nas escolas por sua capacidade de produzir um trabalho persuasivo em questão de segundos. Na semana passada, os funcionários das escolas da cidade de Nova York começaram a bloquear a ferramenta de escrita para os alunos.

A decisão do maior distrito escolar dos EUA restringir o site ChatGPT em dispositivos e redes escolares pode ter um efeito cascata em outras escolas e professores lutando para descobrir como evitar a trapaça. Os criadores do ChatGPT dizem que também estão procurando maneiras de detectar o uso indevido.

O ChatGPT faz parte de uma nova geração de sistemas de IA que podem conversar, gerar texto legível sob demanda e até produzir novas imagens e vídeos com base no que aprenderam em um vasto banco de dados de livros digitais, textos online e outras mídias.

CLIQUE AQUI PARA OBTER O APLICATIVO FOX BUSINESS

Mas, ao contrário das iterações anteriores dos chamados “modelos de linguagem grande”, como o GPT-3 da OpenAI, lançado em 2020, a ferramenta ChatGPT está disponível gratuitamente para qualquer pessoa com conexão à Internet e projetada para ser mais amigável. Funciona como um diálogo escrito entre o sistema de IA e a pessoa que faz as perguntas.

A Associated Press contribuiu para este relatório.

Leave a Reply

Your email address will not be published. Required fields are marked *