Autor: Eric Johansson, dlnews Compilador: Shan Ouba, Golden Finance
Os golpistas de açougue estão usando novas ferramentas de inteligência artificial para enganar suas vítimas.
Promotores alertam para número crescente de novos casos ao redor do mundo.
*Os golpes de criptomoeda custarão às vítimas mais de US$ 2,5 bilhões em 2022.
Nos meses desde que a OpenAI lançou o ChatGPT e derrubou o ecossistema de startups, a tecnologia foi considerada uma ameaça ao jornalismo, roteiro e segurança nacional. Portanto, não é surpresa que fraudadores e cibercriminosos estejam explorando grandes modelos de linguagem para roubar criptomoedas de suas vítimas. Ainda assim, isso aconteceu com ele quando um cara usando o Tandem, um aplicativo de compartilhamento de idiomas que funciona como uma plataforma de namoro, estava conversando online. Outro locutor rapidamente o convenceu a mudar o chat para o WhatsApp.
Seja qual for o resultado final pretendido, o golpe foi prejudicado por um longo texto que revelou "como um modelo de linguagem de 'eu', não tenho sentimentos ou emoções semelhantes aos humanos", basicamente usando Chatbots avançados, se não ChatGPT, carregam um impressionante semelhança com ele. Chocada, a suposta vítima contatou a empresa de segurança cibernética Sophos, que confirmou que o medo de criminosos se aproveitarem da nova tecnologia havia se tornado realidade.
“Agora podemos dizer que, pelo menos no caso de golpes de açougue, isso realmente está acontecendo”, disse Sean Gallagher, principal pesquisador de ameaças da Sophos, em um relatório destacando o caso.
Butchery é um golpe no qual os golpistas tentam atrair as vítimas para investir em uma plataforma de criptomoeda por um período de tempo, prometendo altos retornos antes de sacar, encorajando assim as vítimas a comprometer seus fundos, o que acaba resultando em perdas e vergonha. O FBI estima que esses golpes de criptomoeda custaram às vítimas mais de US$ 2,5 bilhões até 2022.
No entanto, o uso do ChatGPT e ferramentas semelhantes permitirá que os criminosos aumentem "de uma maneira pior do que vimos no passado", disse o procurador da Califórnia, Erin West. Ela é famosa por recuperar com sucesso milhões de criptomoedas roubadas. Essa tecnologia permitirá que os criminosos adaptem melhor as conversas com as vítimas, superem as barreiras do idioma, alcancem mais pessoas e causem mais danos. "A adição do ChatGPT torna isso ainda mais perigoso", acrescentou ela.O sóbrio aviso segue relatos de cibercriminosos usando ferramentas semelhantes para escrever malware rapidamente.
Não é uma questão de se, mas uma questão de quando
Empresas de segurança e policiais estão preocupadas com esse desenvolvimento, mas nenhuma das pessoas com quem conversamos ficou surpresa. "Não é uma questão de se, é uma questão de quando", disse Bobby Cornwell, vice-presidente de capacitação e integração de parceiros estratégicos da empresa de segurança cibernética SonicWall, à DL News.
Essas histórias estão se formando desde que a OpenAI lançou o ChatGPT em novembro passado. Esses chatbots avançados são treinados com grandes quantidades de dados. Eles utilizam grandes conjuntos de dados, incluindo livros, códigos, sites e artigos, são capazes de escrever códigos complexos e até mesmo manter conversas com base em solicitações do usuário. Este é um avanço para a OpenAI. Em janeiro, tinha cerca de 100 milhões de usuários ativos mensais, tornando-se um dos aplicativos de crescimento mais rápido da história. As pessoas começaram a usá-lo para tudo, desde escrever perfis de namoro online até histórias de terror e até mesmo gerar scripts de vídeo e código de depuração. Gigantes da tecnologia, incluindo Google e Meta, também estão acelerando o desenvolvimento de suas próprias ferramentas de IA de conversação, como Bard e LLaMA.
Em julho, o CEO da Tesla, Elon Musk, lançou uma nova empresa chamada x.AI com o objetivo de criar uma versão do ChatGPT menos “acordada” do que a versão OpenAI. No primeiro semestre de 2023, as empresas de IA levantaram mais de US$ 25 bilhões de investidores, de acordo com a Crunchbase.
O lado obscuro do ChatGPT
Em vez de comemorar a vitória, o CEO da OpenAI, Sam Altman, fez uma turnê mundial alertando sobre os perigos da inteligência artificial irrestrita. Ele testemunhou perante o Congresso dos EUA e disse aos repórteres que estava perdendo o sono com medo de que a OpenAI tivesse liberado seu proverbial gênio da IA "para fazer algumas coisas realmente ruins". Se seus comentários foram motivados por medo genuíno ou parte de uma elaborada estratégia de relações públicas, permanece incerto.
Qualquer que seja a motivação por trás das observações de Altman, os mobs digitais já estão usando o ChatGPT ou ferramentas semelhantes para apoiar seus planos. Os cibercriminosos ainda afirmam ter criado sua própria versão do ChatGPT, imune às medidas de segurança instaladas pelo OpenAI. Eles os anunciaram na dark web como ferramentas para aprimorar ataques de phishing e escrever malware, informou a Wired no início de agosto. A comunidade de criminosos cibernéticos e agentes de ameaças é proativa e conhecedora de tecnologia, e tende a ser uma das primeiras a adotar as novas tendências de tecnologia à medida que percebe os benefícios e melhorias na forma como suas ferramentas, técnicas e práticas evoluem.
Portanto, não é surpresa que os agentes de ameaças estejam adotando IA generativa, pois podem obter os mesmos ganhos de produtividade e potencialmente melhorar sua capacidade de ocultar, conduzir reconhecimento, criar códigos maliciosos, enganar pessoas e software de segurança e muito mais. Esses desenvolvimentos fizeram com que especialistas em segurança cibernética e agências de aplicação da lei lutassem para responder à ameaça.
As empresas de segurança cibernética devem "incorporar mais inteligência em nossos sistemas para procurar conteúdo gerado por IA", disse Cornwell, acrescentando que o desenvolvimento de tais contramedidas levará tempo. , e embora ela e outros agentes da lei possam alertar sobre essas ameaças, os grupos criminosos por trás da matança serão difíceis de derrubar, mesmo antes de aproveitar a inteligência artificial.
De acordo com o grupo global antifraude, muitas redes criminosas operam em lugares como Camboja, Laos e Mianmar. Seus crimes arrecadaram bilhões de dólares, permitindo-lhes pagar as autoridades locais e evitar sanções internacionais. É muito difícil lutar contra um grupo criminoso tão grande e rico.
A OpenAI não respondeu ao nosso pedido de comentário.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
Como os golpistas de criptomoedas estão adotando a nova tecnologia de IA
Autor: Eric Johansson, dlnews Compilador: Shan Ouba, Golden Finance
Nos meses desde que a OpenAI lançou o ChatGPT e derrubou o ecossistema de startups, a tecnologia foi considerada uma ameaça ao jornalismo, roteiro e segurança nacional. Portanto, não é surpresa que fraudadores e cibercriminosos estejam explorando grandes modelos de linguagem para roubar criptomoedas de suas vítimas. Ainda assim, isso aconteceu com ele quando um cara usando o Tandem, um aplicativo de compartilhamento de idiomas que funciona como uma plataforma de namoro, estava conversando online. Outro locutor rapidamente o convenceu a mudar o chat para o WhatsApp.
Seja qual for o resultado final pretendido, o golpe foi prejudicado por um longo texto que revelou "como um modelo de linguagem de 'eu', não tenho sentimentos ou emoções semelhantes aos humanos", basicamente usando Chatbots avançados, se não ChatGPT, carregam um impressionante semelhança com ele. Chocada, a suposta vítima contatou a empresa de segurança cibernética Sophos, que confirmou que o medo de criminosos se aproveitarem da nova tecnologia havia se tornado realidade.
“Agora podemos dizer que, pelo menos no caso de golpes de açougue, isso realmente está acontecendo”, disse Sean Gallagher, principal pesquisador de ameaças da Sophos, em um relatório destacando o caso.
Butchery é um golpe no qual os golpistas tentam atrair as vítimas para investir em uma plataforma de criptomoeda por um período de tempo, prometendo altos retornos antes de sacar, encorajando assim as vítimas a comprometer seus fundos, o que acaba resultando em perdas e vergonha. O FBI estima que esses golpes de criptomoeda custaram às vítimas mais de US$ 2,5 bilhões até 2022.
No entanto, o uso do ChatGPT e ferramentas semelhantes permitirá que os criminosos aumentem "de uma maneira pior do que vimos no passado", disse o procurador da Califórnia, Erin West. Ela é famosa por recuperar com sucesso milhões de criptomoedas roubadas. Essa tecnologia permitirá que os criminosos adaptem melhor as conversas com as vítimas, superem as barreiras do idioma, alcancem mais pessoas e causem mais danos. "A adição do ChatGPT torna isso ainda mais perigoso", acrescentou ela.O sóbrio aviso segue relatos de cibercriminosos usando ferramentas semelhantes para escrever malware rapidamente.
Não é uma questão de se, mas uma questão de quando
Empresas de segurança e policiais estão preocupadas com esse desenvolvimento, mas nenhuma das pessoas com quem conversamos ficou surpresa. "Não é uma questão de se, é uma questão de quando", disse Bobby Cornwell, vice-presidente de capacitação e integração de parceiros estratégicos da empresa de segurança cibernética SonicWall, à DL News.
Essas histórias estão se formando desde que a OpenAI lançou o ChatGPT em novembro passado. Esses chatbots avançados são treinados com grandes quantidades de dados. Eles utilizam grandes conjuntos de dados, incluindo livros, códigos, sites e artigos, são capazes de escrever códigos complexos e até mesmo manter conversas com base em solicitações do usuário. Este é um avanço para a OpenAI. Em janeiro, tinha cerca de 100 milhões de usuários ativos mensais, tornando-se um dos aplicativos de crescimento mais rápido da história. As pessoas começaram a usá-lo para tudo, desde escrever perfis de namoro online até histórias de terror e até mesmo gerar scripts de vídeo e código de depuração. Gigantes da tecnologia, incluindo Google e Meta, também estão acelerando o desenvolvimento de suas próprias ferramentas de IA de conversação, como Bard e LLaMA.
Em julho, o CEO da Tesla, Elon Musk, lançou uma nova empresa chamada x.AI com o objetivo de criar uma versão do ChatGPT menos “acordada” do que a versão OpenAI. No primeiro semestre de 2023, as empresas de IA levantaram mais de US$ 25 bilhões de investidores, de acordo com a Crunchbase.
O lado obscuro do ChatGPT
Em vez de comemorar a vitória, o CEO da OpenAI, Sam Altman, fez uma turnê mundial alertando sobre os perigos da inteligência artificial irrestrita. Ele testemunhou perante o Congresso dos EUA e disse aos repórteres que estava perdendo o sono com medo de que a OpenAI tivesse liberado seu proverbial gênio da IA "para fazer algumas coisas realmente ruins". Se seus comentários foram motivados por medo genuíno ou parte de uma elaborada estratégia de relações públicas, permanece incerto.
Qualquer que seja a motivação por trás das observações de Altman, os mobs digitais já estão usando o ChatGPT ou ferramentas semelhantes para apoiar seus planos. Os cibercriminosos ainda afirmam ter criado sua própria versão do ChatGPT, imune às medidas de segurança instaladas pelo OpenAI. Eles os anunciaram na dark web como ferramentas para aprimorar ataques de phishing e escrever malware, informou a Wired no início de agosto. A comunidade de criminosos cibernéticos e agentes de ameaças é proativa e conhecedora de tecnologia, e tende a ser uma das primeiras a adotar as novas tendências de tecnologia à medida que percebe os benefícios e melhorias na forma como suas ferramentas, técnicas e práticas evoluem.
Portanto, não é surpresa que os agentes de ameaças estejam adotando IA generativa, pois podem obter os mesmos ganhos de produtividade e potencialmente melhorar sua capacidade de ocultar, conduzir reconhecimento, criar códigos maliciosos, enganar pessoas e software de segurança e muito mais. Esses desenvolvimentos fizeram com que especialistas em segurança cibernética e agências de aplicação da lei lutassem para responder à ameaça.
As empresas de segurança cibernética devem "incorporar mais inteligência em nossos sistemas para procurar conteúdo gerado por IA", disse Cornwell, acrescentando que o desenvolvimento de tais contramedidas levará tempo. , e embora ela e outros agentes da lei possam alertar sobre essas ameaças, os grupos criminosos por trás da matança serão difíceis de derrubar, mesmo antes de aproveitar a inteligência artificial.
De acordo com o grupo global antifraude, muitas redes criminosas operam em lugares como Camboja, Laos e Mianmar. Seus crimes arrecadaram bilhões de dólares, permitindo-lhes pagar as autoridades locais e evitar sanções internacionais. É muito difícil lutar contra um grupo criminoso tão grande e rico.
A OpenAI não respondeu ao nosso pedido de comentário.