Автор: Эрик Йоханссон, dlnews Составитель: Шан Оуба, Golden Finance
Мясные мошенники используют новые инструменты искусственного интеллекта, чтобы обмануть своих жертв.
Прокуроры предупреждают о росте числа новых дел по всему миру.
*Мошенничество с криптовалютой обойдется жертвам более чем в 2,5 миллиарда долларов в 2022 году.
За несколько месяцев, прошедших с тех пор, как OpenAI запустила ChatGPT и перевернула стартап-экосистему, эту технологию заклеймили как угрозу для журналистики, сценаристов и национальной безопасности. Поэтому неудивительно, что мошенники и киберпреступники используют большие языковые модели для кражи криптовалюты у своих жертв. Тем не менее, это случилось с ним, когда парень, использующий Tandem, приложение для обмена языками, которое также служит платформой для знакомств, вел онлайн-разговор. Другой собеседник быстро убедил его перенести чат в WhatsApp.
Каким бы ни был предполагаемый конечный результат, афера была испорчена длинным текстом, который раскрывал «как языковую модель «я», у меня нет человеческих чувств или эмоций», в основном с использованием продвинутых чат-ботов, если не ChatGPT, нести поразительное сходство с ним. Потрясенный, потенциальная жертва связалась с фирмой по кибербезопасности Sophos, которая подтвердила, что опасения преступников, воспользовавшихся новой технологией, стали реальностью.
«Теперь мы можем сказать, что, по крайней мере, в случае мошенничества с мясными товарами, это действительно происходит», — сказал Шон Галлахер, главный исследователь угроз в Sophos, в отчете, освещающем этот случай.
Бойня — это афера, в которой мошенники пытаются заманить жертв инвестировать в криптовалютную платформу в течение определенного периода времени, обещая высокую прибыль перед обналичиванием, тем самым побуждая жертв вкладывать свои средства, что в конечном итоге приводит к убыткам и позору. По оценкам ФБР, к 2022 году такие мошенничества с криптовалютой обошлись жертвам в более чем 2,5 миллиарда долларов.
Тем не менее, использование ChatGPT и подобных инструментов позволит преступникам расширяться «намного хуже, чем мы видели в прошлом», — заявил прокурор Калифорнии Эрин Уэст. Она известна тем, что успешно вернула миллионы украденных криптовалют. Эта технология позволит преступникам лучше адаптировать разговоры с жертвами, преодолевать языковые барьеры, охватывать больше людей и причинять больший ущерб. «Добавление ChatGPT делает это еще более опасным», — добавила она.Трезвое предупреждение последовало за сообщениями о киберпреступниках, использующих аналогичные инструменты для быстрого написания вредоносных программ.
Не вопрос "если", а вопрос "когда"
Охранные фирмы и правоохранительные органы обеспокоены этим развитием событий, но никто из людей, с которыми мы разговаривали, не был удивлен. «Вопрос не в том, если, а в том, когда», — сказал DL News Бобби Корнуэлл, вице-президент по поддержке и интеграции стратегических партнеров в компании SonicWall, занимающейся кибербезопасностью.
Эти истории назревали с тех пор, как OpenAI запустила ChatGPT в ноябре прошлого года. Эти продвинутые чат-боты обучаются на большом количестве данных. Они используют большие наборы данных, включая книги, коды, веб-сайты и статьи, могут писать сложные коды и даже вести беседы на основе подсказок пользователя. Это прорыв для OpenAI. По состоянию на январь у него было около 100 миллионов активных пользователей в месяц, что делает его одним из самых быстрорастущих приложений в истории. Люди начали использовать его для всего: от написания профилей онлайн-знакомств до рассказов ужасов и даже создания видеосценариев и отладки кода. Технологические гиганты, включая Google и Meta, также ускоряют разработку собственных диалоговых инструментов искусственного интеллекта, таких как Bard и LLaMA.
В июле генеральный директор Tesla Илон Маск запустил новую компанию под названием x.AI с целью создания версии ChatGPT, которая менее «бодрствует», чем версия OpenAI. По данным Crunchbase, в первой половине 2023 года компании, занимающиеся искусственным интеллектом, привлекли от инвесторов более 25 миллиардов долларов.
Темная сторона ChatGPT
Вместо того, чтобы праздновать победу, генеральный директор OpenAI Сэм Альтман отправился в мировое турне, предупреждая об опасностях необузданного искусственного интеллекта. Он давал показания перед Конгрессом США и сказал репортерам, что теряет сон из-за опасений, что OpenAI выпустила своего пресловутого ИИ-джинна, «чтобы делать действительно плохие вещи». Остается неясным, были ли его замечания мотивированы искренним страхом или частью продуманной PR-стратегии.
Какой бы ни была мотивация замечаний Альтмана, цифровая мафия уже использует ChatGPT или аналогичные инструменты для поддержки своих планов. Киберпреступники даже утверждают, что создали собственную версию ChatGPT, невосприимчивую к мерам безопасности, установленным OpenAI. Они рекламировали их в даркнете как инструменты для усиления фишинговых атак и написания вредоносных программ, сообщил Wired в начале августа. Сообщество киберпреступников и участников угроз является технически подкованным и активным, и, как правило, первыми внедряют новые технологические тенденции, поскольку они видят преимущества и улучшения в том, как развиваются их инструменты, методы и практики.
Поэтому неудивительно, что злоумышленники внедряют генеративный ИИ, поскольку они могут получить такой же прирост производительности и потенциально улучшить свои способности прятаться, проводить разведку, создавать вредоносный код, обманывать людей и программное обеспечение для обеспечения безопасности и многое другое. Эти события заставляют экспертов по кибербезопасности и правоохранительные органы изо всех сил реагировать на угрозу.
Фирмы, занимающиеся кибербезопасностью, должны «встроить в наши системы больше интеллекта для поиска контента, созданного ИИ», — сказал Корнуэлл, добавив, что разработка таких контрмер потребует времени. , и хотя она и другие правоохранительные органы могут предупредить об этих угрозах, преступные группы, стоящие за чередой убийств, будет трудно уничтожить даже до использования искусственного интеллекта.
По данным глобальной группы по борьбе с мошенничеством, многие преступные сети действуют из таких мест, как Камбоджа, Лаос и Мьянма. Их преступления принесли миллиарды долларов, что позволяет им платить местным правоохранительным органам и избегать международных санкций. Бороться с такой крупной и богатой преступной группировкой очень сложно.
OpenAI не ответил на наш запрос о комментариях.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Как криптовалютные мошенники внедряют новую технологию искусственного интеллекта
Автор: Эрик Йоханссон, dlnews Составитель: Шан Оуба, Golden Finance
За несколько месяцев, прошедших с тех пор, как OpenAI запустила ChatGPT и перевернула стартап-экосистему, эту технологию заклеймили как угрозу для журналистики, сценаристов и национальной безопасности. Поэтому неудивительно, что мошенники и киберпреступники используют большие языковые модели для кражи криптовалюты у своих жертв. Тем не менее, это случилось с ним, когда парень, использующий Tandem, приложение для обмена языками, которое также служит платформой для знакомств, вел онлайн-разговор. Другой собеседник быстро убедил его перенести чат в WhatsApp.
Каким бы ни был предполагаемый конечный результат, афера была испорчена длинным текстом, который раскрывал «как языковую модель «я», у меня нет человеческих чувств или эмоций», в основном с использованием продвинутых чат-ботов, если не ChatGPT, нести поразительное сходство с ним. Потрясенный, потенциальная жертва связалась с фирмой по кибербезопасности Sophos, которая подтвердила, что опасения преступников, воспользовавшихся новой технологией, стали реальностью.
«Теперь мы можем сказать, что, по крайней мере, в случае мошенничества с мясными товарами, это действительно происходит», — сказал Шон Галлахер, главный исследователь угроз в Sophos, в отчете, освещающем этот случай.
Бойня — это афера, в которой мошенники пытаются заманить жертв инвестировать в криптовалютную платформу в течение определенного периода времени, обещая высокую прибыль перед обналичиванием, тем самым побуждая жертв вкладывать свои средства, что в конечном итоге приводит к убыткам и позору. По оценкам ФБР, к 2022 году такие мошенничества с криптовалютой обошлись жертвам в более чем 2,5 миллиарда долларов.
Тем не менее, использование ChatGPT и подобных инструментов позволит преступникам расширяться «намного хуже, чем мы видели в прошлом», — заявил прокурор Калифорнии Эрин Уэст. Она известна тем, что успешно вернула миллионы украденных криптовалют. Эта технология позволит преступникам лучше адаптировать разговоры с жертвами, преодолевать языковые барьеры, охватывать больше людей и причинять больший ущерб. «Добавление ChatGPT делает это еще более опасным», — добавила она.Трезвое предупреждение последовало за сообщениями о киберпреступниках, использующих аналогичные инструменты для быстрого написания вредоносных программ.
Не вопрос "если", а вопрос "когда"
Охранные фирмы и правоохранительные органы обеспокоены этим развитием событий, но никто из людей, с которыми мы разговаривали, не был удивлен. «Вопрос не в том, если, а в том, когда», — сказал DL News Бобби Корнуэлл, вице-президент по поддержке и интеграции стратегических партнеров в компании SonicWall, занимающейся кибербезопасностью.
Эти истории назревали с тех пор, как OpenAI запустила ChatGPT в ноябре прошлого года. Эти продвинутые чат-боты обучаются на большом количестве данных. Они используют большие наборы данных, включая книги, коды, веб-сайты и статьи, могут писать сложные коды и даже вести беседы на основе подсказок пользователя. Это прорыв для OpenAI. По состоянию на январь у него было около 100 миллионов активных пользователей в месяц, что делает его одним из самых быстрорастущих приложений в истории. Люди начали использовать его для всего: от написания профилей онлайн-знакомств до рассказов ужасов и даже создания видеосценариев и отладки кода. Технологические гиганты, включая Google и Meta, также ускоряют разработку собственных диалоговых инструментов искусственного интеллекта, таких как Bard и LLaMA.
В июле генеральный директор Tesla Илон Маск запустил новую компанию под названием x.AI с целью создания версии ChatGPT, которая менее «бодрствует», чем версия OpenAI. По данным Crunchbase, в первой половине 2023 года компании, занимающиеся искусственным интеллектом, привлекли от инвесторов более 25 миллиардов долларов.
Темная сторона ChatGPT
Вместо того, чтобы праздновать победу, генеральный директор OpenAI Сэм Альтман отправился в мировое турне, предупреждая об опасностях необузданного искусственного интеллекта. Он давал показания перед Конгрессом США и сказал репортерам, что теряет сон из-за опасений, что OpenAI выпустила своего пресловутого ИИ-джинна, «чтобы делать действительно плохие вещи». Остается неясным, были ли его замечания мотивированы искренним страхом или частью продуманной PR-стратегии.
Какой бы ни была мотивация замечаний Альтмана, цифровая мафия уже использует ChatGPT или аналогичные инструменты для поддержки своих планов. Киберпреступники даже утверждают, что создали собственную версию ChatGPT, невосприимчивую к мерам безопасности, установленным OpenAI. Они рекламировали их в даркнете как инструменты для усиления фишинговых атак и написания вредоносных программ, сообщил Wired в начале августа. Сообщество киберпреступников и участников угроз является технически подкованным и активным, и, как правило, первыми внедряют новые технологические тенденции, поскольку они видят преимущества и улучшения в том, как развиваются их инструменты, методы и практики.
Поэтому неудивительно, что злоумышленники внедряют генеративный ИИ, поскольку они могут получить такой же прирост производительности и потенциально улучшить свои способности прятаться, проводить разведку, создавать вредоносный код, обманывать людей и программное обеспечение для обеспечения безопасности и многое другое. Эти события заставляют экспертов по кибербезопасности и правоохранительные органы изо всех сил реагировать на угрозу.
Фирмы, занимающиеся кибербезопасностью, должны «встроить в наши системы больше интеллекта для поиска контента, созданного ИИ», — сказал Корнуэлл, добавив, что разработка таких контрмер потребует времени. , и хотя она и другие правоохранительные органы могут предупредить об этих угрозах, преступные группы, стоящие за чередой убийств, будет трудно уничтожить даже до использования искусственного интеллекта.
По данным глобальной группы по борьбе с мошенничеством, многие преступные сети действуют из таких мест, как Камбоджа, Лаос и Мьянма. Их преступления принесли миллиарды долларов, что позволяет им платить местным правоохранительным органам и избегать международных санкций. Бороться с такой крупной и богатой преступной группировкой очень сложно.
OpenAI не ответил на наш запрос о комментариях.