著者: Eric Johansson、dlnews 編集者: Shan Ouba、Golden Finance* 肉屋詐欺師は、新しい人工知能ツールを使用して被害者を騙しています。＊検察は世界中で新たな感染者数が増加していると警告。*仮想通貨詐欺は、2022 年に被害者に 25 億ドル以上の損害を与えると予想されます。OpenAI が ChatGPT を発表し、スタートアップのエコシステムを一変させてから数か月間、このテクノロジーはジャーナリズム、脚本、国家安全保障に対する脅威であるとのレッテルを貼られてきました。したがって、詐欺師やサイバー犯罪者が大規模な言語モデルを悪用して被害者から暗号通貨を盗むのは驚くべきことではありません。それでも、これは、出会い系プラットフォームとしても機能する言語共有アプリ、Tandemを使用している男性がオンラインで会話していたときに起こりました。別の話者はすぐにチャットを WhatsApp に移すよう彼を説得しました。意図した最終結果が何であれ、この詐欺は「『私』の言語モデルとして、私には人間のような感情や感情がない」ことを明らかにする長い文章によって失敗に終わり、基本的にはChatGPTではないにしても高度なチャットボットを使用しており、それに驚くほどよく似ています。ショックを受けた被害者候補者はサイバーセキュリティ会社ソフォスに連絡し、犯罪者が新しいテクノロジーを悪用する懸念が現実になったことを確認した。ソフォスの主任脅威研究者であるショーン・ギャラガー氏は、この事件を取り上げたレポートの中で、「少なくとも肉屋詐欺の場合には、これが実際に起きていると言える」と述べた。Butchery は、詐欺師が被害者を一定期間仮想通貨プラットフォームへの投資に誘導し、現金化する前に高いリターンを約束して、被害者に資金をコミットするよう促し、最終的には損失と恥辱をもたらす詐欺です。 FBI は、このような仮想通貨詐欺により、2022 年までに被害者に 25 億ドル以上の損害が生じたと推定しています。しかし、ChatGPTや同様のツールの使用により、犯罪者は「過去に見たよりもさらにひどい方法で」規模を拡大することが可能になると、カリフォルニア州検事エリン・ウェスト氏は述べた。彼女は、盗まれた何百万もの暗号通貨の回収に成功したことで有名です。このテクノロジーにより、犯罪者は被害者との会話をより適切に調整し、言語の壁を乗り越え、より多くの人々に連絡を取り、より多くの被害を引き起こすことが可能になります。 「ChatGPT の追加により、これはさらに危険になります。」と彼女は付け加え、この冷静な警告は、サイバー犯罪者が同様のツールを使用してマルウェアを迅速に作成するという報告を受けてのものです。**「かどうか」ではなく、「いつ」が問題です**警備会社や法執行機関はこの展開に不安を抱いているが、話を聞いた人たちは誰も驚いていなかった。 「それは、どうかという問題ではなく、いつ起こるかという問題だ」とサイバーセキュリティ企業SonicWallの戦略的パートナーの実現と統合担当バイスプレジデントであるボビー・コーンウェル氏はDL Newsに語った。こうした話は、OpenAI が昨年 11 月に ChatGPT を立ち上げて以来、盛り上がっていました。これらの高度なチャットボットは、膨大な量のデータを使用してトレーニングされています。彼らは書籍、コード、Web サイト、記事などの大規模なデータセットを活用し、複雑なコードを記述したり、ユーザーのプロンプトに基づいて会話を続けることもできます。これは OpenAI にとって画期的な出来事です。 1 月の時点で月間アクティブ ユーザー数は約 1 億人で、史上最も急速に成長しているアプリの 1 つとなっています。人々は、オンラインデートのプロフィールの作成からホラーストーリー、さらにはビデオスクリプトの生成やコードのデバッグに至るまで、あらゆる用途にこのツールを使い始めています。 Google や Meta などのテクノロジー大手も、Bard や LLaMA などの独自の会話型 AI ツールの開発を加速しています。7月、Teslaの最高経営責任者（CEO）イーロン・マスク氏は、OpenAIバージョンよりも「覚醒」度の低いバージョンのChatGPTを作成することを目的として、x.AIと呼ばれる新会社を立ち上げた。 Crunchbaseによると、2023年上半期にAI企業は投資家から250億ドル以上を調達した。**ChatGPT の暗い側面**OpenAI CEOのサム・アルトマンは、勝利を祝う代わりに、自由な人工知能の危険性を警告する世界旅行に出かけた。同氏は米国議会で証言し、OpenAIが「本当に悪いことをするために」その諺にあるAIの魔神を解き放ったのではないかという恐怖で眠れなくなっていると記者団に語った。彼の発言が真の恐怖によって動機付けられたのか、それとも綿密なPR戦略の一部なのかは依然として不明である。アルトマン氏の発言の背後にある動機が何であれ、デジタル暴徒はすでに ChatGPT または同様のツールを使用して計画をサポートしています。サイバー犯罪者は、OpenAI によってインストールされたセキュリティ対策の影響を受けない独自のバージョンの ChatGPT を作成したとさえ主張しています。彼らはこれらをフィッシング攻撃を強化し、マルウェアを作成するツールとしてダークウェブ上で宣伝したと、Wired が 8 月初旬に報じた。サイバー犯罪者と脅威アクターのコミュニティはテクノロジーに精通しており、積極的であり、ツール、テクニック、実践方法の進化における利点と改善を認識して、新しいテクノロジーのトレンドを早期に採用する傾向があります。したがって、脅威アクターが生成 AI を採用していることは驚くべきことではありません。同じ生産性の向上が得られ、隠蔽、偵察、悪意のあるコードの作成、人々やセキュリティ ソフトウェアなどの能力を向上させる可能性があるからです。これらの進展により、サイバーセキュリティの専門家と法執行機関は脅威への対応に慌てています。コーンウェル氏は、サイバーセキュリティ企業は「AIが生成したコンテンツを探すために、より多くのインテリジェンスをシステムに組み込む」必要があると述べ、そのような対抗策の開発には時間がかかると付け加えた。そして、彼女や他の法執行機関はこれらの脅威について警告することはできるが、連続殺人事件の背後にある犯罪グループを鎮圧することは、人工知能を活用する前でさえ難しいだろう。世界的な詐欺防止団体によると、多くの犯罪ネットワークがカンボジア、ラオス、ミャンマーなどの場所で活動しているという。彼らの犯罪は数十億ドルを集め、地元の法執行機関に支払いをし、国際的な制裁を回避することができました。このような大規模で裕福な犯罪グループと戦うのは非常に困難です。OpenAIはコメント要請に応じなかった。
暗号通貨詐欺師はどのように新しい AI テクノロジーを導入しているか
著者: Eric Johansson、dlnews 編集者: Shan Ouba、Golden Finance
OpenAI が ChatGPT を発表し、スタートアップのエコシステムを一変させてから数か月間、このテクノロジーはジャーナリズム、脚本、国家安全保障に対する脅威であるとのレッテルを貼られてきました。したがって、詐欺師やサイバー犯罪者が大規模な言語モデルを悪用して被害者から暗号通貨を盗むのは驚くべきことではありません。それでも、これは、出会い系プラットフォームとしても機能する言語共有アプリ、Tandemを使用している男性がオンラインで会話していたときに起こりました。別の話者はすぐにチャットを WhatsApp に移すよう彼を説得しました。
意図した最終結果が何であれ、この詐欺は「『私』の言語モデルとして、私には人間のような感情や感情がない」ことを明らかにする長い文章によって失敗に終わり、基本的にはChatGPTではないにしても高度なチャットボットを使用しており、それに驚くほどよく似ています。ショックを受けた被害者候補者はサイバーセキュリティ会社ソフォスに連絡し、犯罪者が新しいテクノロジーを悪用する懸念が現実になったことを確認した。
ソフォスの主任脅威研究者であるショーン・ギャラガー氏は、この事件を取り上げたレポートの中で、「少なくとも肉屋詐欺の場合には、これが実際に起きていると言える」と述べた。
Butchery は、詐欺師が被害者を一定期間仮想通貨プラットフォームへの投資に誘導し、現金化する前に高いリターンを約束して、被害者に資金をコミットするよう促し、最終的には損失と恥辱をもたらす詐欺です。 FBI は、このような仮想通貨詐欺により、2022 年までに被害者に 25 億ドル以上の損害が生じたと推定しています。
しかし、ChatGPTや同様のツールの使用により、犯罪者は「過去に見たよりもさらにひどい方法で」規模を拡大することが可能になると、カリフォルニア州検事エリン・ウェスト氏は述べた。彼女は、盗まれた何百万もの暗号通貨の回収に成功したことで有名です。このテクノロジーにより、犯罪者は被害者との会話をより適切に調整し、言語の壁を乗り越え、より多くの人々に連絡を取り、より多くの被害を引き起こすことが可能になります。 「ChatGPT の追加により、これはさらに危険になります。」と彼女は付け加え、この冷静な警告は、サイバー犯罪者が同様のツールを使用してマルウェアを迅速に作成するという報告を受けてのものです。
「かどうか」ではなく、「いつ」が問題です
警備会社や法執行機関はこの展開に不安を抱いているが、話を聞いた人たちは誰も驚いていなかった。 「それは、どうかという問題ではなく、いつ起こるかという問題だ」とサイバーセキュリティ企業SonicWallの戦略的パートナーの実現と統合担当バイスプレジデントであるボビー・コーンウェル氏はDL Newsに語った。
こうした話は、OpenAI が昨年 11 月に ChatGPT を立ち上げて以来、盛り上がっていました。これらの高度なチャットボットは、膨大な量のデータを使用してトレーニングされています。彼らは書籍、コード、Web サイト、記事などの大規模なデータセットを活用し、複雑なコードを記述したり、ユーザーのプロンプトに基づいて会話を続けることもできます。これは OpenAI にとって画期的な出来事です。 1 月の時点で月間アクティブ ユーザー数は約 1 億人で、史上最も急速に成長しているアプリの 1 つとなっています。人々は、オンラインデートのプロフィールの作成からホラーストーリー、さらにはビデオスクリプトの生成やコードのデバッグに至るまで、あらゆる用途にこのツールを使い始めています。 Google や Meta などのテクノロジー大手も、Bard や LLaMA などの独自の会話型 AI ツールの開発を加速しています。
7月、Teslaの最高経営責任者（CEO）イーロン・マスク氏は、OpenAIバージョンよりも「覚醒」度の低いバージョンのChatGPTを作成することを目的として、x.AIと呼ばれる新会社を立ち上げた。 Crunchbaseによると、2023年上半期にAI企業は投資家から250億ドル以上を調達した。
ChatGPT の暗い側面
OpenAI CEOのサム・アルトマンは、勝利を祝う代わりに、自由な人工知能の危険性を警告する世界旅行に出かけた。同氏は米国議会で証言し、OpenAIが「本当に悪いことをするために」その諺にあるAIの魔神を解き放ったのではないかという恐怖で眠れなくなっていると記者団に語った。彼の発言が真の恐怖によって動機付けられたのか、それとも綿密なPR戦略の一部なのかは依然として不明である。
アルトマン氏の発言の背後にある動機が何であれ、デジタル暴徒はすでに ChatGPT または同様のツールを使用して計画をサポートしています。サイバー犯罪者は、OpenAI によってインストールされたセキュリティ対策の影響を受けない独自のバージョンの ChatGPT を作成したとさえ主張しています。彼らはこれらをフィッシング攻撃を強化し、マルウェアを作成するツールとしてダークウェブ上で宣伝したと、Wired が 8 月初旬に報じた。サイバー犯罪者と脅威アクターのコミュニティはテクノロジーに精通しており、積極的であり、ツール、テクニック、実践方法の進化における利点と改善を認識して、新しいテクノロジーのトレンドを早期に採用する傾向があります。
したがって、脅威アクターが生成 AI を採用していることは驚くべきことではありません。同じ生産性の向上が得られ、隠蔽、偵察、悪意のあるコードの作成、人々やセキュリティ ソフトウェアなどの能力を向上させる可能性があるからです。これらの進展により、サイバーセキュリティの専門家と法執行機関は脅威への対応に慌てています。
コーンウェル氏は、サイバーセキュリティ企業は「AIが生成したコンテンツを探すために、より多くのインテリジェンスをシステムに組み込む」必要があると述べ、そのような対抗策の開発には時間がかかると付け加えた。そして、彼女や他の法執行機関はこれらの脅威について警告することはできるが、連続殺人事件の背後にある犯罪グループを鎮圧することは、人工知能を活用する前でさえ難しいだろう。
世界的な詐欺防止団体によると、多くの犯罪ネットワークがカンボジア、ラオス、ミャンマーなどの場所で活動しているという。彼らの犯罪は数十億ドルを集め、地元の法執行機関に支払いをし、国際的な制裁を回避することができました。このような大規模で裕福な犯罪グループと戦うのは非常に困難です。
OpenAIはコメント要請に応じなかった。