ソフォス、AIを利用する攻撃手法を予測して対応を強化へ
- 2023年12月12日 13:30:00
- マネー
- Dream News
<<報道資料>>
ソフォス株式会社
ソフォス、AIを利用する攻撃手法を予測して対応を強化へ
~サイバー攻撃者は現在のところ、AIの活用に積極的ではなく懐疑的になっています~
Cybersecurity-as-a-Serviceを開発・提供するグローバルリーダー企業のソフォス(日本法人:ソフォス株式会社(東京都港区 代表取締役 中西 智行)は本日、サイバー犯罪におけるAIの利用に関する2つのレポートを公開しました。最初のレポート「AI の負の側面: 生成 AI が可能にした大規模詐欺」では、将来、詐欺師がChatGPTのようなテクノロジーを活用することで、最小限の技術スキルがあれば大規模な詐欺を実行できることを説明します。一方で、2つ目のレポート「GPTに対して割れるサイバー犯罪者の方向性」では、AIはサイバー犯罪にとって潜在的な可能性を秘めているものの、その一部はChatGPTのような大規模言語モデル(LLM)を受け入れておらず、AIを攻撃に使用することに懐疑的であり、懸念を抱いていることを報告しています。
●AIの負の側面
Sophos X-Opsは、簡易なeコマース用のテンプレートとGPT-4などのLLMツールを使用し、AIに画像、音声、商品説明、さらに偽のFacebookログインと偽のチェックアウトページを生成させて、完全に動作するWebサイトを構築し、ユーザーのログイン情報とクレジットカード情報を窃取することに成功しました。最小限の技術的な知識があれば、このようなWebサイトを作成して運用することができます。Sophos X-Opsは同じツールを使用して、簡単な操作で数百もの同様のWebサイトを数分で作成できました。
ソフォスのシニアデータサイエンティストであるBen Gelmanは、サイバー攻撃へのAIの利用について、次のように述べています。「犯罪者が攻撃を自動化するために新しいテクノロジーを取り入れようとするのは必然的であり、予想されてきたことです。独自性のあるスパムメールを作成するテクノロジーは、詐欺の大規模化に直結しており、大きな変化をもたらしました。脅威を完全に自動化できるAIテクノロジーが存在するのであれば、最終的に必ず利用されることになるでしょう。標的のユーザーをおびき寄せるためにAIが生成したテキストや写真などが使用されており、古典的な詐欺の一部の要素に生成AIがすでに利用されています。今回の調査を実施した理由の一つは、犯罪者に先んじてAIを悪用するさまざまな手法を探ることでした。犯罪者が現在使用しているツールよりも高度な、大規模な不正Webサイト生成システムを構築することで、このような脅威が拡散する前に分析し、対策を講ずるためのまたとない機会を得ることができました」
● GPTに対して割れるサイバー犯罪者の方向性
Sophos X-Opsは、AIに対する攻撃者の動向を調査するため、LLM関連の討論が活発に行われている4つのダークウェブフォーラムを調査しました。サイバー犯罪者によるAIの利用は黎明期と言えます。ダークウェブに集まっているサイバー攻撃者は、ソーシャルエンジニアリングにおけるAI利用の可能性について議論していますが、Sophos X-Opsはすでに、暗号資産を窃取するロマンス詐欺でAIが利用されていることを確認しています。
さらに、Sophos X-Opsは、乗っ取ったChatGPTアカウントの販売や、LLMに組み込まれている保護を回避し、サイバー犯罪者が悪意のある目的でAIを悪用できるようにするジェイルブレイクの方法に関する多くの投稿を発見しています。また、サイバー攻撃やマルウェアの開発に使用できる可能性があるChatGPTの亜種も10個発見しました。しかし、これらの亜種やその他のLLMの悪意のある利用方法に対するサイバー攻撃者の反応はまちまちであり、多くの犯罪者はChatGPTを模倣した生成AIのクリエイターが騙そうとしているのではないかと懸念を示している場合もあります。
Sophos X-Opsのリサーチ担当ディレクターであるChristopher Buddは、次のようには述べています。
「ChatGPTが公開されてから、サイバー犯罪者によるAIやLLMの悪用についての懸念が広がっていますが、ソフォスの調査によると、今のところ、サイバー攻撃者は生成AIの利用について積極的というよりは懐疑的です。ソフォスが調査したダークウェブの4つのフォーラムのうち2つでは、AIに関する投稿は100件しか見つかりませんでした。暗号通貨に関する投稿は同じ期間に1,000件あったことから、これは決して多い数ではありません。LLMを悪用してマルウェアや攻撃ツールを作成したサイバー犯罪者もこれまでに存在していますが、高度な攻撃を実行することはできず、ユーザーから疑われることケースが多くありました。また、あるサイバー攻撃者が、ChatGPTの潜在性をアピールすることに躍起となり、おもわず自分の正体に関する重要な情報を暴露してしまったケースもありました。AIが社会に及ぼす潜在的な悪影響や、AI利用の倫理的な意味についての「考察」も数多く見つかりました。少なくとも今のところは、サイバー犯罪者も私たちと同じようにLLMについて議論している段階と言えるでしょう」
AIが生成した詐欺用のサイトとサイバー攻撃者によるLLMに対する動向については、「AI の負の側面: 生成 AI が可能にした大規模詐欺」(https://news.sophos.com/ja-jp/2023/11/27/the-dark-side-of-ai-large-scale-scam-campaigns-made-possible-by-generative-ai-jp/)と「GPTに対して割れるサイバー犯罪者の方向性」(https://news.sophos.com/en-us/2023/11/28/cybercriminals-cant-agree-on-gpts)を参照してください。
●詳細情報
・防御側の組織がAIをサイバーセキュリティの副操縦士として活用する方法
https://www.sophos.com/en-us/press/press-releases/2023/03/sophos-demonstrates-how-make-chatgpt-cybersecurity-co-pilot
・「豚の屠殺」と呼ばれるロマンス詐欺における、生成AIを使用した最新の攻撃手法
https://news.sophos.com/ja-jp/2023/08/03/sha-zhu-pan-scam-uses-ai-chat-to-target-iphone-and-android-users-jp/
https://news.sophos.com/ja-jp/2022/12/07/the-scammers-who-scam-scammers-on-cybercrime-forums-part-1-jp/
・サイバー犯罪フォーラムにおける詐欺師による騙し合い
https://news.sophos.com/ja-jp/2022/12/07/the-scammers-who-scam-scammers-on-cybercrime-forums-part-1-jp/
・ダークウェブでのサイバー犯罪コンテスト
https://news.sophos.com/en-us/2023/08/29/for-the-win-offensive-research-contests-on-criminal-forums/
・急速に変化する脅威環境の中で、防御側の組織がサイバー攻撃に対抗する方法(「セキュリティ担当者のためのアクティブアドバーサリレポート 2023 年版」)
https://news.sophos.com/ja-jp/2023/11/14/active-adversary-for-security-practitioners-jp/
・攻撃者の滞留時間の減少、攻撃者の行動と手法の変化(テクノロジーリーダーのための2023年版アクティブアドバーサリレポート」
https://news.sophos.com/ja-jp/2023/08/23/active-adversary-for-tech-leaders-jp/
・150件以上のソフォスのインシデント対応事例を分析し、変化を続ける攻撃者の行動、手法、戦術を明らかにした「ビジネスリーダーのための2023年版アクティブアドバーサリレポート」
https://news.sophos.com/ja-jp/2023/04/25/2023-active-adversary-report-for-business-leaders/
・Sophos X-Opsのブログ(https://news.sophos.com/ja-jp/category/threat-research/)をサブスクライブし、Sophos X-Opsと画期的な脅威リサーチの詳細(https://www.sophos.com/ja-jp/x-ops)をチェックしてください。
●ソフォスについて
ソフォスは、組織をサイバー攻撃から守るDetection and Response (MDR) サービスやインシデント・レスポンス・サービスのほか、幅広いエンドポイント、ネットワーク、電子メール、およびクラウドのセキュリティ技術群を含む高度なサイバーセキュリティ・ソリューションを開発・提供する世界的なリーダーです。ソフォスは、サイバーセキュリティに特化した最大級のプロバイダーとして、全世界で50万以上の組織と1億人以上のユーザーを、アクティブアドバーサリ、ランサムウェア、フィッシング、マルウェアなどから保護しています。ソフォスのサービスと製品は、クラウドベースの管理コンソールSophos Centralに接続され、3つのサイバーセキュリティ専門家チームから構成される脅威インテリジェンス組織であるSophos X-Opsの支援を受けています。Sophos X-Opsのインテリジェンスは、ソフォスの適応型サイバーセキュリティエコシステムのあらゆる場所で最適な形で活用できます。このエコシステムには一元的なデータレイクが含まれ、顧客、パートナー、開発者、他のサイバーセキュリティおよび情報テクノロジーベンダーは豊富なオープンAPIセットを活用して、このデータレイクにアクセスできます。ソフォスは、フルマネージドのターンキーセキュリティソリューションを必要としている組織にサービスとしてのサイバーセキュリティを提供しています。企業や組織は、ソフォスのセキュリティオペレーションプラットフォームを使用して直接サイバーセキュリティを管理することも、脅威の検出や修復についてもソフォスのサービスを利用して社内チームの能力を補完するハイブリッドなアプローチを採用することもできます。ソフォスは、世界各国のリセラーパートナーやMSP(マネージドサービスプロバイダー)から製品およびサービスを販売しています。ソフォスの本社は英国オックスフォードにあります。詳細についてはwww.sophos.com(日本語サイト:https://www.sophos.com/ja-jp.aspx)をご覧ください。
●報道関係のお問合せ先
ソフォス株式会社広報事務局
Tel: 03-6454-6930
Email: sophos@ambilogue.com
以上
配信元企業:ソフォス株式会社
プレスリリース詳細へ
ドリームニューストップへ
45歳歌姫まさかの赤ジャージー姿にSNS興奮「キュンキュン」「ニヤニヤ」「やばすぎww」
石原さとみ「ナンパもされた」仕事が全部なくなり泣いて暮らした1年 米NYで知った選ぶ楽しさ
松竹所属41歳芸人も退所?「所属」欄にツッコミ殺到「脱竹の伏線?」「隠れ円満退社?」
【日本ハム】プロ野球史上初1安打4得点「せこせこ野球」でリード奪うも3失策自滅で逆転負け
またしても粗品の呪い炸裂、天皇賞・春で1番人気のドゥレッツァが馬群に沈む……「ありがとうございます!」
【阪神】“神風”吹き逆転で2連勝 岡田監督「打った瞬間はちょっと諦めました」/一問一答
【巨人】堀田賢慎632日ぶり勝利 1死満塁で登板し、4番牧を併殺で仕留める「一番最高の形」
「粗品の呪い」Xトレンド入り、天皇賞・春本命馬15着、競争中止もあり「天才」「さすが」の声
元小室ファミリー42歳女性歌手が4歳次男顔出し披露、夫は7歳下一般男性で子ども3人
2代目「まるちゃんの声」Xトレンド入り!登場2週で「似てきてる」「さすがプロ」驚きの声続々
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
完全にダマされた! 『ラヴィット!』あのちゃん“事故レベル”大暴走は『水ダウ』遠隔操作のしわざだった ネットも納得
神田正輝、元妻松田聖子に突如自ら“衝撃言及”しスタジオ騒然
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
辞退表明の元モー娘。市井氏が「初当選」 1日で辞職も7万円支給へ
大久保佳代子「30代前半は性欲おばけ」“ストッパー”にするためあえてしていたこと明かす
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
やす子「一番苦手な女先輩芸人」を衝撃告白しスタジオ騒然「この性格が苦手」
重要指名手配の上地恵栄容疑者が死亡 2005年の三鷹殺人事件
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
曙と熱愛した相原勇(52)の現在が衝撃的すぎると話題に
深夜のファミリーマート徘徊、必ず入っている「フエラムネのミニチュアおもちゃ付」を探し求めた結果……
ガーシー、佐野ひなこの暴露を示唆でネット騒然「ファンだったのに」
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
ガーシー、またも綾野剛の暴露写真でネット歓喜「この写真見て笑っちゃう」
いなば食品のホームページが表示されない!そして「プレスリリース」もヤバすぎると話題に
完全にダマされた! 『ラヴィット!』あのちゃん“事故レベル”大暴走は『水ダウ』遠隔操作のしわざだった ネットも納得
小澤征悦と再婚した桑子真帆アナ(34)黒い過去が流出、衝撃の過去にネット騒然
45歳歌姫まさかの赤ジャージー姿にSNS興奮「キュンキュン」「ニヤニヤ」「やばすぎww」
石原さとみ「ナンパもされた」仕事が全部なくなり泣いて暮らした1年 米NYで知った選ぶ楽しさ
松竹所属41歳芸人も退所?「所属」欄にツッコミ殺到「脱竹の伏線?」「隠れ円満退社?」
【日本ハム】プロ野球史上初1安打4得点「せこせこ野球」でリード奪うも3失策自滅で逆転負け
またしても粗品の呪い炸裂、天皇賞・春で1番人気のドゥレッツァが馬群に沈む……「ありがとうございます!」
【阪神】“神風”吹き逆転で2連勝 岡田監督「打った瞬間はちょっと諦めました」/一問一答
【巨人】堀田賢慎632日ぶり勝利 1死満塁で登板し、4番牧を併殺で仕留める「一番最高の形」
「粗品の呪い」Xトレンド入り、天皇賞・春本命馬15着、競争中止もあり「天才」「さすが」の声
元小室ファミリー42歳女性歌手が4歳次男顔出し披露、夫は7歳下一般男性で子ども3人
2代目「まるちゃんの声」Xトレンド入り!登場2週で「似てきてる」「さすがプロ」驚きの声続々