ソフォス、AIを利用する攻撃手法を予測して対応を強化へ
- 2023年12月12日 13:30:00
- マネー
- Dream News
<<報道資料>>
ソフォス株式会社
ソフォス、AIを利用する攻撃手法を予測して対応を強化へ
~サイバー攻撃者は現在のところ、AIの活用に積極的ではなく懐疑的になっています~
Cybersecurity-as-a-Serviceを開発・提供するグローバルリーダー企業のソフォス(日本法人:ソフォス株式会社(東京都港区 代表取締役 中西 智行)は本日、サイバー犯罪におけるAIの利用に関する2つのレポートを公開しました。最初のレポート「AI の負の側面: 生成 AI が可能にした大規模詐欺」では、将来、詐欺師がChatGPTのようなテクノロジーを活用することで、最小限の技術スキルがあれば大規模な詐欺を実行できることを説明します。一方で、2つ目のレポート「GPTに対して割れるサイバー犯罪者の方向性」では、AIはサイバー犯罪にとって潜在的な可能性を秘めているものの、その一部はChatGPTのような大規模言語モデル(LLM)を受け入れておらず、AIを攻撃に使用することに懐疑的であり、懸念を抱いていることを報告しています。
●AIの負の側面
Sophos X-Opsは、簡易なeコマース用のテンプレートとGPT-4などのLLMツールを使用し、AIに画像、音声、商品説明、さらに偽のFacebookログインと偽のチェックアウトページを生成させて、完全に動作するWebサイトを構築し、ユーザーのログイン情報とクレジットカード情報を窃取することに成功しました。最小限の技術的な知識があれば、このようなWebサイトを作成して運用することができます。Sophos X-Opsは同じツールを使用して、簡単な操作で数百もの同様のWebサイトを数分で作成できました。
ソフォスのシニアデータサイエンティストであるBen Gelmanは、サイバー攻撃へのAIの利用について、次のように述べています。「犯罪者が攻撃を自動化するために新しいテクノロジーを取り入れようとするのは必然的であり、予想されてきたことです。独自性のあるスパムメールを作成するテクノロジーは、詐欺の大規模化に直結しており、大きな変化をもたらしました。脅威を完全に自動化できるAIテクノロジーが存在するのであれば、最終的に必ず利用されることになるでしょう。標的のユーザーをおびき寄せるためにAIが生成したテキストや写真などが使用されており、古典的な詐欺の一部の要素に生成AIがすでに利用されています。今回の調査を実施した理由の一つは、犯罪者に先んじてAIを悪用するさまざまな手法を探ることでした。犯罪者が現在使用しているツールよりも高度な、大規模な不正Webサイト生成システムを構築することで、このような脅威が拡散する前に分析し、対策を講ずるためのまたとない機会を得ることができました」
● GPTに対して割れるサイバー犯罪者の方向性
Sophos X-Opsは、AIに対する攻撃者の動向を調査するため、LLM関連の討論が活発に行われている4つのダークウェブフォーラムを調査しました。サイバー犯罪者によるAIの利用は黎明期と言えます。ダークウェブに集まっているサイバー攻撃者は、ソーシャルエンジニアリングにおけるAI利用の可能性について議論していますが、Sophos X-Opsはすでに、暗号資産を窃取するロマンス詐欺でAIが利用されていることを確認しています。
さらに、Sophos X-Opsは、乗っ取ったChatGPTアカウントの販売や、LLMに組み込まれている保護を回避し、サイバー犯罪者が悪意のある目的でAIを悪用できるようにするジェイルブレイクの方法に関する多くの投稿を発見しています。また、サイバー攻撃やマルウェアの開発に使用できる可能性があるChatGPTの亜種も10個発見しました。しかし、これらの亜種やその他のLLMの悪意のある利用方法に対するサイバー攻撃者の反応はまちまちであり、多くの犯罪者はChatGPTを模倣した生成AIのクリエイターが騙そうとしているのではないかと懸念を示している場合もあります。
Sophos X-Opsのリサーチ担当ディレクターであるChristopher Buddは、次のようには述べています。
「ChatGPTが公開されてから、サイバー犯罪者によるAIやLLMの悪用についての懸念が広がっていますが、ソフォスの調査によると、今のところ、サイバー攻撃者は生成AIの利用について積極的というよりは懐疑的です。ソフォスが調査したダークウェブの4つのフォーラムのうち2つでは、AIに関する投稿は100件しか見つかりませんでした。暗号通貨に関する投稿は同じ期間に1,000件あったことから、これは決して多い数ではありません。LLMを悪用してマルウェアや攻撃ツールを作成したサイバー犯罪者もこれまでに存在していますが、高度な攻撃を実行することはできず、ユーザーから疑われることケースが多くありました。また、あるサイバー攻撃者が、ChatGPTの潜在性をアピールすることに躍起となり、おもわず自分の正体に関する重要な情報を暴露してしまったケースもありました。AIが社会に及ぼす潜在的な悪影響や、AI利用の倫理的な意味についての「考察」も数多く見つかりました。少なくとも今のところは、サイバー犯罪者も私たちと同じようにLLMについて議論している段階と言えるでしょう」
AIが生成した詐欺用のサイトとサイバー攻撃者によるLLMに対する動向については、「AI の負の側面: 生成 AI が可能にした大規模詐欺」(https://news.sophos.com/ja-jp/2023/11/27/the-dark-side-of-ai-large-scale-scam-campaigns-made-possible-by-generative-ai-jp/)と「GPTに対して割れるサイバー犯罪者の方向性」(https://news.sophos.com/en-us/2023/11/28/cybercriminals-cant-agree-on-gpts)を参照してください。
●詳細情報
・防御側の組織がAIをサイバーセキュリティの副操縦士として活用する方法
https://www.sophos.com/en-us/press/press-releases/2023/03/sophos-demonstrates-how-make-chatgpt-cybersecurity-co-pilot
・「豚の屠殺」と呼ばれるロマンス詐欺における、生成AIを使用した最新の攻撃手法
https://news.sophos.com/ja-jp/2023/08/03/sha-zhu-pan-scam-uses-ai-chat-to-target-iphone-and-android-users-jp/
https://news.sophos.com/ja-jp/2022/12/07/the-scammers-who-scam-scammers-on-cybercrime-forums-part-1-jp/
・サイバー犯罪フォーラムにおける詐欺師による騙し合い
https://news.sophos.com/ja-jp/2022/12/07/the-scammers-who-scam-scammers-on-cybercrime-forums-part-1-jp/
・ダークウェブでのサイバー犯罪コンテスト
https://news.sophos.com/en-us/2023/08/29/for-the-win-offensive-research-contests-on-criminal-forums/
・急速に変化する脅威環境の中で、防御側の組織がサイバー攻撃に対抗する方法(「セキュリティ担当者のためのアクティブアドバーサリレポート 2023 年版」)
https://news.sophos.com/ja-jp/2023/11/14/active-adversary-for-security-practitioners-jp/
・攻撃者の滞留時間の減少、攻撃者の行動と手法の変化(テクノロジーリーダーのための2023年版アクティブアドバーサリレポート」
https://news.sophos.com/ja-jp/2023/08/23/active-adversary-for-tech-leaders-jp/
・150件以上のソフォスのインシデント対応事例を分析し、変化を続ける攻撃者の行動、手法、戦術を明らかにした「ビジネスリーダーのための2023年版アクティブアドバーサリレポート」
https://news.sophos.com/ja-jp/2023/04/25/2023-active-adversary-report-for-business-leaders/
・Sophos X-Opsのブログ(https://news.sophos.com/ja-jp/category/threat-research/)をサブスクライブし、Sophos X-Opsと画期的な脅威リサーチの詳細(https://www.sophos.com/ja-jp/x-ops)をチェックしてください。
●ソフォスについて
ソフォスは、組織をサイバー攻撃から守るDetection and Response (MDR) サービスやインシデント・レスポンス・サービスのほか、幅広いエンドポイント、ネットワーク、電子メール、およびクラウドのセキュリティ技術群を含む高度なサイバーセキュリティ・ソリューションを開発・提供する世界的なリーダーです。ソフォスは、サイバーセキュリティに特化した最大級のプロバイダーとして、全世界で50万以上の組織と1億人以上のユーザーを、アクティブアドバーサリ、ランサムウェア、フィッシング、マルウェアなどから保護しています。ソフォスのサービスと製品は、クラウドベースの管理コンソールSophos Centralに接続され、3つのサイバーセキュリティ専門家チームから構成される脅威インテリジェンス組織であるSophos X-Opsの支援を受けています。Sophos X-Opsのインテリジェンスは、ソフォスの適応型サイバーセキュリティエコシステムのあらゆる場所で最適な形で活用できます。このエコシステムには一元的なデータレイクが含まれ、顧客、パートナー、開発者、他のサイバーセキュリティおよび情報テクノロジーベンダーは豊富なオープンAPIセットを活用して、このデータレイクにアクセスできます。ソフォスは、フルマネージドのターンキーセキュリティソリューションを必要としている組織にサービスとしてのサイバーセキュリティを提供しています。企業や組織は、ソフォスのセキュリティオペレーションプラットフォームを使用して直接サイバーセキュリティを管理することも、脅威の検出や修復についてもソフォスのサービスを利用して社内チームの能力を補完するハイブリッドなアプローチを採用することもできます。ソフォスは、世界各国のリセラーパートナーやMSP(マネージドサービスプロバイダー)から製品およびサービスを販売しています。ソフォスの本社は英国オックスフォードにあります。詳細についてはwww.sophos.com(日本語サイト:https://www.sophos.com/ja-jp.aspx)をご覧ください。
●報道関係のお問合せ先
ソフォス株式会社広報事務局
Tel: 03-6454-6930
Email: sophos@ambilogue.com
以上
配信元企業:ソフォス株式会社
プレスリリース詳細へ
ドリームニューストップへ
篠田麻里子、あでやかな着物姿披露「美しい女神様」“姉”藤原紀香ら四姉妹そろい踏みショットも
【ユーロ】初出場ジョージアが歴史的勝利、ロナウドのポルトガル破り16強進出!まるで優勝騒ぎ
フジ三上真奈アナ、美脚のぞかせたラフな私服姿で団子ほおばるショットに「JKミカミさん」
テレ朝佐藤ちひろアナ「透明感えぐい!可愛すぎる」真っ白パフスリーブ爽やかコーデ
桃井かおり、永野芽郁とイベントオフショット披露「姉妹かと思った」「おふたりともピッカピカ」
ベルキン、新しいカラフルなQi2ワイヤレス充電パワーバンクのラインアップを発表し、apple.comと世界の一部のApple直営店で独占販売
【ユーロ】トルコ、後半追加タイムに決勝点で2位進出 チェコ相手に合計18枚のカード飛び交う
工藤静香、大きなフキの穴をのぞいたり回してみたり…料理前の仕草が「可愛くて可愛くて」
日テレ佐藤梨那アナ「みんなボウタイの日」news zero共演者とおそろい3ショット披露
矢口真里、「パーマみたい」な髪型の近影と「似てなかった」AI加工のアニメ風自画像を投稿
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
霜月るな、松本人志めぐる“新証言”報道に「どうゆう事?その告発で人の人生奪ってるんやで」
22歳・元HKTタレント「最高すぎる」美バストあらわな水着姿披露「君がチャンピオン」と反響
イケメンだから許される!堀北真希と山本耕史の「馴れ初め」が映画化希望するレベル
粗品、“大物ピン芸人”同席の飲み拒否「その先輩おるなら行きません」情報暴露されスタジオ騒然
【ネタバレ?】史実で見るキングダムの今後の展開まとめ〜中華統一までの全体像
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
知事選辞退へずまりゅう怒り「俺を舐めるのも大概にしろよ?俺みたいな大物インフルエンサーと」
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
イケメンだから許される!堀北真希と山本耕史の「馴れ初め」が映画化希望するレベル
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
都知事選掲示板にヌードポスター ひろゆき氏「世も末」 SNSで批判噴出
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
【ネタバレ?】史実で見るキングダムの今後の展開まとめ〜中華統一までの全体像
松本人志飲み会参加セクシー女優「警察に相談しに行きました」報告「さすがにこれは酷すぎる」
篠田麻里子、あでやかな着物姿披露「美しい女神様」“姉”藤原紀香ら四姉妹そろい踏みショットも
【ユーロ】初出場ジョージアが歴史的勝利、ロナウドのポルトガル破り16強進出!まるで優勝騒ぎ
フジ三上真奈アナ、美脚のぞかせたラフな私服姿で団子ほおばるショットに「JKミカミさん」
テレ朝佐藤ちひろアナ「透明感えぐい!可愛すぎる」真っ白パフスリーブ爽やかコーデ
桃井かおり、永野芽郁とイベントオフショット披露「姉妹かと思った」「おふたりともピッカピカ」
ベルキン、新しいカラフルなQi2ワイヤレス充電パワーバンクのラインアップを発表し、apple.comと世界の一部のApple直営店で独占販売
【ユーロ】トルコ、後半追加タイムに決勝点で2位進出 チェコ相手に合計18枚のカード飛び交う
工藤静香、大きなフキの穴をのぞいたり回してみたり…料理前の仕草が「可愛くて可愛くて」
日テレ佐藤梨那アナ「みんなボウタイの日」news zero共演者とおそろい3ショット披露
矢口真里、「パーマみたい」な髪型の近影と「似てなかった」AI加工のアニメ風自画像を投稿