ソフォス、AIを利用する攻撃手法を予測して対応を強化へ
- 2023年12月12日 13:30:00
- マネー
- Dream News
<<報道資料>>
ソフォス株式会社
ソフォス、AIを利用する攻撃手法を予測して対応を強化へ
~サイバー攻撃者は現在のところ、AIの活用に積極的ではなく懐疑的になっています~
Cybersecurity-as-a-Serviceを開発・提供するグローバルリーダー企業のソフォス(日本法人:ソフォス株式会社(東京都港区 代表取締役 中西 智行)は本日、サイバー犯罪におけるAIの利用に関する2つのレポートを公開しました。最初のレポート「AI の負の側面: 生成 AI が可能にした大規模詐欺」では、将来、詐欺師がChatGPTのようなテクノロジーを活用することで、最小限の技術スキルがあれば大規模な詐欺を実行できることを説明します。一方で、2つ目のレポート「GPTに対して割れるサイバー犯罪者の方向性」では、AIはサイバー犯罪にとって潜在的な可能性を秘めているものの、その一部はChatGPTのような大規模言語モデル(LLM)を受け入れておらず、AIを攻撃に使用することに懐疑的であり、懸念を抱いていることを報告しています。
●AIの負の側面
Sophos X-Opsは、簡易なeコマース用のテンプレートとGPT-4などのLLMツールを使用し、AIに画像、音声、商品説明、さらに偽のFacebookログインと偽のチェックアウトページを生成させて、完全に動作するWebサイトを構築し、ユーザーのログイン情報とクレジットカード情報を窃取することに成功しました。最小限の技術的な知識があれば、このようなWebサイトを作成して運用することができます。Sophos X-Opsは同じツールを使用して、簡単な操作で数百もの同様のWebサイトを数分で作成できました。
ソフォスのシニアデータサイエンティストであるBen Gelmanは、サイバー攻撃へのAIの利用について、次のように述べています。「犯罪者が攻撃を自動化するために新しいテクノロジーを取り入れようとするのは必然的であり、予想されてきたことです。独自性のあるスパムメールを作成するテクノロジーは、詐欺の大規模化に直結しており、大きな変化をもたらしました。脅威を完全に自動化できるAIテクノロジーが存在するのであれば、最終的に必ず利用されることになるでしょう。標的のユーザーをおびき寄せるためにAIが生成したテキストや写真などが使用されており、古典的な詐欺の一部の要素に生成AIがすでに利用されています。今回の調査を実施した理由の一つは、犯罪者に先んじてAIを悪用するさまざまな手法を探ることでした。犯罪者が現在使用しているツールよりも高度な、大規模な不正Webサイト生成システムを構築することで、このような脅威が拡散する前に分析し、対策を講ずるためのまたとない機会を得ることができました」
● GPTに対して割れるサイバー犯罪者の方向性
Sophos X-Opsは、AIに対する攻撃者の動向を調査するため、LLM関連の討論が活発に行われている4つのダークウェブフォーラムを調査しました。サイバー犯罪者によるAIの利用は黎明期と言えます。ダークウェブに集まっているサイバー攻撃者は、ソーシャルエンジニアリングにおけるAI利用の可能性について議論していますが、Sophos X-Opsはすでに、暗号資産を窃取するロマンス詐欺でAIが利用されていることを確認しています。
さらに、Sophos X-Opsは、乗っ取ったChatGPTアカウントの販売や、LLMに組み込まれている保護を回避し、サイバー犯罪者が悪意のある目的でAIを悪用できるようにするジェイルブレイクの方法に関する多くの投稿を発見しています。また、サイバー攻撃やマルウェアの開発に使用できる可能性があるChatGPTの亜種も10個発見しました。しかし、これらの亜種やその他のLLMの悪意のある利用方法に対するサイバー攻撃者の反応はまちまちであり、多くの犯罪者はChatGPTを模倣した生成AIのクリエイターが騙そうとしているのではないかと懸念を示している場合もあります。
Sophos X-Opsのリサーチ担当ディレクターであるChristopher Buddは、次のようには述べています。
「ChatGPTが公開されてから、サイバー犯罪者によるAIやLLMの悪用についての懸念が広がっていますが、ソフォスの調査によると、今のところ、サイバー攻撃者は生成AIの利用について積極的というよりは懐疑的です。ソフォスが調査したダークウェブの4つのフォーラムのうち2つでは、AIに関する投稿は100件しか見つかりませんでした。暗号通貨に関する投稿は同じ期間に1,000件あったことから、これは決して多い数ではありません。LLMを悪用してマルウェアや攻撃ツールを作成したサイバー犯罪者もこれまでに存在していますが、高度な攻撃を実行することはできず、ユーザーから疑われることケースが多くありました。また、あるサイバー攻撃者が、ChatGPTの潜在性をアピールすることに躍起となり、おもわず自分の正体に関する重要な情報を暴露してしまったケースもありました。AIが社会に及ぼす潜在的な悪影響や、AI利用の倫理的な意味についての「考察」も数多く見つかりました。少なくとも今のところは、サイバー犯罪者も私たちと同じようにLLMについて議論している段階と言えるでしょう」
AIが生成した詐欺用のサイトとサイバー攻撃者によるLLMに対する動向については、「AI の負の側面: 生成 AI が可能にした大規模詐欺」(https://news.sophos.com/ja-jp/2023/11/27/the-dark-side-of-ai-large-scale-scam-campaigns-made-possible-by-generative-ai-jp/)と「GPTに対して割れるサイバー犯罪者の方向性」(https://news.sophos.com/en-us/2023/11/28/cybercriminals-cant-agree-on-gpts)を参照してください。
●詳細情報
・防御側の組織がAIをサイバーセキュリティの副操縦士として活用する方法
https://www.sophos.com/en-us/press/press-releases/2023/03/sophos-demonstrates-how-make-chatgpt-cybersecurity-co-pilot
・「豚の屠殺」と呼ばれるロマンス詐欺における、生成AIを使用した最新の攻撃手法
https://news.sophos.com/ja-jp/2023/08/03/sha-zhu-pan-scam-uses-ai-chat-to-target-iphone-and-android-users-jp/
https://news.sophos.com/ja-jp/2022/12/07/the-scammers-who-scam-scammers-on-cybercrime-forums-part-1-jp/
・サイバー犯罪フォーラムにおける詐欺師による騙し合い
https://news.sophos.com/ja-jp/2022/12/07/the-scammers-who-scam-scammers-on-cybercrime-forums-part-1-jp/
・ダークウェブでのサイバー犯罪コンテスト
https://news.sophos.com/en-us/2023/08/29/for-the-win-offensive-research-contests-on-criminal-forums/
・急速に変化する脅威環境の中で、防御側の組織がサイバー攻撃に対抗する方法(「セキュリティ担当者のためのアクティブアドバーサリレポート 2023 年版」)
https://news.sophos.com/ja-jp/2023/11/14/active-adversary-for-security-practitioners-jp/
・攻撃者の滞留時間の減少、攻撃者の行動と手法の変化(テクノロジーリーダーのための2023年版アクティブアドバーサリレポート」
https://news.sophos.com/ja-jp/2023/08/23/active-adversary-for-tech-leaders-jp/
・150件以上のソフォスのインシデント対応事例を分析し、変化を続ける攻撃者の行動、手法、戦術を明らかにした「ビジネスリーダーのための2023年版アクティブアドバーサリレポート」
https://news.sophos.com/ja-jp/2023/04/25/2023-active-adversary-report-for-business-leaders/
・Sophos X-Opsのブログ(https://news.sophos.com/ja-jp/category/threat-research/)をサブスクライブし、Sophos X-Opsと画期的な脅威リサーチの詳細(https://www.sophos.com/ja-jp/x-ops)をチェックしてください。
●ソフォスについて
ソフォスは、組織をサイバー攻撃から守るDetection and Response (MDR) サービスやインシデント・レスポンス・サービスのほか、幅広いエンドポイント、ネットワーク、電子メール、およびクラウドのセキュリティ技術群を含む高度なサイバーセキュリティ・ソリューションを開発・提供する世界的なリーダーです。ソフォスは、サイバーセキュリティに特化した最大級のプロバイダーとして、全世界で50万以上の組織と1億人以上のユーザーを、アクティブアドバーサリ、ランサムウェア、フィッシング、マルウェアなどから保護しています。ソフォスのサービスと製品は、クラウドベースの管理コンソールSophos Centralに接続され、3つのサイバーセキュリティ専門家チームから構成される脅威インテリジェンス組織であるSophos X-Opsの支援を受けています。Sophos X-Opsのインテリジェンスは、ソフォスの適応型サイバーセキュリティエコシステムのあらゆる場所で最適な形で活用できます。このエコシステムには一元的なデータレイクが含まれ、顧客、パートナー、開発者、他のサイバーセキュリティおよび情報テクノロジーベンダーは豊富なオープンAPIセットを活用して、このデータレイクにアクセスできます。ソフォスは、フルマネージドのターンキーセキュリティソリューションを必要としている組織にサービスとしてのサイバーセキュリティを提供しています。企業や組織は、ソフォスのセキュリティオペレーションプラットフォームを使用して直接サイバーセキュリティを管理することも、脅威の検出や修復についてもソフォスのサービスを利用して社内チームの能力を補完するハイブリッドなアプローチを採用することもできます。ソフォスは、世界各国のリセラーパートナーやMSP(マネージドサービスプロバイダー)から製品およびサービスを販売しています。ソフォスの本社は英国オックスフォードにあります。詳細についてはwww.sophos.com(日本語サイト:https://www.sophos.com/ja-jp.aspx)をご覧ください。
●報道関係のお問合せ先
ソフォス株式会社広報事務局
Tel: 03-6454-6930
Email: sophos@ambilogue.com
以上
配信元企業:ソフォス株式会社
プレスリリース詳細へ
ドリームニューストップへ
32歳板野友美、悩殺ビキニショット「何枚目すき?」にコメ欄もん絶「どれもかわいすぎ」
小泉今日子、ファンクラブに入るほどハマっているアーティスト明かす「何この子たち!?」
堀江貴文氏、初「LCC」搭乗での違和感指摘「日よけ」問題「どっちが正しいの?」
60代70代もアニメに夢中!?「老人のアニメ寄せ」現象を唱える投稿に反響
JAL機、誘導路で停止線越え 滑走路の他機、急ブレーキで離陸中止
【阪神】ハマの神風味方にした虎外野陣の「準備力」筒井コーチ「だいぶ前から仕込んできたこと」
【中日】球団初のOB戦を7・25バンテリンドームで開催 落合博満氏、外国人らも出場交渉中
ゆたぼん「学校で何を学んできたんや?」ネット論客次々“論破”し驚きの声「これが世代交代か」
一戸建てやマンションの売買や賃貸借するとき損しない 事前に知っておきたい5つのポイント
長渕剛の妻・志穂美悦子、赤いバラの写真添え最新ショット公開 歌手デビューへの祝福も続々
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
73歳神田正輝「旅サラダ」生放送で“12歳下俳優”から呼び捨てされ激論
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
曙と熱愛した相原勇(52)の現在が衝撃的すぎると話題に
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
55歳森口博子「だっちゅーの」鮮やかビキニ姿披露にX歓喜「破壊力ハンパない」「スゴすぎ」
「ふてほど」25歳女優“薔薇ブラ”でポロリ寸前?過激衣装に「見えちゃう」「刺激強すぎ」
大物炎上系ユーチューバー”衝撃の預金残高”公開「すげぇ」「エグい」驚きの声
水原一平容疑者 最高刑「懲役33年」トレンド入り 「人生詰んだ」「稀代の詐欺師」の声
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
深夜のファミリーマート徘徊、必ず入っている「フエラムネのミニチュアおもちゃ付」を探し求めた結果……
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
完全にダマされた! 『ラヴィット!』あのちゃん“事故レベル”大暴走は『水ダウ』遠隔操作のしわざだった ネットも納得
ガーシー、またも綾野剛の暴露写真でネット歓喜「この写真見て笑っちゃう」
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
小澤征悦と再婚した桑子真帆アナ(34)黒い過去が流出、衝撃の過去にネット騒然
ガーシー、佐野ひなこの暴露を示唆でネット騒然「ファンだったのに」
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
32歳板野友美、悩殺ビキニショット「何枚目すき?」にコメ欄もん絶「どれもかわいすぎ」
小泉今日子、ファンクラブに入るほどハマっているアーティスト明かす「何この子たち!?」
堀江貴文氏、初「LCC」搭乗での違和感指摘「日よけ」問題「どっちが正しいの?」
60代70代もアニメに夢中!?「老人のアニメ寄せ」現象を唱える投稿に反響
JAL機、誘導路で停止線越え 滑走路の他機、急ブレーキで離陸中止
【阪神】ハマの神風味方にした虎外野陣の「準備力」筒井コーチ「だいぶ前から仕込んできたこと」
【中日】球団初のOB戦を7・25バンテリンドームで開催 落合博満氏、外国人らも出場交渉中
ゆたぼん「学校で何を学んできたんや?」ネット論客次々“論破”し驚きの声「これが世代交代か」
一戸建てやマンションの売買や賃貸借するとき損しない 事前に知っておきたい5つのポイント
長渕剛の妻・志穂美悦子、赤いバラの写真添え最新ショット公開 歌手デビューへの祝福も続々