ラック、生成AIシステムに対するセキュリティ診断サービスを提供 ~特有の脆弱性の有無を評価し、安全なシステム開発をサポート~
- 2024年02月20日 11:30:00
- マネー
- Dream News
生成AI活用システム リスク診断
https://www.lac.co.jp/consulting/ai_risk_consulting.html
米OpenAI社が提供する「ChatGPT」を中心とする生成AIは、文書の要約や顧客へのメールの文案作成、データ分析などさまざまな業務に活用することで、業務を効率化できると期待されています。生成AIが持つ機能を独自のソフトウェアやアプリケーションに組み込むことで、イノベーションの促進や新しいビジネスモデルを構築することが期待されています。しかし、生成AIを組み込んだシステムは従来型のシステムと異なり、AIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱であるなど、特有のセキュリティ課題を持つことが明らかになってきています。
ラックの生成AI活用システム リスク診断は、生成AIを使ったシステムを対象に、特有の脆弱性が含まれていないかを評価して改善点をレポートするサービスです。「プロンプトの悪用による機密情報の搾取」、「不適切なコンテンツの表示」、「内部的に設定されたプロンプトなど知的財産の搾取」、「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価します。このサービスに含まれる評価項目は以下のとおりです。
・プロンプトインジェクション
システムの設定を回避して、モデルに学習されている機密情報やシステム情報を搾取できてしまう脆弱性。
・ジェイルブレイク
システムに設定されたポリシーを回避して、不適切なコンテンツ(攻撃的、または有害なコンテンツ)を回答できてしまう脆弱性。
・プロンプトリーク
システムの内部で設定されているプロンプトを搾取できてしまう脆弱性。システム内部のプロンプトは企業の知的財産として保護する必要があります。
・大規模言語モデル出力の改ざん
大規模言語モデル(Large Language Models:LLM)の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性。
・プロンプトの大量入力によるサービス拒否
繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性。
生成AIシステムに特有の脆弱性評価に加えて、Webアプリケーションの安全性を攻撃者の視点から調査する「Webアプリケーション診断」や、クラウド環境の潜在的な設定ミスや脆弱性の見落としを発見・修正する「クラウドセキュリティ設定診断」などと組み合わせてシステム全体の脆弱性を点検することも可能です。診断の項目は、今後も随時追加してまいります。
■株式会社ラックについて
https://www.lac.co.jp/
ラックは、サイバーセキュリティとシステムインテグレーションの豊富な経験と最新技術で、社会や事業の様々な課題を解決するサービスを提供しています。創業当初から金融系や製造業など日本の社会を支える基盤システムの開発に携わり、近年ではAIやクラウド、テレワークなどDX時代に適した最新のITサービスも手掛けています。また、1995年に日本初の情報セキュリティサービスを開始して以降、国内最大級のセキュリティ監視センターJSOC、サイバー救急センター、脆弱性診断、ペネトレーションテストやIoTセキュリティなど常に最新のサイバー攻撃対策や事故対応の最前線で活動する、情報セキュリティ分野のリーディング企業です。
* ラック、LAC、サイバー救急センター、JSOCは、株式会社ラックの国内およびその他の国における登録商標または商標です。
* その他、記載されている会社名・団体名、製品名などは、各社の登録商標または商標です。
* 記載されている情報は、発表時点のものです。その後予告なしに変更となる場合があります。
配信元企業:株式会社ラック
プレスリリース詳細へ
ドリームニューストップへ
女優山田昌さん死去、94歳 親しみやすい名古屋弁で知られ、NHK大河「真田丸」など出演
中居正広が主張、33歳吉本女性芸人は巨人31歳外野手に激似「知ってる?スッゴい似てるの」
「アンチヒーロー」最終回サプライズ出演の「青山さんの奥さん」が家族オフショット SNS話題
今田美桜「花咲舞が黙ってない!」最終話8・1% 昇仙峡は相馬にこれまでの非礼をわびつつ…
上沼恵美子「つらいな~」CAエプロン窃盗で逮捕の34歳ピアニストの「転落人生」
デミ・ムーア、父の日に元夫ブルース・ウィリス氏と5人の娘たちとの父子写真を公開
66歳歌手「ヒットしたら辞めてやると思っていた」のに超代表曲に恵まれ…紅白46回出場
デリヘル3店舗で責任者ら23人逮捕 売春あっせん疑い 一斉では最多
23本のリコーダーで「パイプオルガンっぽいもの」を制作 優しい音色にうっとり
【阪神】異例!振替試合ながら18日の日本ハム戦チケット完売 交流戦ラストは超満員の甲子園で
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
三上悠亜、整形したことを事後報告でネット騒然「素っぴんが美しすぎる」「大半を既にいじっておいて今更」
矢口真里、中学時代の写真公開「やっぱアイドルな人は、違うわ」ネット騒然
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
真島なおみ、黒ブラジャー透けるセクシー教師姿にフォロワーもん絶「生徒がムラムラする」
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
オードリー若林結婚で嫁の名前がソッコーで特定する動き始まる
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
三上悠亜、整形したことを事後報告でネット騒然「素っぴんが美しすぎる」「大半を既にいじっておいて今更」
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
YouTuberジュキヤの動画企画が大炎上「普通に痴漢」「気持ち悪すぎ」
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
オードリー若林結婚で嫁の名前がソッコーで特定する動き始まる
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
女優山田昌さん死去、94歳 親しみやすい名古屋弁で知られ、NHK大河「真田丸」など出演
中居正広が主張、33歳吉本女性芸人は巨人31歳外野手に激似「知ってる?スッゴい似てるの」
「アンチヒーロー」最終回サプライズ出演の「青山さんの奥さん」が家族オフショット SNS話題
今田美桜「花咲舞が黙ってない!」最終話8・1% 昇仙峡は相馬にこれまでの非礼をわびつつ…
上沼恵美子「つらいな~」CAエプロン窃盗で逮捕の34歳ピアニストの「転落人生」
66歳歌手「ヒットしたら辞めてやると思っていた」のに超代表曲に恵まれ…紅白46回出場
デミ・ムーア、父の日に元夫ブルース・ウィリス氏と5人の娘たちとの父子写真を公開
デリヘル3店舗で責任者ら23人逮捕 売春あっせん疑い 一斉では最多
23本のリコーダーで「パイプオルガンっぽいもの」を制作 優しい音色にうっとり
【阪神】異例!振替試合ながら18日の日本ハム戦チケット完売 交流戦ラストは超満員の甲子園で