ラック、生成AIシステムに対するセキュリティ診断サービスを提供 ~特有の脆弱性の有無を評価し、安全なシステム開発をサポート~
- 2024年02月20日 11:30:00
- マネー
- Dream News
生成AI活用システム リスク診断
https://www.lac.co.jp/consulting/ai_risk_consulting.html
米OpenAI社が提供する「ChatGPT」を中心とする生成AIは、文書の要約や顧客へのメールの文案作成、データ分析などさまざまな業務に活用することで、業務を効率化できると期待されています。生成AIが持つ機能を独自のソフトウェアやアプリケーションに組み込むことで、イノベーションの促進や新しいビジネスモデルを構築することが期待されています。しかし、生成AIを組み込んだシステムは従来型のシステムと異なり、AIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱であるなど、特有のセキュリティ課題を持つことが明らかになってきています。
ラックの生成AI活用システム リスク診断は、生成AIを使ったシステムを対象に、特有の脆弱性が含まれていないかを評価して改善点をレポートするサービスです。「プロンプトの悪用による機密情報の搾取」、「不適切なコンテンツの表示」、「内部的に設定されたプロンプトなど知的財産の搾取」、「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価します。このサービスに含まれる評価項目は以下のとおりです。
・プロンプトインジェクション
システムの設定を回避して、モデルに学習されている機密情報やシステム情報を搾取できてしまう脆弱性。
・ジェイルブレイク
システムに設定されたポリシーを回避して、不適切なコンテンツ(攻撃的、または有害なコンテンツ)を回答できてしまう脆弱性。
・プロンプトリーク
システムの内部で設定されているプロンプトを搾取できてしまう脆弱性。システム内部のプロンプトは企業の知的財産として保護する必要があります。
・大規模言語モデル出力の改ざん
大規模言語モデル(Large Language Models:LLM)の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性。
・プロンプトの大量入力によるサービス拒否
繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性。
生成AIシステムに特有の脆弱性評価に加えて、Webアプリケーションの安全性を攻撃者の視点から調査する「Webアプリケーション診断」や、クラウド環境の潜在的な設定ミスや脆弱性の見落としを発見・修正する「クラウドセキュリティ設定診断」などと組み合わせてシステム全体の脆弱性を点検することも可能です。診断の項目は、今後も随時追加してまいります。
■株式会社ラックについて
https://www.lac.co.jp/
ラックは、サイバーセキュリティとシステムインテグレーションの豊富な経験と最新技術で、社会や事業の様々な課題を解決するサービスを提供しています。創業当初から金融系や製造業など日本の社会を支える基盤システムの開発に携わり、近年ではAIやクラウド、テレワークなどDX時代に適した最新のITサービスも手掛けています。また、1995年に日本初の情報セキュリティサービスを開始して以降、国内最大級のセキュリティ監視センターJSOC、サイバー救急センター、脆弱性診断、ペネトレーションテストやIoTセキュリティなど常に最新のサイバー攻撃対策や事故対応の最前線で活動する、情報セキュリティ分野のリーディング企業です。
* ラック、LAC、サイバー救急センター、JSOCは、株式会社ラックの国内およびその他の国における登録商標または商標です。
* その他、記載されている会社名・団体名、製品名などは、各社の登録商標または商標です。
* 記載されている情報は、発表時点のものです。その後予告なしに変更となる場合があります。
配信元企業:株式会社ラック
プレスリリース詳細へ
ドリームニューストップへ
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
ABCテレビ新人の中村想人アナ、日本に7人のJBC認定リングアナ「いつか大きなホールで」
兄はお笑い芸人!ABCテレビ新人の大石紗椰アナが大舞台での共演希望「兄妹ともに頑張れたら」
【オリックス】西川龍馬が球団最多月間7度のV打を狙う 6月は現在5度「続けていけるように」
元アイドルのプロ野球選手美人妻ばっさりカットでイメチェン「暑すぎて髪も切りました」
歌い手・Ado×くら寿司がコラボレーション!オリジナルテーマソング「きっとコースター」がついに完成!
アンゴラ村長、シースルードレスでダンス「セクシー」「魅惑のボディー」「透けている脚もいい」
【中日】立浪監督「2人が頑張らないと点が入らない」リーグ戦再開の打線軸は細川成也と中田翔
【阪神】勝って終わりたい交流戦「全員その気持ち」16日満塁弾の前川右京、甲子園にも勢い持ち込む
【オリックス】森友哉、リーグ戦再開後の捕手の準備進める 故障から復帰後はDHか代打のみ
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
三上悠亜、整形したことを事後報告でネット騒然「素っぴんが美しすぎる」「大半を既にいじっておいて今更」
矢口真里、中学時代の写真公開「やっぱアイドルな人は、違うわ」ネット騒然
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
真島なおみ、黒ブラジャー透けるセクシー教師姿にフォロワーもん絶「生徒がムラムラする」
オードリー若林結婚で嫁の名前がソッコーで特定する動き始まる
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
三上悠亜、整形したことを事後報告でネット騒然「素っぴんが美しすぎる」「大半を既にいじっておいて今更」
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
YouTuberジュキヤの動画企画が大炎上「普通に痴漢」「気持ち悪すぎ」
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
オードリー若林結婚で嫁の名前がソッコーで特定する動き始まる
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
ABCテレビ新人の中村想人アナ、日本に7人のJBC認定リングアナ「いつか大きなホールで」
兄はお笑い芸人!ABCテレビ新人の大石紗椰アナが大舞台での共演希望「兄妹ともに頑張れたら」
【オリックス】西川龍馬が球団最多月間7度のV打を狙う 6月は現在5度「続けていけるように」
元アイドルのプロ野球選手美人妻ばっさりカットでイメチェン「暑すぎて髪も切りました」
歌い手・Ado×くら寿司がコラボレーション!オリジナルテーマソング「きっとコースター」がついに完成!
【中日】立浪監督「2人が頑張らないと点が入らない」リーグ戦再開の打線軸は細川成也と中田翔
アンゴラ村長、シースルードレスでダンス「セクシー」「魅惑のボディー」「透けている脚もいい」
【阪神】勝って終わりたい交流戦「全員その気持ち」16日満塁弾の前川右京、甲子園にも勢い持ち込む
【オリックス】森友哉、リーグ戦再開後の捕手の準備進める 故障から復帰後はDHか代打のみ