ラック、生成AIシステムに対するセキュリティ診断サービスを提供 ~特有の脆弱性の有無を評価し、安全なシステム開発をサポート~
- 2024年02月20日 11:30:00
- マネー
- Dream News
生成AI活用システム リスク診断
https://www.lac.co.jp/consulting/ai_risk_consulting.html
米OpenAI社が提供する「ChatGPT」を中心とする生成AIは、文書の要約や顧客へのメールの文案作成、データ分析などさまざまな業務に活用することで、業務を効率化できると期待されています。生成AIが持つ機能を独自のソフトウェアやアプリケーションに組み込むことで、イノベーションの促進や新しいビジネスモデルを構築することが期待されています。しかし、生成AIを組み込んだシステムは従来型のシステムと異なり、AIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱であるなど、特有のセキュリティ課題を持つことが明らかになってきています。
ラックの生成AI活用システム リスク診断は、生成AIを使ったシステムを対象に、特有の脆弱性が含まれていないかを評価して改善点をレポートするサービスです。「プロンプトの悪用による機密情報の搾取」、「不適切なコンテンツの表示」、「内部的に設定されたプロンプトなど知的財産の搾取」、「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価します。このサービスに含まれる評価項目は以下のとおりです。
・プロンプトインジェクション
システムの設定を回避して、モデルに学習されている機密情報やシステム情報を搾取できてしまう脆弱性。
・ジェイルブレイク
システムに設定されたポリシーを回避して、不適切なコンテンツ(攻撃的、または有害なコンテンツ)を回答できてしまう脆弱性。
・プロンプトリーク
システムの内部で設定されているプロンプトを搾取できてしまう脆弱性。システム内部のプロンプトは企業の知的財産として保護する必要があります。
・大規模言語モデル出力の改ざん
大規模言語モデル(Large Language Models:LLM)の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性。
・プロンプトの大量入力によるサービス拒否
繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性。
生成AIシステムに特有の脆弱性評価に加えて、Webアプリケーションの安全性を攻撃者の視点から調査する「Webアプリケーション診断」や、クラウド環境の潜在的な設定ミスや脆弱性の見落としを発見・修正する「クラウドセキュリティ設定診断」などと組み合わせてシステム全体の脆弱性を点検することも可能です。診断の項目は、今後も随時追加してまいります。
■株式会社ラックについて
https://www.lac.co.jp/
ラックは、サイバーセキュリティとシステムインテグレーションの豊富な経験と最新技術で、社会や事業の様々な課題を解決するサービスを提供しています。創業当初から金融系や製造業など日本の社会を支える基盤システムの開発に携わり、近年ではAIやクラウド、テレワークなどDX時代に適した最新のITサービスも手掛けています。また、1995年に日本初の情報セキュリティサービスを開始して以降、国内最大級のセキュリティ監視センターJSOC、サイバー救急センター、脆弱性診断、ペネトレーションテストやIoTセキュリティなど常に最新のサイバー攻撃対策や事故対応の最前線で活動する、情報セキュリティ分野のリーディング企業です。
* ラック、LAC、サイバー救急センター、JSOCは、株式会社ラックの国内およびその他の国における登録商標または商標です。
* その他、記載されている会社名・団体名、製品名などは、各社の登録商標または商標です。
* 記載されている情報は、発表時点のものです。その後予告なしに変更となる場合があります。
配信元企業:株式会社ラック
プレスリリース詳細へ
ドリームニューストップへ
米国育ちの37歳女性タレントが提唱「エンドレス牛丼」にネット賛同「発想なかった」「いいね」
【西武】トレードで巨人から加入の松原聖弥、サヨナラ確信の一打も…「空回りしてしまいました」
大久保佳代子「男とかも?」食への執着語る30歳女性タレントに禁断の質問
香港エキスプレスセール、6月28日まで 次回いつ?早見表や買い方まとめ
【阪神】佐藤輝明が適時三塁打で1カ月半ぶり打点「ホームランにならずに悔しい気持ちも」
【阪神】森下翔太2死球受けるも「大丈夫です」問題なし強調 4回と9回にヒヤリ
大久保佳代子が「生」より「瓶」ビールが好きな理由を力説も上田晋也「だまされそうに」指摘入る
【町田】首位キープ 前半から押し込まれる展開続くも粘り強く守り切ってアウェーで勝ち点1
【川崎F】鬼木監督が語る後半戦のカギ「戦える選手を増やしたい」 ドローには「自分の責任」
航空券が安くなるタイミングとは 国際線・国内線何日前が安い?を解説
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
霜月るな、松本人志めぐる“新証言”報道に「どうゆう事?その告発で人の人生奪ってるんやで」
22歳・元HKTタレント「最高すぎる」美バストあらわな水着姿披露「君がチャンピオン」と反響
イケメンだから許される!堀北真希と山本耕史の「馴れ初め」が映画化希望するレベル
粗品、“大物ピン芸人”同席の飲み拒否「その先輩おるなら行きません」情報暴露されスタジオ騒然
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
【ネタバレ?】史実で見るキングダムの今後の展開まとめ〜中華統一までの全体像
知事選辞退へずまりゅう怒り「俺を舐めるのも大概にしろよ?俺みたいな大物インフルエンサーと」
水沢アキ、6億借金から節約生活「箱根のホテル素泊まり」「24時間スタジオ1人でやっている」
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
イケメンだから許される!堀北真希と山本耕史の「馴れ初め」が映画化希望するレベル
都知事選掲示板にヌードポスター ひろゆき氏「世も末」 SNSで批判噴出
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
【ネタバレ?】史実で見るキングダムの今後の展開まとめ〜中華統一までの全体像
松本人志飲み会参加セクシー女優「警察に相談しに行きました」報告「さすがにこれは酷すぎる」
![game_banner](/images/banner-game.png)
米国育ちの37歳女性タレントが提唱「エンドレス牛丼」にネット賛同「発想なかった」「いいね」
【西武】トレードで巨人から加入の松原聖弥、サヨナラ確信の一打も…「空回りしてしまいました」
香港エキスプレスセール、6月28日まで 次回いつ?早見表や買い方まとめ
大久保佳代子「男とかも?」食への執着語る30歳女性タレントに禁断の質問
【阪神】佐藤輝明が適時三塁打で1カ月半ぶり打点「ホームランにならずに悔しい気持ちも」
【阪神】森下翔太2死球受けるも「大丈夫です」問題なし強調 4回と9回にヒヤリ
大久保佳代子が「生」より「瓶」ビールが好きな理由を力説も上田晋也「だまされそうに」指摘入る
【町田】首位キープ 前半から押し込まれる展開続くも粘り強く守り切ってアウェーで勝ち点1
【川崎F】鬼木監督が語る後半戦のカギ「戦える選手を増やしたい」 ドローには「自分の責任」
航空券が安くなるタイミングとは 国際線・国内線何日前が安い?を解説