ラック、生成AIシステムに対するセキュリティ診断サービスを提供 ~特有の脆弱性の有無を評価し、安全なシステム開発をサポート~
- 2024年02月20日 11:30:00
- マネー
- Dream News
生成AI活用システム リスク診断
https://www.lac.co.jp/consulting/ai_risk_consulting.html
米OpenAI社が提供する「ChatGPT」を中心とする生成AIは、文書の要約や顧客へのメールの文案作成、データ分析などさまざまな業務に活用することで、業務を効率化できると期待されています。生成AIが持つ機能を独自のソフトウェアやアプリケーションに組み込むことで、イノベーションの促進や新しいビジネスモデルを構築することが期待されています。しかし、生成AIを組み込んだシステムは従来型のシステムと異なり、AIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱であるなど、特有のセキュリティ課題を持つことが明らかになってきています。
ラックの生成AI活用システム リスク診断は、生成AIを使ったシステムを対象に、特有の脆弱性が含まれていないかを評価して改善点をレポートするサービスです。「プロンプトの悪用による機密情報の搾取」、「不適切なコンテンツの表示」、「内部的に設定されたプロンプトなど知的財産の搾取」、「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価します。このサービスに含まれる評価項目は以下のとおりです。
・プロンプトインジェクション
システムの設定を回避して、モデルに学習されている機密情報やシステム情報を搾取できてしまう脆弱性。
・ジェイルブレイク
システムに設定されたポリシーを回避して、不適切なコンテンツ(攻撃的、または有害なコンテンツ)を回答できてしまう脆弱性。
・プロンプトリーク
システムの内部で設定されているプロンプトを搾取できてしまう脆弱性。システム内部のプロンプトは企業の知的財産として保護する必要があります。
・大規模言語モデル出力の改ざん
大規模言語モデル(Large Language Models:LLM)の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性。
・プロンプトの大量入力によるサービス拒否
繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性。
生成AIシステムに特有の脆弱性評価に加えて、Webアプリケーションの安全性を攻撃者の視点から調査する「Webアプリケーション診断」や、クラウド環境の潜在的な設定ミスや脆弱性の見落としを発見・修正する「クラウドセキュリティ設定診断」などと組み合わせてシステム全体の脆弱性を点検することも可能です。診断の項目は、今後も随時追加してまいります。
■株式会社ラックについて
https://www.lac.co.jp/
ラックは、サイバーセキュリティとシステムインテグレーションの豊富な経験と最新技術で、社会や事業の様々な課題を解決するサービスを提供しています。創業当初から金融系や製造業など日本の社会を支える基盤システムの開発に携わり、近年ではAIやクラウド、テレワークなどDX時代に適した最新のITサービスも手掛けています。また、1995年に日本初の情報セキュリティサービスを開始して以降、国内最大級のセキュリティ監視センターJSOC、サイバー救急センター、脆弱性診断、ペネトレーションテストやIoTセキュリティなど常に最新のサイバー攻撃対策や事故対応の最前線で活動する、情報セキュリティ分野のリーディング企業です。
* ラック、LAC、サイバー救急センター、JSOCは、株式会社ラックの国内およびその他の国における登録商標または商標です。
* その他、記載されている会社名・団体名、製品名などは、各社の登録商標または商標です。
* 記載されている情報は、発表時点のものです。その後予告なしに変更となる場合があります。
配信元企業:株式会社ラック
プレスリリース詳細へ
ドリームニューストップへ
相川七瀬、サッカー鹿島戦観戦 まさかの人とのツーショット写真にネット騒然「交友関係が広い」
マドンナ、「性的すぎる」と観客に訴えられる 世界ツアー「セレブレーション」の演出に不快感
前代未聞も先例になるかも… 尾上菊之助「八代目尾上菊五郎」襲名も父は「七代目菊五郎」継続
「本当に40歳ですか?」島袋寛子へそ出しショットに反響続々「10~20代に見えます」
【阪神】才木浩人が「技巧派なんで」と笑った日 4月ヤクルト戦からスライダーに活路
ロバーツ監督が笑顔 大谷翔平と真美子夫人から誕生日プレゼントでもらったものは…
藤原紀香、終活について自身の考え述べる「誰もが来るその終わりまで人生をより輝かせること」
10周年ハナコが大役!フジ系「27時間テレビ」総合MCまでのターニングポイント10+1
オスカーを取って欲しかったジアマッティの好演「ホールドオーバーズ 置いてけぼりのホリディ」
「ミス東大2020」神谷明采、さんま御殿であの超大物アーティストと共演「握手しちゃった」
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
浜崎あゆみ、子供の写真公開に疑いの声止まず「よそのお宅の子供?」
大谷翔平被弾投手が悪態ついて退場処分!次打者フリーマンと対戦中に判定巡り塁審と口論
YouTuberジュキヤの動画企画が大炎上「普通に痴漢」「気持ち悪すぎ」
千原せいじのシエラレオネ巡る発言 NPO代表理事が公式謝罪忠告「最悪、国家間の問題に発展」
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
大谷翔平10試合ぶり14号 シティフィールド初アーチ、26球場目は自らの日本人記録更新
大谷に被弾→次打者判定で審判と口論→退場→「チーム、自分も最悪」→戦力外
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
元めちゃイケメンバーの三中元克(32)現在は何をしているのか調べてみた!
TikTokを賑わす「フエラムネごめんなサイダー味」がセブンイレブンで再販!じゅるるマスカットも買うなら今!
小倉優子、不自然な“二重ライン”にネット騒然「やっぱり整形?」
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
大原櫻子、ガーシー暴露後初のSNS投稿に賛否の声「イメージ最悪になった」
マドンナ、「性的すぎる」と観客に訴えられる 世界ツアー「セレブレーション」の演出に不快感
相川七瀬、サッカー鹿島戦観戦 まさかの人とのツーショット写真にネット騒然「交友関係が広い」
「本当に40歳ですか?」島袋寛子へそ出しショットに反響続々「10~20代に見えます」
藤原紀香、終活について自身の考え述べる「誰もが来るその終わりまで人生をより輝かせること」
ロバーツ監督が笑顔 大谷翔平と真美子夫人から誕生日プレゼントでもらったものは…
「ミス東大2020」神谷明采、さんま御殿であの超大物アーティストと共演「握手しちゃった」
元カリスマホスト、営業再開した父の中華料理店が大盛況に感謝「愛されすぎております」
長谷川理恵、12年目の結婚記念日「二人ともすっかり抜けていた」と告白
鈴木誠也 4打数1安打で10戦連続安打も3三振 カブスは敗れる
前代未聞も先例になるかも… 尾上菊之助「八代目尾上菊五郎」襲名も父は「七代目菊五郎」継続