starthome-logo 無料ゲーム
starthome-logo

メタデータ、LLM APIの障害時に他LLMに切り替わるRAGシステムChatBridBCPを開発

メタデータ株式会社は、AIサービスの安定稼働を支援する「ChatBridBCP」を開発しました。この新システムは、OpenAIを含む大規模言語モデル（LLM）のサービス停止時に、他のLLMに自動切り替えを行い、サービスの継続を可能にします。2024年12月12日に発生したOpenAIのAPI障害により、多くの企業が事業継続計画（BCP）の重要性を再認識。「ChatBridBCP」はこの問題への解決策を提供し、AIサービスの中断リスクを最小限に抑えることを目的としています。本システムは、クラウド版からオンプレミス版への切り替え機能を備えており、停電やネットワーク障害時でもスムーズに切り替えが可能です。さらに、オンプレミス環境で個人情報を保護しながら高精度な回答を提供し、安全性と信頼性の向上に寄与します。2025年1月9日から11日にかけて東京ビッグサイトで開催される「TOKYO DIGICONX」では、この新技術の詳細が紹介される予定です。

メタデータ株式会社（所在地：東京都文京区；代表取締役社長：野村直之）は、AIサービスの安定稼働を実現するため、RAGシステム「ChatBrid」の進化版となる「ChatBridBCP」を開発しました。本システムは、OpenAI社をはじめとするLLM APIやオンプレミスLLMが停止した際に、別のLLMに自動的に切り替えてサービスを継続する技術を搭載しています。
　日本時間2024年12月12日に発生したOpenAI社APIの大規模障害は、多くの企業にBCP（事業継続計画）の必要性を改めて認識させました。「ChatBridBCP」は、この課題に対する有効な解決策を提供します。ChaBridBCPの概要について、2025/1/9-11に東京ビッグサイトで開催される「TOKYO DIGICONX」AIカテゴリーNo.61（小間A-07）のメタデータ社ブースにて披露いたします。

■ ChatBridBCPの特徴
高度なRAG技術
ChatBridBCPのベースとなったChatBridは、独自の自然言語処理技術を活用し、数百本以上のマニュアルを統合・最適化することで、90％を超える回答精度を実現しています。これにより、専門知識や内部情報を活用した効率的なサポートが可能です。

柔軟な切り替え機能
本システムは、クラウド版LLMからオンプレミス版LLM、さらには他のクラウド版LLMへの切り替えを柔軟に行えます。これにより、停電やネットワーク障害といったインシデント時でも、AIサービスを中断することなく継続可能です。

■ 実際の利用シーンと導入効果
安全性と信頼性の向上
オンプレミス環境での運用をサポートし、部外秘情報や個人情報を保護しながら高精度な回答を提供します。また、インターネット接続が制限された環境でも、シームレスな切り替えにより業務を支援します。

BCPへの貢献
本システムChatBridBCPを導入することで、AIサービスの中断リスクを最小限に抑え、企業の信頼性向上に寄与します。
※ 日本時間の12/12未明に生じたOpenAI社サービスの全面ダウンは、Chat APIを組み込んで社内知識サポートや、顧客サポートAIを構築したサービスの全面ダウンを招きました。ChatBridを提供する当社も、ローカル（オンプレミス）で高精度に動作するLLMを採用した顧客ばかりではなかったため、原因究明と対策、謝罪に追われました。究極の対策として急遽開発したのが、ChaBridBCPです。

ChatBridBCPは、OpenAI社他のLLM APIや、オンプレミス版LLMの動作中断時に、自動的に別のLLMに切り替えてAIサービスを継続することができます。インターネット経由で使うクラウド版LLMからオンプレミス版LLMへの切り替えも、その逆にオンプレミス版LLMからクラウド版LLMへの切り替えも出来るし、クラウド版LLMから別のクラウド版LLMの切り替え、オンプレミス版LLMから別のオンプレミス版LLMへの切り替えも可能。後者では、停電等のインシデント対策で自社領域ながら別拠点のネットワークを敷設していれば、そこのLLMに切り替えるというBCP施策によりAIサービスの中断を防ぐことができます。

■ システム構成
下図に、上述の自動切換えイメージを示します。左側が定常時に稼働中のLLMを表します。定常時にオンプレミス版LLMが稼働中に、設定したタイムアウト時間、例えば2分間を越えてLLMからレスポンスが返ってこなくなった際に、自動的に、右側のクラウド版、ないし、別のオンプレミス版LLMに切り替わることを示しています。また、下段のように、定常時にクラウド版LLMが稼働中に、設定したタイムアウト時間、例えば2分間を越えてLLMからレスポンスが返ってこなくなった際に、自動的に、右側の別のクラウド版、ないし、オンプレミス版LLMに切り替わることを示します。12/12のOpenAI社のサービス全面ダウンの際に必要とされたのは後者のパターンです。

【画像 https://www.dreamnews.jp/?action_Image=1&p=0000311460&id=bodyimage1】


ChatBridBCPがあれば、別のクラウド版サービス、例えば、Google社やAnthropic社、あるいはAzureなどのLLMに自動的に切り替わったり、オンプレミス版LLMに切り替わることで、ビジネス継続性を維持することができました。

■ChatBridBCPのご相談会　「TOKYO DIGICONX」2025/1/9～11
ChatBridBCPについては、2025/1/9から1/11に東京ビッグサイトで開催される「TOKYO DIGICONX」AIカテゴリーNo.61（小間A-07）のご来場者に詳細にご説明いたします。ご相談いただけば、様々な想定インシデントや、社内ネットワーク、クラウドの利用状況や利用についての社内規定、セキュリティガイドラインに沿って、どのようなスタンバイ、切り替え体制が望ましいかアドバイスいたします。

・概要ならびにご登録：https://xr-meta-biz.tokyo/
・日時：2025年1月9日（木） ～11日（土）10:00～18:00
・会場：東京ビッグサイト　南展示棟　３・４ホール
・ブースご説明（詳細）：https://xr-meta-biz.tokyo/exhibitor/1838/





配信元企業：メタデータ株式会社
プレスリリース詳細へ

ドリームニューストップへ
    アクセスランキング

    1. グラビア界「1000年に１人の逸材」AVデビューでトレンド入り　初写真集も圧巻ボディー披露

    2. 渡辺麻友 (26)、引退の本当の理由が恐ろしすぎると話題に

    3. トイレットペーパーで便座を拭いてはいけない理由　TOTOに聞いた

    4. 人気セクシー女優、引退作を撮り終え思い「やりきった！！出しきった！！！」

    5. 二階堂ふみが結婚！？お相手が衝撃的過ぎてネット民「マジか・・・」

    6. 高須克弥院長が警告発動！献体写真公開で謝罪の院長に「いい加減にしないとアメリカで…」

    7. 献体写真公開で炎上の女性美容外科医が謝罪「全てモザイクかけていたつもりで…倫理観が欠如」

    8. 44歳元日テレ女子アナが水着姿でサウナ！大胆に美谷間公開で…ととのいます

    9. 小林麻耶改め國光真耶「事実無根にもほどがある」誹謗中傷に法的措置検討

    10. 元人気アイドル、一部コメントに不快感「くそだなと思いました」

    1. 多部未華子（30）結婚の裏事情あまりにも恐ろしすぎると話題に！

    2. 二階堂ふみが結婚！？お相手が衝撃的過ぎてネット民「マジか・・・」

    3. 浜崎あゆみ、バスト丸見えの投稿にネット騒然「巨乳すぎて不自然」

    4. クロちゃんを騙した「レイちゃま（小林レイミ）」の現在が別人すぎると話題に

    5. 千円札に込めた奇跡！明石家さんまが30年間大切にした「ラブレター」に感涙

    6. 高橋ジョージ「やっぱりお縄だよ」新曲の印税引き出したら銀行の態度が…その後に残高見て仰天

    7. 「わっぜか音がしっせえよ　あたいは今朝ん台風か思っせえよ」 アルティメット鹿児島弁アニキが『Twitter』で話題に

    8. まるで別人？浜崎あゆみのFNS歌謡祭での姿に驚きの声

    9. 渡辺麻友 (26)、引退の本当の理由が恐ろしすぎると話題に

    10. グラビア界「1000年に１人の逸材」AVデビューでトレンド入り　初写真集も圧巻ボディー披露

    Tips

    1. ゲーミングPCとしても使えるマウスのパソコン！各ブランドの違いやおすすめPCのご紹介

    2. PCを購入する前に知っておきたい豆知識。国内メーカーと海外メーカーはどっちがおすすめ？

    3. 初めてゲーミングPCを購入する人におすすめのブランド3選

    4. Windows10サポート終了間近！PC買い替えのベストタイミングと選び方

    5. VLOOKUP関数の次はこれ！MATCH関数とINDIRECT関数を活用した2つの条件で検索する方法

    game_banner
    おすすめ

    1. 【高校サッカー】74年長澤まさみの父らを擁し初Ｖ　97年東福岡と雪の決勝／帝京激闘アラカルト

    2. 指原莉乃がギャラ内訳を衝撃告白、タレント業は「100％中の６％」売上合計約42億、本業は？

    3. モデル＋女優＋アイドルの“３刀流”豊田ルナ「脳みそが２つ、３つ欲しい」今年の漢字は「挑」

    4. スヤスヤ寝ている犬の前に『お父さんの足』が近づいたら…まさかの『失礼すぎるリアクション』が55万再生「一目散ｗ」「キレてるの草」と爆笑

    5. 建設機械の不正売却を防ぐDB構築、所有権や売却履歴一元化で悪質な取引を抑止

    6. 【東京Ｖ】城福浩監督の来季続投を発表「すべての人達と新たな景色を」16年ぶりJ１で６位躍進

    7. 【紅白リハ】櫻坂46は２年連続４回目の出場、過去最高初週売上の「自業自得」を披露

    8. ただの犬好きです。【第292話】「ひとつあったら」

    9. 男性殺害、事件発生は3階の一室か　室内からナイフ押収　埼玉・所沢

    10. 【紅白リハ】初出場ＭＥ：Ｉ今年の漢字は「勢」デビュー年に「怒濤の日々を送らせてもらった」

    Starthome

    StartHomeカテゴリー

    Copyright 2024
    ©KINGSOFT JAPAN INC. ALL RIGHTS RESERVED.