大規模Web情報分析システムWISDOM X「深層学習版」の試験公開を開始
2021年3月31日
国立研究開発法人情報通信研究機構(NICT)
ポイント
■ 約350GBのWebテキストで事前学習したBERT及びその独自改良版を用い、様々な質問に回答
■ 既存の非深層学習版に比べ大幅に精度向上。新たに「どうやって」(How-to)型の質問にも対応
■ 関連技術は、高齢者介護や防災等、社会課題解決のためのAIシステム等に展開予定
国立研究開発法人情報通信研究機構(NICT、理事長: 徳田 英幸)は、ユニバーサルコミュニケーション研究所 データ駆動知能システム研究センターの開発した、大規模Web情報分析システムWISDOM Xの「深層学習版」の試験公開をhttps://www.wisdom-nict.jp/にて、2021年3月31日から開始しました。
WISDOM Xは2015年から試験公開していましたが、深層学習を使用しない非深層学習版でした。一方、このたび公開開始となった「深層学習版」は、近年注目を集めているBERTという巨大ニューラルネットワークを、約350GBという大量のWebテキストやNICTで構築した高品質かつ大量の学習データで学習させ、さらに独自技術と組み合わせた改良版も使って、より広範な質問へのより高い精度での回答を実現したものです。質問応答の情報源としてはWeb60億ページから抽出した情報を使っています。
今後、関連技術を高齢者介護、防災等、重要な社会課題の解決に貢献する対話システム等、様々なAIシステムに展開していく予定です。上記URLから、商用目的を除き、どなたでもお試しいただけます。
背景
NICTでは過去10年以上にわたり、ネット上のテキストを対象とする質問応答技術の研究開発を進めてきました。既存の検索エンジンは多くの場合、検索キーワードを含む文書を一度に十件程度提示するだけであり、質問の回答を網羅的に集めるためにはユーザが提示された文書を大量に読む必要があります。一方で、WISDOM Xのような質問応答システムは、質問の端的な回答のリストを提示することができ、関連する情報の全体像を迅速かつ容易に把握可能にし、さらには価値ある想定外の発見を容易にします。近年、重要性を増しているイノベーションやリスク管理といった不確実性に対処する作業では、こうした情報の全体像や価値ある想定外の把握が必須であり、WISDOM Xはこのような把握を容易にし、価値ある考えるヒントを提供できると考えています。
今回の成果
今回、NICTは、大規模Web情報分析システムWISDOM Xを「深層学習版」にバージョンアップし、2021年3月31日から試験公開を開始しました。 (https://www.wisdom-nict.jp/)
【画像:https://kyodonewsprwire.jp/img/202103292962-O1-6b8h73qy】
2015年に試験公開したWISDOM Xの初期バージョンは、深層学習が注目を浴びる前の世代の機械学習技術を使っていました。今回、試験公開を開始する「深層学習版」は、近年注目を集めているニューラルネットワークであるBERTや、BERTと敵対的学習と呼ばれる深層学習の技法を組み合わせた独自改良版を使い、Web60億ページから抽出した情報を基にして、様々なタイプの質問に柔軟に回答します。
より具体的には、初期バージョンでも回答可能であった「何/どこ/いつ/誰/どんな」等のタイプの質問(例: 「AIって、どんな社会問題の解決に使えるのかな?」、「AIが解決できそうな高齢化の問題は何がある?」、「高齢者のケアができるAIを使った技術には何がある?」)や、「なぜ」型質問(例:「高齢者介護でコミュニケーションロボットが必要なのはなぜ?」、「どうしてフレイルを防ぐのに会話が重要なの?」)、「どうなる」型質問(例: 「量子コンピュータが実用化されるとどうなる」)に関して、より多様な質問により高い精度で多様な回答を提示します。
例えば、図1で示した質問「AIが解決できそうな高齢化の問題は何がある?」は初期バージョンでは回答ができませんでしたが、今回のバージョンアップで回答可能になったものです。加えて、初期バージョンでは回答ができなかった「AIはどうやって高齢化の問題を解決できる?」、「AIはどうしたらCO2回収の技術の開発に貢献できる?」のような「どうやって/どうしたら(How-to)」型の質問にも回答します。また、「チーズとネギがあるけど、つまみになにをつくったらいいかな?」のような日常的な言い回しをそのまま入力しても回答できます (図2参照) 。さらに、大量のWeb情報を使うことで、「チャーハンをパラパラにするにはどうしたらいい?」、「伊豆のB級グルメをおしえて」、「奈良観光はどうしたらいい?」、「有名なピアニストのホロヴィッツのおすすめの演奏は?」、「なぜギリシャで哲学が発展した?」、「花がきれいで、食べられる実をつける木で庭に植えるのに良いのは何?」等、多様な話題の質問に回答します。
【画像:https://kyodonewsprwire.jp/img/202103292962-O2-zA7GJPAf】
得られた回答は通常の検索エンジンと同様に情報源のWebページにリンクされており、そうしたリンクをさらなる周辺情報の収集や回答の適切さの判断に使うことも可能です。なお、WISDOM Xで利用しているBERTやその独自改良版は、大量のWebテキスト約350GBに加えてNICTが構築した大量の高品質な学習データで学習しています。
今後の展望
2015年に試験公開を開始したWISDOM Xの初期バージョンで使われた技術は、SNSを用いて災害時の情報の収集分析を行う対災害情報分析システムDISAANA、災害状況要約システムD-SUMM等に展開され、民間企業による商用化も開始されています。 同様に、今回公開開始の深層学習版の技術も災害関連技術に導入され、商用ライセンスが行われているほか、現在開発中の次世代音声対話システムWEKDA、高齢者介護用マルチモーダル音声対話システムMICSUSにおいて、Webの情報を用いた多様な雑談的対話を実現するために既に組み込まれています。
また、2021年3月31日にフリーソフトウエアとしてNICTが公開を開始した自動並列化深層学習ミドルウェアRaNNCを使って、さらに巨大かつ強力なニューラルネットワークの学習も行っており、そうした言語モデルも今後WISDOM X等のシステムに導入していくほか、民間企業等へのライセンスも行っていく予定です。今後もこうした技術を防災や高齢者介護のように日本の重要課題の解決に貢献できるシステム等に展開していきます。
超大物歌手と87年に結婚し芸能界引退した元女優 シャンソン歌手「鬼無里まり」としてデビューへ
Travis Japan、世界8都市回る初のワールドツアー開催「皆さんの思いを胸と背中に」
RIIZEが9月日本デビュー&全国ツアー発表「BRIIZEの幸せな顔を見られるの楽しみ」
【ヤクルト】長岡秀樹が2試合連続猛打賞「自分のバッティング」前日から7打数連続安打も記録
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
【巨人】坂本勇人、亡き母に捧げる通算2351安打 苦手内角克服し「打撃の神様」に並ぶ
ヴァンズのスリッポンとエラのアッパーパターンが融合! 履きやすさとデザイン性を両立した新モデル。
リサイクルショップで大量のスクール水着が販売、あっという間に完売したと話題に
ドジャース大谷翔平が腰の張りについて説明「今日はだいぶ改善されてます」
フェイエノールト上田綺世3戦連発 1G1A&レッド誘発でNEC佐野、小川との日本人対決制す
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
73歳神田正輝「旅サラダ」生放送で“12歳下俳優”から呼び捨てされ激論
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
曙と熱愛した相原勇(52)の現在が衝撃的すぎると話題に
55歳森口博子「だっちゅーの」鮮やかビキニ姿披露にX歓喜「破壊力ハンパない」「スゴすぎ」
「ふてほど」25歳女優“薔薇ブラ”でポロリ寸前?過激衣装に「見えちゃう」「刺激強すぎ」
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
大物炎上系ユーチューバー”衝撃の預金残高”公開「すげぇ」「エグい」驚きの声
水原一平容疑者 最高刑「懲役33年」トレンド入り 「人生詰んだ」「稀代の詐欺師」の声
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
深夜のファミリーマート徘徊、必ず入っている「フエラムネのミニチュアおもちゃ付」を探し求めた結果……
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
完全にダマされた! 『ラヴィット!』あのちゃん“事故レベル”大暴走は『水ダウ』遠隔操作のしわざだった ネットも納得
ガーシー、またも綾野剛の暴露写真でネット歓喜「この写真見て笑っちゃう」
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
小澤征悦と再婚した桑子真帆アナ(34)黒い過去が流出、衝撃の過去にネット騒然
ガーシー、佐野ひなこの暴露を示唆でネット騒然「ファンだったのに」
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
超大物歌手と87年に結婚し芸能界引退した元女優 シャンソン歌手「鬼無里まり」としてデビューへ
RIIZEが9月日本デビュー&全国ツアー発表「BRIIZEの幸せな顔を見られるの楽しみ」
Travis Japan、世界8都市回る初のワールドツアー開催「皆さんの思いを胸と背中に」
【ヤクルト】長岡秀樹が2試合連続猛打賞「自分のバッティング」前日から7打数連続安打も記録
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
【巨人】坂本勇人、亡き母に捧げる通算2351安打 苦手内角克服し「打撃の神様」に並ぶ
ヴァンズのスリッポンとエラのアッパーパターンが融合! 履きやすさとデザイン性を両立した新モデル。
ドジャース大谷翔平が腰の張りについて説明「今日はだいぶ改善されてます」
リサイクルショップで大量のスクール水着が販売、あっという間に完売したと話題に
フェイエノールト上田綺世3戦連発 1G1A&レッド誘発でNEC佐野、小川との日本人対決制す