富士通研究所、計算の厳密性を自動調整しAI処理を最大10倍高速化するコンピューティング技術を開発
- 2019年10月25日 15:00:00
- テクノロジー
- JCN Newswire
従来は、AI処理の高速化を図るために、専門家が演算精度の切り替えの箇所などを、データや実行環境ごとに調整する必要がありました。今回の技術により、学習の度合いに合わせ最適な演算精度を自動制御し高速化するほか、クラウドなど並列環境における一部ノードの計算の遅れを回避し、実行時間にばらつきのある並列環境でも演算速度を安定化させることができます。
この技術をディープラーニングに適用することで、計算能力を最大10倍高速化させることができ、今後さらに増大するAI活用のニーズに対応します。
開発の背景
AI技術の進化と普及に伴って、画像認識や音声翻訳などへ活用が広がり、それを実現するためのAI処理の計算量が爆発的に増大しており、AI用途に開発されたGPUや専用プロセッサーなどが利用されてきています。また、クラウド環境からエッジコンピューティングまで用途に合わせて様々な環境でAI計算が行われてきています。今後さらに増大するAIの計算量に対し、高速に処理できる技術が必要です。
課題
GPUや専用プロセッサーにより計算性能は向上していますが、AIの計算需要には追いついておらず、さらなる高速化手法として、計算の厳密性を捨てて高速化する技術が注目されています。例えば、ディープラーニングのアルゴリズムであるニューラルネットワークの計算において、32ビットの演算精度を8ビットに落として4倍に並列演算をさせることで高速化を実現する方法がありますが、一律に演算精度を落とすと演算結果も劣化します。そのため、演算精度の調整は、どの箇所の演算精度を落とし、どの箇所の演算精度を落とさないかを、専門家が試行錯誤することで決めていました。しかし、この方法では調整に時間を要し、さらに、入力データや実行環境が変わると調整をやり直す必要がありました。
開発した技術
今回、演算精度を自動的に制御し高速化する技術「Content-Aware Computing」を開発しました。これにより、GPU・CPU・クラウド・エッジといった多様な実行環境でも、AI処理の高速実行が可能になります。本技術の特長は以下のとおりです。
1. データに合わせてビット数を自動的に削減する技術
一般にニューラルネットワークでは、学習が進むと各層の数値範囲が似かよった数値に収束していく性質があります。この性質を利用し、計算中のニューラルネットワークにおける各層の数値範囲の分布にもとづいて、分布が広い層では高ビット、分布が収束してきた層で低ビットといったように学習の状況に応じて演算精度の適用度合いを判断します。これにより、演算結果の劣化を抑えつつ、ディープラーニングに適用した場合、従来の3倍まで高速化できます。
2. ばらつきのある並列環境で高速実行を可能にする同期緩和技術
クラウド環境など多数のノードで演算する場合やCPUを多数のアプリケーションで共用する環境の場合、通信の競合や割り込み処理などにより、一部のノードでのレスポンスが大幅に遅れる場合があります。これに対し、並列処理の各演算において、処理を打ち切った場合の処理時間の削減量と、演算結果への影響度を予測し、演算結果を劣化させない範囲で、処理時間を最大限に削減できるように、各演算の打ち切り時間を制御します。これにより、並列計算の高速実行が可能になり、ディープラーニングの処理においては最大で3.7倍の高速化を確認できました。
効果
今回開発した技術「Content-Aware Computing」を活用することで、AI処理を最大で10倍まで高速化できます。本技術をAIフレームワークやライブラリに組み込むことで、低ビット演算機能が組み込まれたGPUやCPU、それらを用いたクラウドやデータセンターでのAI処理を自動的に高速化することが可能となります。
今後
本技術を一般に広く普及しているAIフレームワークに組み込み、ディープラーニングを使ったAIサービスの実行基盤として活用を進めます。
本リリースの詳細は下記をご参照ください。
https://pr.fujitsu.com/jp/news/2019/10/25-1.html
概要:富士通株式会社
詳細は http://jp.fujitsu.com/ をご覧ください。
Copyright 2019 JCN Newswire. All rights reserved. www.jcnnewswire.com
女性の裸に近い姿のポスター掲示 警視庁が都知事選候補者に警告
27歳元乃木坂46の財テク! 親に家を買うためローンを組んだ際の行動にスタジオどよめく
日テレ水卜麻美アナの謝罪「個人に責任ない、謝り方ある」56歳元TBSアナ「24時間」めぐり私見
56歳吉本芸人、約10年前マンション購入半年後に完済明かし浜田雅功騒然も管理費の計算入れず
ホンダ「レジェンド」はどんな特色の車だった?歴代モデルと中古車価格も解説
元光GENJI出身の独身56歳、10代・20代の口説き文句披露も、浜田雅功から鬼ツッコミ浴びる
元光GENJI佐藤アツヒロ50歳、結婚できない理由自己分析も浜田雅功強烈ツッコミ「女子の言い分」
公用車で死亡ひき逃げ疑い 国会付近で 運転受託会社の社員逮捕
「DX」開始1分で個人情報ダダ漏れ 賃貸or持ち家まで大公開、61歳吉本芸人は東京以外に?
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
都知事選掲示板にヌードポスター ひろゆき氏「世も末」 SNSで批判噴出
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
ダルビッシュ妻・山本聖子さん、車運転中に“まさか”の出来事「ミラー越しに後ろを覗くと…」
イケメンだから許される!堀北真希と山本耕史の「馴れ初め」が映画化希望するレベル
バキ童こと春とヒコーキのぐんぴぃが有吉の壁に登場!「笑いが止まらん」「地上波ゴールデンは草」
高橋洋子「生成AI」理由の出演辞退に反響「アニメと真面目に向き合っている」「勇気ある決断」
広瀬アリス「そりゃ売れるわ」友人・伊藤沙莉の人柄明かす「ただ仕草とか反応が全部おっさん」
「虎に翼」母・はるが…伊藤沙莉の演技力に反響「必死の説得」「映さない」「きれいに泣かない」
日テレ水卜麻美アナの謝罪「個人に責任ない、謝り方ある」56歳元TBSアナ「24時間」めぐり私見
井上咲楽、イタリアでの“ぼったくり”被害を報告「めっちゃ後悔しています」
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
都知事選掲示板にヌードポスター ひろゆき氏「世も末」 SNSで批判噴出
松本人志飲み会参加セクシー女優「警察に相談しに行きました」報告「さすがにこれは酷すぎる」
現役女子大生グラドル、セクシー女優転身「私の全てを見ていただけると思います」
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
『こんなに可愛かった赤ちゃん犬が…』完全に想定外な『まさかの成長』が面白過ぎると82万再生「爆笑したw」「柴らしさ全開で好き」と絶賛
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
イケメンだから許される!堀北真希と山本耕史の「馴れ初め」が映画化希望するレベル
女性の裸に近い姿のポスター掲示 警視庁が都知事選候補者に警告
27歳元乃木坂46の財テク! 親に家を買うためローンを組んだ際の行動にスタジオどよめく
日テレ水卜麻美アナの謝罪「個人に責任ない、謝り方ある」56歳元TBSアナ「24時間」めぐり私見
ホンダ「レジェンド」はどんな特色の車だった?歴代モデルと中古車価格も解説
56歳吉本芸人、約10年前マンション購入半年後に完済明かし浜田雅功騒然も管理費の計算入れず
元光GENJI佐藤アツヒロ50歳、結婚できない理由自己分析も浜田雅功強烈ツッコミ「女子の言い分」
元光GENJI出身の独身56歳、10代・20代の口説き文句披露も、浜田雅功から鬼ツッコミ浴びる
公用車で死亡ひき逃げ疑い 国会付近で 運転受託会社の社員逮捕
「DX」開始1分で個人情報ダダ漏れ 賃貸or持ち家まで大公開、61歳吉本芸人は東京以外に?
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた