ソニー、ディープラーニングの分散学習で世界最高速を達成
- 2018年11月13日 18:00:00
- テクノロジー
- JCN Newswire
ディープラーニングとは、人間の脳を模倣したニューラルネットワークを用いた機械学習の一手法です。このディープラーニングを使用することで、画像認識や音声認識の性能が近年飛躍的に向上し、一部の領域では人間を超える性能を達成しました。
一方で、認識精度を向上させるために学習データのサイズやモデルのパラメータ数が増加しており、これに伴い計算時間が飛躍的に増加し、一度の学習に数週間から数カ月かかるケースもでてきました。
AI開発においては様々な試行錯誤を繰り返す必要があるため、この学習時間を短縮させることは非常に重要となります。そのため、複数のGPUを活用した分散学習による学習時間の短縮が脚光を浴び始めています。
分散学習はGPU数が増加すると、一度のデータ処理個数であるバッチサイズの増加に伴い学習が進まないケースや、GPU間のデータ送受信の処理遅延により学習速度が低下するケースがあります。ソニーでは、学習の進行状況に応じて最適なバッチサイズや利用GPU数を調整する技術を用いることでABCIのような大規模なGPU環境でも学習を可能にし、またABCIのシステム構成に適したデータ同期技術によりGPU間の通信を高速化しました。これらの技術を「Neural Network Libraries」に実装し、産総研「ABCIグランドチャレンジ」プログラムより提供を受けたABCIの計算リソースを用いて学習を行いました。
その結果、ディープラーニングの分散学習速度を計る際に業界で一般的にベンチマークとして活用されているImageNet/ ResNet-50※2の学習を約3.7分(最大2176基のGPU利用時)で完了させ、現状の世界最高速を達成しました。なお、今回の研究成果は「ImageNet/ResNet-50 Training in 224 Seconds(PDF)」で公開しました。
今回の研究成果は、Neural Network Librariesによる学習・実行が世界最速クラスのスピードで実行できることを実証しており、同フレームワークを用いることで、より短い試行錯誤時間でディープラーニングを用いた技術開発ができるようになることを示しました。ソニーは今後も関連する技術開発を継続し、AI技術を利用した社会の発展へ貢献していくことを目指します。
本リリースの詳細は下記をご参照ください。
https://www.sony.co.jp/SonyInfo/News/Press/201811/18-092/index.html
概要:ソニー
詳細は www.sony.co.jp をご覧ください。
Copyright 2018 JCN Newswire. All rights reserved. www.jcnnewswire.com
高市早苗氏、総務会長の打診を固辞 「閣僚も受けるつもりない」
明石家さんま、犬散歩中の小泉進次郎氏夫妻に声かけたら「ブワーッてSP出てきて…」警護に驚き
へずまりゅう「打倒粗品」宣言の「M-1」予選出場辞退発表 数日前には活動休止を1日で撤回
Number_i岸優太 29歳誕生日ジャストにメンバーからのメール報告 ファンもほっこり
「青汁劇場?」三崎優太氏が暴走、金策電話完了→ヤケで女買う「人間失格、どうせ終わるんだし」
明石家さんま、石破茂新総裁に「もうちょっと、はよしゃべれ!」バラエティーでの“出会い“語る
【鹿島】DF濃野公人の2発守れず逆転負け、新人史上6人目2ケタ得点に王手も「勝たせないと」
フジ地上波で映画「大捜査線」Xトレンド入り「織田裕二若い」「あふれる平成感」「鳥肌立つ」
「内村プロデュース」放送開始早々Xトレンド「感動で泣きそう」「当時と同じで涙」「たまらん」
恒例のイコノイジョイ合同ライブ開催 メンバーシャッフルでグループの垣根越えパフォーマンス
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
四千頭身、テレビから消えた理由を明かすも批判殺到「人のせいにするな」
ダンプ松本(61)の現在が色々と崩壊、衝撃的なブログ内容も
二階堂ふみが結婚!?お相手が衝撃的過ぎてネット民「マジか・・・」
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
東国原英夫氏、総選挙「下手すると支持率70%になる」人物を実名告白
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
【ネタバレ?】史実で見るキングダムの今後の展開まとめ〜中華統一までの全体像
松本人志飲み会参加セクシー女優、さらなる誹謗中傷メッセージ公開「私は強くない…もう無理」
兵庫・斎藤知事「正直ずっと苦しかった」 進退は「だいぶ固まった」
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
四千頭身、テレビから消えた理由を明かすも批判殺到「人のせいにするな」
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
ヒロシ&キーボーの山田喜代子容疑者 万引きで逮捕
多部未華子(30)結婚の裏事情あまりにも恐ろしすぎると話題に!
【ネタバレ?】史実で見るキングダムの今後の展開まとめ〜中華統一までの全体像
二階堂ふみが結婚!?お相手が衝撃的過ぎてネット民「マジか・・・」
ダンプ松本(61)の現在が色々と崩壊、衝撃的なブログ内容も
高市早苗氏、総務会長の打診を固辞 「閣僚も受けるつもりない」
明石家さんま、犬散歩中の小泉進次郎氏夫妻に声かけたら「ブワーッてSP出てきて…」警護に驚き
へずまりゅう「打倒粗品」宣言の「M-1」予選出場辞退発表 数日前には活動休止を1日で撤回
Number_i岸優太 29歳誕生日ジャストにメンバーからのメール報告 ファンもほっこり
「青汁劇場?」三崎優太氏が暴走、金策電話完了→ヤケで女買う「人間失格、どうせ終わるんだし」
明石家さんま、石破茂新総裁に「もうちょっと、はよしゃべれ!」バラエティーでの“出会い“語る
【鹿島】DF濃野公人の2発守れず逆転負け、新人史上6人目2ケタ得点に王手も「勝たせないと」
フジ地上波で映画「大捜査線」Xトレンド入り「織田裕二若い」「あふれる平成感」「鳥肌立つ」
「内村プロデュース」放送開始早々Xトレンド「感動で泣きそう」「当時と同じで涙」「たまらん」
恒例のイコノイジョイ合同ライブ開催 メンバーシャッフルでグループの垣根越えパフォーマンス