安全性に掛かる産業分野におけるAI技術の利用を標準化が後押し
ポイント
・ 自動車・航空機・産業ロボットなどの安全性が重視される産業分野にAIを使うための指針が、従来の国際標準の枠組みにはなかった。
・ 産総研は共同エディタとして、産総研のAI品質マネジメント技術を組み込んだAIと安全性の関係に関する考え方を整理した文書の出版に貢献した。
・ AI技術を安全性が重要な産業分野に活用する道筋が示された。
【画像:https://kyodonewsprwire.jp/img/202404099161-O1-IZyjTr1b】
自動車・産業ロボットなどの安全性が重視される製品やサービスに人工知能(以下「AI」という)技術を利活用するために、安全性の確認方法や従来技術との組み合わせ方などを整理した国際的な技術報告文書 ISO/IEC TR 5469:2024(以下「本文書」という)が出版されました。国立研究開発法人 産業技術総合研究所(以下「産総研」という)は、エディタとして本文書の取り纏めを主導するとともに、AIの安全性に関する品質検査方法の研究成果によって、本文書の出版に貢献しました。
これにより、日本のみならず諸外国でのAI技術の適用範囲を拡大し、市場拡大に繋がることが期待されます。
下線部は【用語解説】参照
取り組む社会課題
機械学習に代表されるAIは、自動運転や産業ロボットなど幅広い産業分野での社会実装が期待されています。しかし、動作の詳細が学習に基づいて決定されるAIシステムは、誤動作などに対する安全性の検証について、人が設計した通りに動作するかどうかで検証する従来システムの手法をそのまま適用できません。そのため、国際規格に適合する形で高度な安全性が要求される用途にAIを活用することが出来ませんでした。
本文書は安全性が重視される産業分野にAIを持ち込むときのシステム構築及び品質確認の考え方を整理したもので、従来システムとAIシステムを組み合わせた際の安全性の確保の考え方、機械学習技術部分の品質確認の考え方、従来の安全性関連規格との整合性の考え方などが示されています。これにより、AI技術を安全性が重視される製品やサービスに活用する際の国際基準作りの第一歩を踏み出したことになります。将来的にはAIシステムの安全性の認証が可能となり、特にミッションクリティカルな分野に対する人工知能技術の社会展開に向けた道筋が示されることになります。
文書発行までの道のり
産総研は、経済産業省からの受託事業「人工知能のライフサイクル,および,人工知能の品質保証に関する国際標準化」(2019年度~2020年度)などを通じて、人工知能分野の規格開発に幅広く取り組んできました。その一環として、2020年には本文書の作成を ISO/IEC JTC1 / SC42 に提案し、国内委員会での議論を進めるとともに、およそ3年にわたり国際エディタを担当して取り纏めを主導してきました。
これと並行して産総研は、NEDO委託事業「機械学習システムの品質評価指標・測定テストベッドの研究開発」(2019年度~2023年度)において、機械学習による人工知能システムの品質マネジメント技術の開発を、国内の先進AI利用企業と連携して進めてきました。AIシステムに求められる安全性・性能といった品質を満足するために必要な取組や評価項目を網羅的にまとめ、「機械学習品質マネジメントガイドライン」として2020年より日本語・英語で発行し、毎年改版を進めています。
今回産総研は、この機械学習品質マネジメントガイドライン英語版の記述およびその背景となる知見を、本国際文書の議論に提供することにより国際的な議論を加速し、日本で取り纏めた知見を含む形で今回の技術報告文書が発行されました。
今後の予定・波及効果
現在この分科会において、今回まとめた文書に示した考え方に基づき、安全なAIシステムを作るために行うべき事項を示す次の文書の検討が始まっています。産総研は国内での品質マネジメントの議論を促しつつ、その内容を踏まえて次の文書の議論に参加し、安全なAIを作るための技術について諸外国と合意し、日本製品の品質の強みが世界で客観的に高く評価されるための国際基準を作ります。
【表:https://kyodonewsprwire.jp/prwfile/release/M107968/202404099161/_prw_PT1fl_8qvYs8f9.png】
機械学習品質マネジメントガイドラインについて
機械学習品質マネジメントガイドラインは、NEDOからの委託を受けて、産総研が民間企業から参加した方々とともに取りまとめた、機械学習AIの品質マネジメントの全体に関するガイドラインです。このガイドラインでは、AIシステムが満たすべき品質として「リスク回避性(安全性)」、「AIパフォーマンス(性能)」、「公平性」、「プライバシー」、「AIセキュリティ」の5つを挙げ、それぞれについて、考えられる品質レベルを示しています。一方、それらの品質を実現するためにAIシステムを開発したり運用したりする際に確認したり改善したりするべきポイントとして、「品質構造・データセットの設計」、「データセットの品質」、「機械学習モデルの品質」、「ソフトウェア実装の品質」、「運用時の品質」の5分野に分かれる14項目を示しています。
2020年6月に第1版を発表し、その後もAIの進展等に応じて改定を続け、最新版である第4版を2023年12月に発表しました。
また、当初からの狙いとして、このガイドラインの内容を国際標準化に反映させることを目指しており、そのため、英語版も発表しています。
機械学習品質マネジメントガイドライン https://www.digiarc.aist.go.jp/publication/aiqm/
機械学習品質マネジメントガイドライン(英語版)https://www.digiarc.aist.go.jp/en/publication/aiqm/
予算制度
経済産業省「人工知能のライフサイクル,および,人工知能の品質保証に関する国際標準化」(2019年度~2020年度)」(2019年度~2020年度)
経済産業省「ヒューマン・マシン・チーミングの標準化に関する調査」(2022年度)
経済産業省「ヒューマン・マシン・チーミングならびにAIシステムマネジメントに関連する国際標準化」(2023年度~2025年度)
新エネルギー・産業技術総合開発機構「人と共に進化する次世代人工知能に関する技術開発事業/実世界で信頼できるAIの評価・管理手法の確立/機械学習システムの品質評価指標・測定テストベッドの研究開発」(2019年度~2023年度)
プレスリリースURL
https://www.aist.go.jp/aist_j/press_release/pr2024/pr20240410/pr20240410.html
山本舞香、元カレが18歳で事故死と告白 芸能活動続けるきっかけ…新MC番組で故郷訪れ回想
和田アキ子「アッコにおまかせ!」放送開始40周年、自身ものまねMr.シャチホコ駆けつけ感激
前田敦子、ウーロン割で乾杯「普段は全然飲まないです」 家メシでは「Uberとか…」
【東京メトロ】10/23に上場!乗車証・かき揚げなどの株主優待が魅力 10/8~11に抽選申込を忘れずに
NHKの29歳職員が建造物侵入の疑いで逮捕 タクシー会社の営業所に無断で侵入
「踊る大捜査線2」で恩田刑事に命を守られた女の子は…「神木くんと!」「後のAKB48とは」
牛丼が10/9から「13年ぶり」に100円引き 人気の牛すき鍋膳が再登場 ・新商品牛カレー鍋膳を発売(15まで)
上沼恵美子「しゃべっていることが全部、ウソ」 羽賀研二容疑者から壁ドンで“誠意”伝えられた
〝円満〟とはいかぬ河村・名古屋市長の辞職 議会と最後の対決へ
「安住紳一郎の日曜天国」代役の女性声優が冠特番「声が作りきれてない…」本音告白
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
ヒカル、浮気相手とのLINE流出にドン引きの声「キモすぎる」「吐きそう」
二階堂ふみが結婚!?お相手が衝撃的過ぎてネット民「マジか・・・」
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
四千頭身、テレビから消えた理由を明かすも批判殺到「人のせいにするな」
FIFAが韓国協会に警告文 W杯本大会出場できない可能性も 洪明甫監督選任に関して政府が干渉
石破内閣の記念写真を加工して掲載か 首相官邸ホームページ
上田晋也「家に来た=性行為OK?」論争で40歳女性タレントから「間違ってます」で議論白熱
ISが誘拐の「奴隷」女性 ガザ地区から10年ぶりに救出
中川翔子「次から次に何回も何回も…いいかげんにしてほしい」悪質投稿に怒り「警察に出します」
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
四千頭身、テレビから消えた理由を明かすも批判殺到「人のせいにするな」
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
ダンプ松本(61)の現在が色々と崩壊、衝撃的なブログ内容も
二階堂ふみが結婚!?お相手が衝撃的過ぎてネット民「マジか・・・」
ヒカル、浮気相手とのLINE流出にドン引きの声「キモすぎる」「吐きそう」
ガーシー、橋本環奈と片寄涼太を暴露するも片寄の好感度が上がったワケ
【ネタバレ?】史実で見るキングダムの今後の展開まとめ〜中華統一までの全体像
山本舞香、元カレが18歳で事故死と告白 芸能活動続けるきっかけ…新MC番組で故郷訪れ回想
和田アキ子「アッコにおまかせ!」放送開始40周年、自身ものまねMr.シャチホコ駆けつけ感激
前田敦子、ウーロン割で乾杯「普段は全然飲まないです」 家メシでは「Uberとか…」
【東京メトロ】10/23に上場!乗車証・かき揚げなどの株主優待が魅力 10/8~11に抽選申込を忘れずに
NHKの29歳職員が建造物侵入の疑いで逮捕 タクシー会社の営業所に無断で侵入
「踊る大捜査線2」で恩田刑事に命を守られた女の子は…「神木くんと!」「後のAKB48とは」
牛丼が10/9から「13年ぶり」に100円引き 人気の牛すき鍋膳が再登場 ・新商品牛カレー鍋膳を発売(15まで)
上沼恵美子「しゃべっていることが全部、ウソ」 羽賀研二容疑者から壁ドンで“誠意”伝えられた
〝円満〟とはいかぬ河村・名古屋市長の辞職 議会と最後の対決へ
「安住紳一郎の日曜天国」代役の女性声優が冠特番「声が作りきれてない…」本音告白