オルツ、LLMハルシネーションの自動評価エンジンを開発
2024年5月9日
株式会社オルツ
P.A.I.®️(パーソナル人工知能)をはじめ、AIクローン技術でつくり出すパーソナルAIの開発および実用化を行う株式会社オルツ(本社:東京都港区、代表取締役:米倉 千貴、以下、オルツ)は、2024年5月9日に、大規模言語モデル(LLM)におけるハルシネーションをスコアリングする手法の開発に成功したことを発表いたします。
【画像:https://kyodonewsprwire.jp/img/202405080490-O1-38u55sYN】
「ハルシネーション」とは、LLMがまるで幻覚を見ているかのように、正当性がなく、事実に基づかない虚偽の回答をしてしまう現象です。このようにLLMが誤った情報を出力することは、企業や個人にとって深刻な信頼問題を引き起こす可能性があるだけでなく、LLMの今後の応用にも大きな障壁となっています。
オルツでは、以前から独自の大規模言語モデルを開発・提供しており、この開発の経験を活かし、ハルシネーション問題を解決する研究開発を続けてまいりました。この度、ハルシネーションを解決する方法の一つとして、ハルシネーションが発生するか否かを判定し、その発生確率(ハルシネーション・スコア)を自動的に評価できる手法を独自に発明し、「ハルシネーション自動評価エンジン」を開発いたしました。
本開発における実験では、本「ハルシネーション自動評価エンジン」は、JcommonsenseQAデータセットから作成した擬似評価セットにおいて72%の正解率でハルシネーションの判定を実現しました。本エンジンは、オルツが独自に開発してきた軽量型大規模言語モデル「LHTM-OPT」だけではなく、GPT-3.5、Llama2など、様々なLLMのハルシネーションのスコアリングが可能になります。
また、本エンジンは、一貫性を重視してハルシネーションの評価を行います。具体的には、同じ入力データに基づいて複数の生成プロセスを行い、これらの結果を比較します。このアプローチにより、生成された内容における不一致や矛盾を特定し、それに基づいて「ハルシネーション」、すなわち、学習データや事実に基づかない不正確な生成物が生じているかどうかを確率的に評価します。
「ハルシネーション自動評価エンジン」は、当社の「alt developer」のAPIサービスを通じて提供を開始いたしました。(alt Developer:https://developer.alt.ai/api-doc.html#tag/LHTM-OPT/operation/lhtm-opt-completion)
本件ならびにLLMを活用したプロジェクトについては、以下のアライアンス窓口にお問い合わせください。
>ハルシネーションスコア計測アプリケーション デモ動画<
【動画:https://www.youtube.com/watch?v=-_k-SDIPje4】
(https://youtu.be/-_k-SDIPje4)
▶LHTM-2/LHTM-OPT/GPT など大規模言語処理ソリューションに関するお問い合わせ先
https://alt.ai/aiprojects/gpt/
■株式会社オルツについて
2014年11月に設立されたオルツは、P.A.I.®️(パーソナル人工知能)、AIクローンをつくり出すことによって「人の非生産的労働からの解放を目指す」ベンチャー企業です。生成AI、独自開発LLM及び音声認識技術をはじめとするAI要素技術を豊富に保有し、それらを活用した多くのAI Productsを開発・提供しています。2024年4月までの累計調達額は約100億円超に達しています。
https://alt.ai/
<報道関係者からのお問い合わせ先>
株式会社オルツ 広報 西澤
e-mail:press@alt.ai
<アライアンスに関するお問い合わせ先>
株式会社オルツでは、IT・金融・建設・物流・メディア・製造・小売・サービス業など、
ジャンルを問わずAIソリューションの提供および支援を行っております。
お気軽にお問い合わせください。
株式会社オルツ AI Solutions事業部 浅井
e-mail:gptsolutions@alt.ai
【浦和】リードで再開、異例の「45分一本勝負」でドロー「あっという間。モヤモヤ感」GK西川
【プレミア12】TBS中継「ルール・野球豆知識」が話題 多様化進みついに応援歌まで
【プレミア12】逆転負けのベネズエラ監督「唯一の誤算は先発したピントが…」初回3失点悔やむ
【プレミア12】侍ジャパンが逆転で無傷7連勝 スーパーラウンド唯一2勝無敗で決勝進出へ前進
ブルーノ・マーズとロゼ「アーパツアパツ♪」世界初パフォーマンス公開 MAMA AWARDS
【11月23日生まれの著名人】田中みな実、佐久間宣行、三瓶、宮澤エマら
【プレミア12】決勝満塁弾の牧秀悟がヒーロー「打てたのはみんなのおかげ」/お立ち台一問一答
【プレミア12】ベネズエラのレイエスが守備でも見せた 日本ハム五十幡亮汰を爆肩で刺す
ラオス、観光地でメタノール中毒が疑われる事案 注意呼びかけ
ムーディーズがNumerated Growth Technologiesを買収、融資技術ソリューションの拡大へ
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
二階堂ふみが結婚!?お相手が衝撃的過ぎてネット民「マジか・・・」
クロちゃんを騙した「レイちゃま(小林レイミ)」の現在が別人すぎると話題に
俳優・火野正平さん死去 75歳 腰を骨折し体調崩す
斎藤元彦・前知事の再選確実 兵庫県知事選、失職から返り咲き
3刷目の重版決定!榎原依那のファースト写真集「Inaism」から、完全未公開カットをご紹介♡
小池里奈「超むっっっっっちむち」美バスト輝く黒ブラジャー近影に称賛「色気が増してる」
岡田将生が高畑充希との結婚発表
三浦瑠璃氏、斎藤元彦氏再選に「一番の敗者は当然、マスコミです」と私見
「スケスケ水着美尻」35歳女芸人のセミヌード写真展が大阪でも12月開催決定「本当に最後」
クロちゃんを騙した「レイちゃま(小林レイミ)」の現在が別人すぎると話題に
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
二階堂ふみが結婚!?お相手が衝撃的過ぎてネット民「マジか・・・」
四千頭身、テレビから消えた理由を明かすも批判殺到「人のせいにするな」
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
父が再婚の丸山隆平(36)現在の家族関係がとんでもないことになっていたと話題に
3時のヒロイン福田麻貴(32)は元アイドルだった!昔の姿がかわいいとヲタク歓喜
たぬかな、「あのチビやろ?」迷惑系黒人YouTuberへの苦言が物議
多部未華子(30)結婚の裏事情あまりにも恐ろしすぎると話題に!
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
【プレミア12】TBS中継「ルール・野球豆知識」が話題 多様化進みついに応援歌まで
【浦和】リードで再開、異例の「45分一本勝負」でドロー「あっという間。モヤモヤ感」GK西川
NY外為:ユーロ戻り鈍い、ECBの大幅利下げ観測くすぶる
BTC、節目10万ドル手前での攻防、下値も限定的【フィスコ・暗号資産速報】
【プレミア12】逆転負けのベネズエラ監督「唯一の誤算は先発したピントが…」初回3失点悔やむ
【プレミア12】侍ジャパンが逆転で無傷7連勝 スーパーラウンド唯一2勝無敗で決勝進出へ前進
ブルーノ・マーズとロゼ「アーパツアパツ♪」世界初パフォーマンス公開 MAMA AWARDS
【11月23日生まれの著名人】田中みな実、佐久間宣行、三瓶、宮澤エマら
ラオス、観光地でメタノール中毒が疑われる事案 注意呼びかけ
【プレミア12】ベネズエラのレイエスが守備でも見せた 日本ハム五十幡亮汰を爆肩で刺す