開発者も困惑！教えてないのに会話型AIが突然ベンガル語の翻訳能力を獲得した!?
「AIと言えば学習、学習と言えばAI」
そんな常識が通用しなくなってきました。
海外メディアがGoogleの技術幹部ジェームズ・マニカ氏に対して行ったインタビューによって、Google社が開発したある会話型AIが学習なしに「ベンガル語」の翻訳能力を獲得したことがわかりました。
これまで私たちは言語の翻訳など特定の能力をAIが獲得するには、その言語に対する学習が必要であると考えていました。
実際Google翻訳などで機能しているAIは言語について学習を積み重ねることで高度な翻訳能力を獲得しています。
しかし最新の研究では、会話型AIの規模が拡大し一定のしきい値を突破するごとに、会話以外の新たな能力を獲得していく「創発」と呼ばれる現象が起こることがわかってきました。
もしかしたら高度化する会話型AIにとって人間言語の翻訳能力はいちいち学習するまでもなく「ついで」に身に着く技能なのかもしれません。
しかしいったいどんな仕組みで会話型AIに突然の能力獲得が起こるのでしょうか？
今回は前半部分で会話型AIの創発能力について以前記事にした内容のおさらいを行い、後半部分で事件の真相に迫ろうと思います。
目次
- 会話型AIは規模が拡大していくと突然新規能力に目覚める
- 僅かな刺激でベンガル語の完璧な翻訳能力が芽生えた
会話型AIは規模が拡大していくと突然新規能力に目覚める
皮肉なことですが現在研究者たちがchatGPTなどの会話型AIに対して最も興味を抱いていることはAIたちの「会話能力」ではありません。
会話型AIの元々の目的が人間と会話することなのは確かですが、ここ数年の研究によって会話型AIたちに会話能力以外の能力が存在することがわかってきたからです。
たとえばchatGPTを対象にした調査では、IQテストや数学の計算問題を解いたり、プログラムのコーディングを行ったり、PCのOSとして知られる「LinuX」に成りすますように頼むことが可能であることがわかりました。
このような能力は会話型AIを作った開発者も想定していないものとなっています。
以前に行われた研究によれば、新しい能力は会話型AIの規模が拡大していくと突然獲得される傾向があると示されており、AIに一種の「創発」が起きていると考えられました。
創発とは「システムの量的な拡大が質的な変化をもたらすこと」と定義されており、小規模AIを外付けしていくだけでは達成できない現象であると考えられています。
このような創発は人間の子供でよく観察されます。
たとえば子供にヒトの顔を描く課題を与えた場合、1歳児や2歳児は顔だと認識できないような線を描きますが、3歳になると突然、大人がみても顔だと認識できるものを描き始めます。
このとき子供たちにあらかじめ顔を描く訓練をしておく必要はありません。
子供の脳が成長して規模がある特定のしきい値を超えると「顔を描く能力」が突然獲得されるからです。
子供の成長はこのような創発の繰り返しと言ってもいいでしょう。
しかし高度な会話型AIでは創発の起こる規模も大きくなるようです。
先日Googleの技術幹部に対して行われたインタビューで、創発が言語単位で起きていたことがわかりました。
僅かな刺激でベンガル語の完璧な翻訳能力が芽生えた
Google社は複数の会話型AIを開発してきましたが、今回の報告によるとある会話型AIはベンガル語について学習を行ったことがないにもかかわらず、ベンガル語での入力刺激をほんの少し行っただけで、完全なベンガル語の翻訳能力を獲得したのだといいます。
ベンガル語とは、南アジアにおけるバングラディッシュおよびインドの一部地域で使用されている言語です。
この言語は2億6500万人以上が使用しており、2019年時点では世界で7番目に利用者の多い言語とされています。
ベンガル語がどんな言語であるかはともかく、専門の学習をしていないAIが翻訳能力を獲得するというのは驚きです。
この発見を重要視したGoogleでは会話型AIの言語能力にかんする本格的な研究が開始されました。
「AIの機能を調べるならば開発者に尋ねれば直ぐ答えが得られるのでは？」
と思うかもしれません。
しかし突然のベンガル語能力獲得は開発者も全く意図していないものであり、なぜそんなことが起きたのかは全く不明でした。
これは脳を模したニューラルネットワークを採用しているAIの根源的な問題となっています。
AIは学習を繰り返すなかで疑似的な脳神経系が組み立てられていきますが、どこのどんな接続がどんな意味を持っているかを人間が知ることはほぼ不可能だからです。
また会話型AIがどんな能力を新たに獲得したかは、AIに尋ねてもわかりません。
AIは人間と違って内部意識を持っているわけではないので「どんな新能力を獲得しましたか？」という問いに答えることができないからです。
そのためこれまで発見された会話能力以外の新能力は、人間の入力に反応することで、はじめて発見されたものばかりになっています。
そのため一部の研究者たちは、会話型AIに人間に制御不能な能力が現れることにかんして危機感を表明しています。
ただ同時にAIによる創発は人類種の能力では発見不可能だった物理法則の発見など、ポジティブな用途も期待できるものです。
もし株価や為替の変動を予測する能力をいち早く「発見」できれば、大金持ちになることも夢ではないでしょう。
もっとも、そんな都合のいい話はそうそうないかと思いますが、未来ではAIを最も使いこなせる人間が勝者になることは確実です。
AI技術による革命は、一部の人々の職業を「終わらせ」一部の人々の職業を「流行に乗せる」ほどの巨大な影響を否応なしに押し付けてきます。
（※AIが入っているデバイスを米粒サイズに小さくすることができれば、身の回りにある全ての生活用品と会話するといった、奇天烈な事態も起こり得ます）
IT革命の前と後で起きた変化を知っている人は、再び世界が変わる様子を目撃できるでしょう。
参考文献
Is artificial intelligence advancing too quickly? What AI leaders at Google say https://www.cbsnews.com/news/google-artificial-intelligence-future-60-minutes-transcript-2023-04-16/