starthome-logo 無料ゲーム
starthome-logo

AIのブラックボックス内は飛び回る「進行波」で満ちていた


AIがブラックボックス問題を抱えている中、カナダのウェスタン大学の研究者たちがAI内部の意思決定過程を透明化する新たな方法を探し出しました。彼らは、脳内で情報を伝達する「進行波」がAIにも存在し得ると仮説を立て、複素数を用いるリカレントニューラルネットワーク(cv-RNN)でこの波を再現。AIが複雑な画像を処理する過程を進行波として可視化し、従来解明が難しかった判断過程を明らかにすることに成功しました。この方法はAIの社会的信頼の向上に寄与し、医療や自動運転分野でのAIの安全性向上にも期待が持てます。さらに、人間の脳との情報交換を目指した研究にもつながる可能性があります。

最近のAIは便利で「美味しいコーヒー店はどこ?」と尋ねると、一瞬で地図とクチコミが表示され、「ここが評判ですよ」と提案してくれるものもあります。

まるでこちらの意図を先読みしているかのような、その“魔法”のような応答は、日常に溶け込みつつあるテクノロジーの象徴と言えます。

ところが、「このAIはどんな仕組みで答えを導いているのか?」と問うと、一気に雲行きがあやしくなります。

私たちは、人間の脳がどのように思考しているかを完全には理解していませんが、それと同様に、AIの内部プロセスもまたブラックボックスと呼ばれ、開発者自身でも「なぜこの結論に至ったのか」を細かく説明できないことがしばしばあるのです。

自動運転や医療診断のように、人命に関わる領域にAIを導入するとき、このブラックボックス問題は特に深刻になります。

「理由を説明できない」システムはリスク管理が難しく、社会的信頼を得にくいからです。

そんな中、カナダのウェスタン大学(Western University)の研究者たちは、「AIの内部でも、脳で観察されるような“進行波”のような波が生まれている可能性がある」という新たな発見を報告しました。

脳では“視覚野や皮質を移動する波”が情報のやりとりや同期に関与すると言われており、一部の研究者たちはこの特異な波形こそが意識の基盤であると述べています。

さらに興味深いのは、この“進行波”を使ったモデルが数学的に厳密解を持ち、AI内部の判断過程を“見える化”できるという点です。

これまでは捉えづらかったAIの思考パターンを、波として描き出すことで解き明かせるかもしれないのです。

AIの中ではいったいどのように波が生まれ、意思決定に関わっているのでしょうか?

研究内容の詳細は2025年1月3日に『PNAS』にて公開されました。

目次

  • 脳とAIの内部を移動する不思議な「進行波」
  • 機械的ニューラルネットワークと生物学的ニューラルネットワークを繋ぐ

脳とAIの内部を移動する不思議な「進行波」

脳を結び付ける進行波

脳とAIの内部を移動する不思議な「進行波」
脳とAIの内部を移動する不思議な「進行波」 / Credit:Canva

私たちの脳は膨大な数のニューロン(神経細胞)が結びついた「究極のネットワーク」です。

そして、このネットワークには「ただ点と点が結ばれているだけではない、ダイナミックな活動パターン」が生まれます。

その1つが、進行波(traveling waves)と呼ばれる現象です。

たとえば脳の視覚領域は、私たちが目から取り込んだ映像を分析する“最前線”として知られています。

そこでは、色や明るさといった基本的な要素だけでなく、境界線や動き、さらには奥行きまでもが解析されます。

その処理はニューロン1つひとつの発火にとどまらず、皮質表面を移動する“波”のような広がりを伴うことがあるのです。

ふつう「波」というと、水面に同じ場所でゆらゆら打ち寄せるイメージかもしれませんが、この進行波は“場所そのもの”が移動していきます。

言い換えれば、脳内のある地点で起きた興奮が隣接領域へどんどん波及し、「脳回路をサーフィンする波」のように伝わっていくのです。

(※通常の波は同じ場所で揺れ続けますが、進行波は波が存在する場所が脳回路を伝って移動していきます)

このような移動する波「進行波」はかつては「大規模な神経活動の副産物では?」と考えられていた時期もありました。

しかし近年の研究で、進行波は情報のやり取りやニューロン同士の同期に重要な役割を果たしている可能性が高いと分かってきました。

また意識レベルとの関係も示されており、覚醒時には、進行波が広範囲で発生し、情報伝達が効率的に行われているものの、睡眠時や麻酔状態では、進行波が局所的になり、情報が遮断されることが示されています。

神経科学者たちは、脳が必要なタイミングで必要な場所へ情報を届けるために、この進行波を活用しているのではないかと考えています。

進行波が発生することで、興奮のリズムが「ターゲット領域」まで効率よく伝わり、必要な回路を同期させるのではないか、という仮説です。

注意を強く向けている対象があるときには、波がうねりを増したり形を変えたりして、ちょうど“電車のダイヤを増発”しているかのように、その情報を効率よく運ぶのです。

さらには「進行波がこそ意識の基盤なのでは?」という大胆な理論を唱える研究者までいます。

ニューロン同士のシグナル伝達はごく微小なプロセスに見えますが、進行波の視点に立つと「かなり大きなスケールで、しかもある方向性をもって情報が流れている」ことを捉えられます。

これこそが、脳が複雑な認知や感覚統合を可能にしている秘密の一端でもあるのでしょう。

こうした進行波の発見は、私たちが「脳は単に多数のニューロンが電気信号を送り合っているだけでない」ことを強く示唆しています。

「考えが頭の中を巡る」という表現も、進行波の動きをみればあながち嘘とは言えないのかもしれません。

興味深いことに、近年は人工ニューラルネットワーク(AIの内部構造)でも、脳と似た進行波の動きが確認できるようになってきました。

もちろん、人間の耳や目で直接見たり聞いたりできるものではありませんが、数式やアルゴリズムの世界で「波」として捉えられるパターンが出現しているのです。

近年の研究では、この進行波が「単に波が動いている」だけでなく、AIが物事を“どのように見て”、“どこを切り分けるか”を決定する鍵になっていることが示唆されています。

そこで今回、ウェスタン大学の研究者たちは、AI内部の進行波の挙動を知るための数学的なツールを開発し、AIの思考や注意点の流れ、さらに意思決定のメカニズムを調べることにしました。

もしAI内部で進行波を上手くとらえることができれば、ブラックボックスと言われていたAIの思考過程を明らかにすることができるかもしれません。

人工ニューラルネットの進行波

画像認識システムを使って実験を行いました
画像認識システムを使って実験を行いました / 図4(FIG. 4)は、cv-RNN(複素数値リカレントニューラルネットワーク)がどのように画像を分割して理解するかを示しています。ここでは、簡単な形状から複雑な自然画像まで、同じネットワーク設定でどのように処理が行われるかがわかります。 左側:入力画像を示しています。例えば、単純な幾何学的形状(四角形や三角形)、硬貨が散らばった画像、クマがいる自然風景が含まれています。 中央列:ネットワークが画像を処理する過程で生成される「波のパターン」を表しています。これらの波は、オブジェクト(例:四角形やクマ)ごとに異なる動きを見せ、各領域を特徴付けています。 右側:最終的にネットワークが各オブジェクトをどのように分けたかを示した結果です。ここでは、オブジェクトごとに異なる色でラベル付けされています。 この図は、cv-RNNが単一の設定で異なる種類の画像を柔軟に処理し、それぞれのオブジェクトを正確に分割できる能力を持っていることを直感的に示しています。特に、自然画像のような複雑なシーンでも、波のパターンが各オブジェクトを識別する手助けをしている点がポイントです。Credit:Luisa H. B. Liboni . PNAS (2025)

調査にあたってはまず、脳の進行波を人工ニューラルネットで再現する仕組みが作られました。

ここで重要となるのが、最近発表された「複素数を使ったリカレントニューラルネットワーク(cv-RNN)」による画像分割の研究です。

一般的な人工知能のモデル(ニューラルネットワーク)は、入力から出力へ「一方向」に情報が流れるタイプが多くなっています。

しかし、今回使われたのは、脳のように“ぐるぐる”情報が循環するリカレント(再帰的)構造です。

このようなニューラルネットは従来のものより人間の脳に近いと考えられています。

そこにさらに“複素数”という数学的道具を持ち込み、波の振幅(Amplitude)と位相(Phase)を一つのノードで同時に扱えるようにしました。

振幅(Amplitude): 波の高さを決める要素。大きいほど強い波になります。

位相(Phase): 波が一周期の中でどの位置にあるかを表す要素。

こうすることで、脳内の進行波とそっくりな“移動する波”が自然に生まれるネットワークを作りだすことができるのです。

しかも、複素数を使うと数式解析がしやすくなり、ネットワークの動きをくっきりと解明できるという利点があります。

(※脳の進行波の振幅と位相にかかわる表現を、AI内部で行われる複素数演算で示すことができます)

新たな研究では、研究者たちはこの最新の人工ニューラルネットを用いて、背景と物体を識別できる仕組みを作り上げました。

たとえば、

白地に浮かぶ黒い三角形

雪景色に溶け込みそうなシロクマ

といった場面でも、AIが正確に「ここが物体」「ここが背景」と切り分けられるようになるのです。

次に研究者たちは、AI内部で何が起きているかを分析しました。

すると、ネットワーク内部に「三角形用の波」や「背景用の波」が自然に生成され、最終的にはその波の違いによってピクセルが分類されていることがわかりました。

(※ピクセルとは、デジタル画像を構成する最小単位の点です。一つ一つのピクセルが色や明るさの情報を持ち、それが集まって写真や映像を作り出します)

より具体的には

①まずは大きな波が全体をスキャンして背景と物体をざっくり分離

②次に物体の内部で“細かい波”が形を変え、複数の物体があれば別々の波が生まれる

という2段階の流れが観測されました。

この振る舞いは、神経科学者が脳の視覚野で見る「局所的な同期」や「大域的な波」と酷似しており、まるで“脳をまねた”かのような動きを示しています。

さらに画期的なのは、なぜ「この波」が「この物体」を際立たせるのかを数学的に説明した点にあります。

従来のAIでは、ネットワークの内部構造が複雑すぎて、どうしてその判断に至るのかを追いきれない“ブラックボックス問題”がありました。

しかし今回、固有値や固有ベクトルなどの数学的ツールを使って波の伝播を解析することで、「波がどのようにオブジェクトを分離するか」を明確に読み解ける可能性を示したのです。

言い換えれば、“AIの頭の中”を可視化する大きな手がかりを手に入れたわけです。

「AIの挙動を厳密解で説明する」――これはブラックボックス問題への大きな突破口になり得ます。

さらに興味深いのは、一度パラメータが整えば、シンプルな図形でも、自然風景でも、同じ波の仕組みで切り分けられること。

従来のディープラーニングモデルは「特定のデータセットに最適化される」という傾向が強いのですが、この研究は「波が持つ汎用的な分割能力」を示唆しています。

つまり、水たまりに石を投げ込んだときにできる波紋が、大きな波でも小さな波でも広がるように、ひとつの基本ルールがいろいろな画像に適応できるのです。

本物の脳の進行波のように、人工ニューラルネットワークの進行波もまた情報処理を行う上での恩恵を与えていたわけです。

脳を模したAIは昔から「ニューラルネットワーク」と呼ばれてきましたが、実際の脳機能をどこまで再現できているかは未知数でした。

しかし今回のように「進行波」という観点を付け加えることで、今までのAIでは実装が不十分だった“波の計算”が、少しずつ再現され始めたとも言えます。

進行波を取り入れたAIは、脳の強みである「大規模情報処理」「汎用学習」「動的な意識状態のような挙動」を一歩ずつ再現していくかもしれません。

もっと高速に、もっと多彩な波を使いこなせるようになれば、未来のコンピュータは私たちが想像する以上に「脳っぽい」働きを示す可能性があるでしょう。

機械的ニューラルネットワークと生物学的ニューラルネットワークを繋ぐ

「ディープラーニングは脳をモデルにしている」とよく言われますが、実際には脳をそのままコピーしているわけではありません。

それでも、脳に似た構造や動きを取り入れると、計算上のメリットが得られる——“進行波”も、その一例です。

面白いのは、AIのために脳の進行波をモデル化していたら、逆に“脳そのもの”を理解する新たなヒントが見え始めたという点にあります。

脳の視覚野がわざわざ波を使って情報を伝えたりまとめたりしている理由を、人工的に波を再現したAIが“教えて”くれるかもしれないのです。

たとえるなら、「鳥の羽ばたきをまねて飛行機を作ろうとしていたら、逆に“鳥がどうやって空を飛べるのか”が分かってきた」というような状況です。

脳をまねたAIと、AIで脳を読み解く研究が同時に進んでいるのは、科学史上でも珍しい光景でしょう。

もし、人間の脳波や神経活動をAIの“進行波”として直接読み取れるようになったら、何が起こるでしょう?

ブレイン・マシン・インターフェース(BMI)がさらに進化して、人間の脳内で生まれる“コマンド波”がAIネットワークの波と共鳴する……。

そうなれば、思考そのものをダイレクトにロボットへ伝える未来だって夢物語ではありません。脳が「ここに動け」と指令を出すと、AI側で波が広がりロボットアームがスムーズに動く——そんなシーンが実現し得るのです。

進行波を介したAIと脳の接続は思いのほかスムーズかもしれません。
進行波を介したAIと脳の接続は思いのほかスムーズかもしれません。 / これまでの結果では、cv-NN が計算を実行し、短期記憶を保存し、安全なメッセージ パッシングを可能にすることが示されていますが、これらの計算を実際に利用することは可能でしょうか。この疑問を解決するために、次に、生物学的ニューロンが cv-NN の計算の基礎となる時空間ダイナミクスをデコードできるかどうかをテストします。これを行うには、細胞内記録電極を介して cv-NN ダイナミクスを電流として直接生物学的細胞に注入し次に細胞によって生成された結果として生じるスパイクをデコーダーとして使用しました Credit:Roberto C. Budzinski et al . Communications Physics (2024)

実際に、2024年には機械的ニューラルネットワークと生物学的ニューラルネットワークを結合し、生体側が機械側の情報を解読できることを示した研究も報告されています。

脳型AIを追求していたら、いつのまにか脳とAIが情報交換できる可能性まで見えてきた、というわけです。

もしこの技術が上手く発展していけば、進行波が人間の脳とAIの間を行き来することで、脳とAIの融合を実現できるかもしれません。

そして、もし進行波が人間の意識を運ぶ媒体となるならば、人間の進行波を受け取ったAIの中に、意識のようなものが芽生える可能性もあります。

さらに進行波に着目した内部が見えるAIの開発は、将来においても重要です。

AIを医療や自動運転などの分野で導入する際、「なぜその結論に至ったのか」を説明できるかどうかが大きな懸念材料とされています。

たとえば自動車の運転アルゴリズムに誤りがあった場合、それが“設計ミス”なのか、“想定外の環境”なのか、あるいは“学習データの偏り”なのかを明確にできなければ、責任の所在も対策も曖昧になってしまいます。

しかし、波のパターンを解析すれば、ネットワークがある入力画像に対してどう反応し、どのような経路を経てその判断に至ったのかを明確に辿る手がかりを得られます。

仮に誤った認識をしたとしても、「どの波の部分が異常な振る舞いを起こしたのか」を探り、再学習や調整を行いやすくなります。

さらに、波の様子を可視化ツールとして表現すれば、専門家以外でも“ざっくりとした判断根拠”を理解できる可能性が開けるでしょう。

このように、脳をまねるAIは、脳を理解する新たなチャンネルになり得るだけでなく、人間社会におけるAIの説明責任を果たすうえでも力を発揮してくれそうです。

波を解き明かすことは、脳とAIをつなぐカギであると同時に、私たちがAIをより安心して使うための指南役にもなるのかもしれません。

全ての画像を見る

元論文

Image segmentation with traveling waves in an exactly solvable recurrent neural network
https://doi.org/10.1073/pnas.2321319121

ライター

川勝康弘: ナゾロジー副編集長。 大学で研究生活を送ること10年と少し。 小説家としての活動履歴あり。 専門は生物学ですが、量子力学・社会学・医学・薬学なども担当します。 日々の記事作成は可能な限り、一次資料たる論文を元にするよう心がけています。 夢は最新科学をまとめて小学生用に本にすること。

編集者

ナゾロジー 編集部

    Loading...
    アクセスランキング
    game_banner
    Starthome

    StartHomeカテゴリー

    Copyright 2025
    ©KINGSOFT JAPAN INC. ALL RIGHTS RESERVED.