AIもネットのジャンク情報を学ぶと「脳が腐る」と判明
翌朝、昨夜あれほど眺めた投稿を一つも思い出せないまま、ぼんやりした頭で駅へ向かう。
ネット上の軽くて刺激の強い情報を大量に浴びる人には、集中が続かないといった頭の変化が見られることがあります。
こうした変化は、「ブレインロット(脳の腐敗)」と呼ばれるようになりました。
この言葉は2024年に、オックスフォード大学出版局が選ぶ「今年の言葉」にも選ばれています。
一方で、文章を作るAI(大規模言語モデル)も、ネット上の膨大な文章を読んで言葉を学んでいます。
では、AIが中身の薄い投稿ばかりを学んだら、AIの「頭」にも同じことが起きるのでしょうか？
研究の詳細は、米テキサスA&M大学らにより、2025年10月15日付で『arXiv』に公開されました。
AIに「ジャンク投稿」を読ませる実験
この疑問に挑んだのは、米テキサスA&M大学のジェンジョン・トゥー助教らのチームです。
チームは、ネットの文章から学ぶAIも、ジャンクを浴び続けると人と同じように知的な力が長く衰えるのではないかと考えました。
ここでいうジャンクとは、反応はたくさん集めるのに中身が薄く、注意を引くために書かれた文章です。
たとえば、全部大文字の「WOW」や「TODAY ONLY(本日限り)」といった言葉を使う投稿です。
うわべだけの暮らしの話や、根拠のない主張、陰謀論なども含まれます。
実験には、2023年に集められた、反応の数つきの公開ツイッター(現X)投稿100万件を使いました。
ジャンクの選び方は2通りあります。
まずは、反応の多さと投稿の長さで選ぶ方法です。
いいね・リツイート・返信・引用が合わせて500を超え、しかも30トークン未満の短い投稿をジャンクとしました。
トークンはAIが文章を区切って読む単位で、単語や記号、よくある言い回しが1トークンになることもあります。
比べる側には、反応が500以下で、100トークンを超える長めの投稿を集めました。
もう一つは、文章の質で選ぶ方法で、小型のAI(GPT-4o mini)に投稿を仕分けさせました。
大文字やハッシュタグ、急がせる言い回しを使う投稿や、取るに足らない話題の投稿がジャンクです。
このAIの仕分けは、大学院生3人が同じ基準で付けた判定と76%一致していました。
どちらの方法でも、ジャンク側と比べる側で、文章の量と学ばせ方はそろえてあります。
そのうえで4種類のAIに、それぞれのデータを追加で学ばせました。
学んだ後は、考える力、長い文章の理解、安全さ、性格の傾向をテストしました。
こうすれば、成績に差が出たとき、その原因を読んだ投稿の違いに絞り込めます。
ジャンクを学んだAIに何が起きたのか？
その結果、ジャンクを学んだAIは、比べる側のAIより成績を落としました。
下がったのは考える力、長い文章の理解、安全さで、いずれも無視できない大きさの低下です。
しかも、ジャンクと普通の投稿を混ぜる割合を変えると、ジャンクが多いほど成績は段階的に下がっていきました。
反応の多さで選んだジャンクの割合を、0%から100%まで上げたときの変化を見てみましょう。
答えの前に考えの道筋を書かせる推論テスト(ARC)では、成績が72.1から57.2に下がりました。
成績の値が、およそ2割下がったことになります。
長い文章のテスト(RULER)は、関係のない文に紛れた手がかりを探したり抜き出したりする課題の集まりです。
そのうち、情報を抜き出す課題の一つ(CWE)では、正答率が83.7%から52.3%へと、さらに大きく落ちました。
もとの成績の6割ほどしか残らなかった計算です。
では、なぜ推論の成績が落ちたのでしょうか。
チームが間違いの中身を調べると、いちばんの原因は「思考の飛ばし」でした。
ジャンクを学んだAIは、答えに至るまでの考えの道筋を途中で打ち切ったり、飛ばしたりするようになっていたのです。
まったく「考える」ことをせずに答えを出す場合もありました。
つまり、短く刺激の強い投稿で学んだAIは、順を追って考える手間を省くようになっていたのです。
論文の主著者の一人で、博士課程の学生のシュオ・シン氏は、次のように話しています。
「人が釣り記事に影響されるように、言語モデルもSNSの質の低い情報から悪い考えの癖を身につけうるのです」
変化は、考える力だけにとどまりませんでした。
反応の多さで投稿を並べる仕組みは、敵意のような感情を強めうるという指摘があります。そこでチームは、AIの性格の傾向も調べています。
性格検査のような選択式の質問にAIを答えさせると、反応の多さで選んだジャンクを学んだAIでは「闇の性格特性」が強まっていました。
闇の性格特性とは、社会で好ましくないとされる性格の傾向で、サイコパシーやナルシシズム(自己愛の強さ)などが当たります。
ジャンクを学んだAIは、考えが浅くなるだけでなく、ふるまいの面でも悪い方向へ傾いていたのです。
一度ついた癖は、学び直しで消えるのか
ここで気になるのは、こうなったAIを治せるのかどうかです。
チームは、きれいなデータで追加の学習をやり直したり、指示に沿って答える練習(指示チューニング)の量を増やしたりしました。
すると、落ちた力はある程度持ち直したものの、もとの水準までは戻りませんでした。
シン氏は、「質の高いデータで学ばせても、答えを良くする工夫をしても、性能を取り戻すのはとても難しい」と述べています。
チームはこの結果から、答え方の形式が合っていないだけの問題ではない、と見ています。
AIの内部で、物事を表す仕組みそのものがずれたまま残っている可能性があるというのです。
もう一つの発見は、どの特徴が悪影響をよく言い当てるか、という点でした。
反応の多さで選んだジャンクには、「短い」と「人気がある」という2つの特徴があります。
このうち、脳の腐敗のような悪影響をよりよく言い当てたのは、投稿の長さではなく、いいねやリツイートの多さでした。
チームの分析では、投稿の長さは、人気の高さよりも、文章の質の評価と強く結びついていました。
つまり人気の高さは、中身の良し悪しとは別の物差しなのに、AIの劣化をよく言い当てていたのです。
トゥー氏は、企業や研究者がAIの仕組みや学習の資源の最適化に目を向けすぎていると指摘します。
そのうえで、「データの大切さを強調したい」と話しています。
チームは、条件をそろえた実験で差が出たことから、データの社会的な性質(どれだけ反応を集めたかなど)がAIの能力低下の原因になりうると述べています。
そして、使われ続け、更新され続けるAIには、定期的な「頭の健康診断」を行うべきだと訴えています。
ただし、今回の結果は、2023年に集められたツイッター投稿と4種類のAIを使った研究によるもので、チーム自身も予備的な研究と位置づけています。
いま実際に使われているAIが、どの程度こうした影響を受けているのかは、この研究だけでは分かりません。
それでも、ジャンク投稿を学んだAIは、考えの道筋を途中で打ち切ったり飛ばしたりするようになりました。
落ちた成績は、きれいな文章で学び直しても、もとの水準までは戻らなかったのです。
夜ふかしで眺める人気投稿の山は、それを読んで育つAIにとっても、頭を鈍らせるジャンクフードなのかもしれません。
今夜くらいは私たちも「本日限り」の投稿を閉じ、長めの文章を一つ読んでから眠ることにしましょう。
ここからは、ブレインロットをもっと知りたい人へ
ブレインロットとは、ネットの軽い情報で頭が鈍っていく様子を指す英語の流行語です
ブレインロットは、英語の「brain rot」をカタカナで書いた言葉で、日本語では「脳腐れ」とも訳されます。
オックスフォード大学出版局によると、この言葉が使われる回数は、前の年に比べて230%増えました。
そして2024年の「今年の言葉」は、一般の人の投票と専門家の分析を組み合わせて選ばれ、brain rot がほかの候補を抑えました。
このとき競った候補には、「控えめ」を意味する「demure」や、AIが作った質の低いコンテンツを指す「slop」などがありました。
研究の面では、ネットの軽いコンテンツに触れすぎることが、注意の続かなさに加えて、記憶を思い出す力や、人を理解する力の衰えとも結びつけられています。
トルコの人々を調べた研究でも、SNSをたくさん使うことが、強い心の苦しさや、性格の傾向の変化と関係していました。
さらに、ツイッター(現X)の投稿は、AIが最初に言葉を学ぶときの文章の中にも広く含まれていて、SNSの文章を読むのは人だけではありません。
写真で見るAIの研究とスマホのある日常
参考文献
When LLMs are trained on frivolous online content, they can get brain rot like humans do (Phys.org)
https://techxplore.com/news/2026-10-llms-frivolous-online-content-brain.html
ニューズウィーク日本版「今年の言葉はbrain rot」
https://www.newsweekjapan.jp/articles/-/57334
元論文
LLMs Can Get "Brain Rot": A Pilot Study on Twitter/X
https://doi.org/10.48550/arxiv.2510.13928
ライター
山下 浩介: むずかしい研究を、なるべく分かりやすく伝えたい。専門の言葉はふだんの言葉に置きかえて、身近な例で例える。それで「わかった」「楽しかった」と言ってもらえたら嬉しいです。
好きなのは、通学路や台所や日常の中にある科学。眠っているあいだに記憶が整理される話や、虫の鳴き方に意味がある話のように、読み終わったあとに誰かへ話したくなる研究を探しています。
編集者
ナゾロジー 編集部