ChatGPTを停止させる「言ってはいけない禁断の名前」
ChatGPTの世界にも”名前を言ってはいけないあの人”的な人名があるようです。
先日、アメリカの掲示板サイト・Redditにて、ユーザーが「David Mayer（デヴィッド・メイヤー）」なる人物について尋ねたところ、「応答を生成できません」とか「何か問題が発生したようです」とだけ答え、頑なに回答を拒否することが判明しました。
このニュースは瞬く間にユーザー間で話題となり、多くの人が同じ現象を報告しています。
さらに調査を進めると、ChatGPTが回答を拒絶するのは「David Mayer」だけではなかったようなのです。
目次
- ChatGPTが回答を拒否する「David Mayer」の正体とは？
- 「名前を言ってはいけないあの人」は他にもいた！
ChatGPTが回答を拒否する「David Mayer」の正体とは？
ChatGPTはアメリカのテクノロジー企業が開発した生成AIの一種です。
ユーザーが投げかける様々な質問に対して何でも柔軟に回答し、外国語の翻訳から画像の生成まで、あらゆる作業をこなしてくれる優れものとして知られています。
しかしそんなChatGPTに最近、奇妙な現象が起きていると報告されました。
ユーザーがChatGPTに対して「Who is David Mayer？」と質問したところ、「エラーが起きました」とのメッセージだけを返して、それ以降は頑なに回答を拒絶したのです。
実際にそれを試したユーザーとChatGPTとのやりとりがこちら。
最初にユーザーが「David Mayer」と打つと、ChatGPTは「おかしいですね。システムに何らかの障害が起きたようです」と返答し、それに対してユーザーが「では、David Mayerと書いてみて」と尋ねると、ChatGPTは「David」まで書いて、それ以降は沈黙したのです。
では、この「David Mayer」とは何者なのでしょうか？
自らの正体を知られないために、「David Mayer」の名をネット上から削除したのでしょうか？
その謎を解明するために、まずGoogleで検索してみると、David Mayerなる名を持つ人物として特に際立った人が一人見つかります。
それが「David Mayer de Rothchild（デヴィッド・メイヤー・ド・ロスチャイルド）」氏です。
彼はその名の通り、ユダヤ人の金融財閥として有名なロスチャイルド家の御曹司であり、彼自身はイギリスの冒険家や環境保護活動家、映画プロデューサーとして活動しています。
確かに彼は影響力のある著名な人物ではありますが、公に顔と名前を公開して活動しており、ChatGPTから自分の名前を削除しようとするようなプライバシー狂ではありません。
実際に今回の件について本人に尋ねたところ、「いいえ、私自身OpenAI社とは一度も連絡を取ったことがなく、名前の削除も依頼していません」と回答しています。
またChatGPTに「Who is David Mayer de Rothchild？」と正式名称で質問してみると、いつも通り、正常に人物に関する情報提供を行いました。
そのため、ChatGPTが弾いたのは彼ではないことは確かです。
他方でもう一人、今回の騒動の原因となった可能性の高い人物がいました。
アメリカ系イギリス人の歴史家として活躍したデヴィッド・メイヤー（1928〜2023）です。
彼は英マンチェスター大学の演劇史家の名誉教授でしたが、生前に、人違い事件により誤ってアメリカのテロリストのブラックリストに載ったことで知られます。
現時点では、この誤情報をChatGPTが反映したことで「David Mayer」を検索ワードから自動的に弾いた可能性が高いようです。
結局、ネット上で騒動になった翌日、OpenAI社が問題に対処し「これは我々も意図していない不具合だった」と述べ、システムの修復を行いました。
現在ではChatGPTも「David Mayer」について正式に回答してくれる状態となっています。
ところが騒動はこれで終わりませんでした。
さらに詳しく調べてみると、David Mayer以外にもChatGPTが回答を拒絶する人名がいくつもあったのです。
「名前を言ってはいけないあの人」は他にもいた！
今のところ、ChatGPTにその名を尋ねるとエラーを起こす人名は5つ分かっています。
1つ目は「Brian Hood（ブライアン・フッド）」です。
有力な候補として、オーストラリアの市長が挙げられており、彼は以前、ChatGPTから誤って「収賄の罪で服役したことがある」と回答されたことがあり、フッド氏は名誉毀損だとしてOpenAI社を一時提訴するとの発言をしていました。
2つ目は「Jonathan Turley（ジョナサン・ターリー）」です。
アメリカの政治評論家に同名の人物がおり、こちらもChatGPTによって「学生に性的暴行を行った」との誤情報を出力された過去があります。
3つ目は「Jonathan Zittrain（ジョナサン・ジットレイン）」です。
ハーバード大学に同名の法学教授がいますが、こちらはChatGPTとの関連性が不明となっています。
4つ目は「David Faber（デヴィッド・フェイバー）」です。
ここでは同名のジャーナリストが候補として挙がっており、2023年にイーロン・マスク氏へのインタビューを行い、彼とOpenAI社を提訴するとの発言をしています。
5つ目は「Guido Scorza（グイド・スコルザ）」です。
イタリアデータ保護当局理事会のメンバーに同名の人物がおり、彼は「忘れられる権利（right to be forgotten）」として知られる、ChatGPTのトレーニングデータなどから個人データを削除するよう要求したことが分かっています。
これらの人名についてChatGPTが回答を拒否する正確な理由は定かでありませんが、おそらく、OpenAI社との法的または政治的なやりとりが原因で、ChatGPTがその人名を自動的に検索から弾くブラックリスト・ワードの中に入れられた可能性があるとのことです。
実際に、これらの人物名は現在も、ChatGPTが回答を拒否する状況が続いています。
ChatGPTが無言を貫く「名前を言ってはいけないあの人」は、この他にもまだまだ存在しているかもしれません。
あなたの名前はどうでしょうか…？
参考文献
The David Mayer case: ChatGPT refuses to say some names. We have an idea why
https://www.zmescience.com/science/news-science/chatgpt-david-mayer-other-names-crashing/
Why does the name ‘David Mayer’ crash ChatGPT? OpenAI says privacy tool went rogue
https://techcrunch.com/2024/12/03/why-does-the-name-david-mayer-crash-chatgpt-digital-privacy-requests-may-be-at-fault/
ChatGPT’s refusal to acknowledge ‘David Mayer’ down to glitch, says OpenAI
https://www.theguardian.com/technology/2024/dec/03/chatgpts-refusal-to-acknowledge-david-mayer-down-to-glitch-says-openai
ライター
大石航樹: 愛媛県生まれ。大学で福岡に移り、大学院ではフランス哲学を学びました。 他に、生物学や歴史学が好きで、本サイトでは主に、動植物や歴史・考古学系の記事を担当しています。 趣味は映画鑑賞で、月に30〜40本観ることも。
編集者
ナゾロジー 編集部