AIのアシストを受けて文章を書くと「意見が誘導される」危険がある！
皆さんは「AIライティングアシスタント」というツールをご存知でしょうか。
これは書きたい文章のアイデアを入力するだけで執筆を手伝ってくれたり、メールやLINEの返信を自動で生成してくれる技術で、すでに利用している方も多いかもしれません。
簡単な返信が面倒なときや文章を書くのに行き詰まっているときには便利でしょう。
ところが今回、米コーネル大学（Cornell University）の研究で、AIライティングアシスタントは私たち書き手の意見を変えてしまう可能性が示されました。
「SNSは社会にとって有益か？」というテーマで意見を書くよう求められた参加者は、AIの助言に従うような結論に導かれたとのことです。
研究の詳細は、2023年4月に開催された国際会議『Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems』にて発表されました。
目次
- AIの助言で書き手の意見が変わる
- 利用者はAIに意見を左右されたことに気づいていなかった
AIの助言で書き手の意見が変わる
昨今では、自動で質問の返答をしてくれるAIチャットボット・ChatGPTが話題ですが、研究主任のモル・ナーマン（Mor Naaman）氏は「あらゆる生活シーンへのAI導入を急ぐ前に、個人や社会にもたらす影響を正しく理解する必要がある」と話します。
その取り組みの一つとして今回、AIアシスタントを使って文章を書くことが個人の意見にどう影響するかを調べました。
実験では、オンラインで1506名の参加者を募り、「ソーシャルメディアは社会にとって良いものか？」というテーマで意見を専用のプラットフォームで書いてもらいます。
参加者は2つのグループに分けられ、一方はAIなし、もう一方はAIライティングアシスタントを使ってもらいました。
後者のグループでは、AIアシスタントの設定をあらかじめ「SNS賛成派」か「SNS反対派」に偏らせて、ランダムに振り分けています。
つまり、このグループの参加者たちは「SNSのメリットを助言してくるAI」か「SNSのデメリットを助言してくるAI」のいずれかを使うわけです。
またプラットフォームでは、参加者が文章を書くのにかかった時間や、AIの助言をどれだけ受け入れたかなどのデータを収集しています。
そして500名の審査員に文章を評価してもらった結果、SNSのメリットを助言してくるAIを使った参加者は、AIなしのグループに比べて、「SNSは社会にとって有益」と意見をまとめる確率が2倍も高くなっていたのです。
この傾向はSNSのデメリットを助言するAIを使ったグループでも同様に確認でき、この場合は「SNSは社会にとって悪影響がある」という意見で文章が作られる確率が2倍高くなりました。
利用者はAIに意見を左右されたことに気づいていなかった
チームは次に、AIを使った参加者がタスクを早く終わらせるために、単にAIの助言を受け入れただけかどうかを調査。
しかし文章作成にかかった時間を踏まえても、AIの助言の内容によって作成された文章の意見が偏る傾向は変わりませんでした。
数分でタスクを完了した人も数十分かかった人も、AIのアドバイスによって意見に影響を受けていたのです。
さらに実験後のフォローアップ調査では、参加者の大多数がAIの助言があらかじめ偏っていたことに気づかず、自分がAIの影響を受けているとも感じていなかったことが分かりました。
ナーマン氏は次のように話しています。
「参加者はAIとの共同執筆のプロセスにおいて、自分が説得されているようには感じていませんでした。
あくまで自分の考えをベースにして、その足りない部分をAIに補助してもらっているという感覚だったのです」
以上の結果を受けてチームは「AIライティングアシスタントに組み込まれたバイアスは、意図的であろうとなかろうと、知らず知らずのうちに個人の考えに影響を及ぼす」と結論しました。
AIアシスタントの影響は社会にも広がるのか？
チームは今後、この効果がどのくらい持続するのか、そしてAIによって左右された個人の見解は社会にまで影響を及ぼしうるのかを調査していく予定です。
たとえば、SNSがニセ情報の拡散やエコーチェンバー（※）を促進することで、実際に社会や政治状況に影響を与えたのと同じ現象が起こるかもしれません。
（※ SNSを使用する際に、自分の趣味嗜好と似たユーザーをフォローした結果、意見をSNSで発信すると自分と似た意見ばかり返ってくる状況。それを閉じた小部屋で音が反響する物理現象にたとえてエコーチェンバーと呼ぶ）
もしAIアシスタントが人々の意見を無意識に操作して、その影響が社会全体にも広がるのなら、このツールが何らかの方法で悪用される可能性は十分にあるでしょう。
研究主任の一人であるモーリス・ジェイクシュ（Maurice Jakesch）氏は「AIアシスタントを導入する前に、それがどのように悪用されるのか、いかに監視・規制されるべきか、もっと一般的な議論が必要です」と述べています。
AIを使った文章アシストは、自身の表現の幅を広げるための便利なツールですが、その利便性の裏に自身の考えを知らずに歪めてしまうメカニズムがあるのなら、我々はもっと深くその影響を理解しておく必要があるでしょう。
参考文献
Writing with AI help can shift your opinions https://techxplore.com/news/2023-05-ai-shift-opinions.html元論文
Co-Writing with Opinionated Language Models Affects Users’ Views https://dl.acm.org/doi/10.1145/3544548.3581196