AIが「CEOの銀行残高」を社内チャットに誤投稿したと海外で話題に！ 家計簿や支出履歴をAIに分析させる場合、情報漏えいを防ぐにはどうすればいい？

AIがCEOの銀行残高を社内チャットに投稿!? 海外で話題となったトラブルとは？

海外では、AIエージェントが経営者の銀行残高などを会社のSlack（ビジネスチャットツール）に投稿してしまったというトラブルが報じられました。

 

この事例では、個人の銀行口座の情報を扱うAIと、社内チャットに投稿できるAIの機能が関係していたとされています。本来は個人向けに扱うはずの支出レポートが、意図せず社内のチャットに共有されてしまったのです。

 

AIは情報を読み取ったり分析したりするだけでなく、外部サービスと連携してメッセージを送信・投稿することもできます。そのため、入力した情報自体に問題がなくても、連携先や設定によっては、想定していなかった相手に情報が共有される可能性があります。

 

家計簿や銀行口座の支出履歴をAIに分析してもらう場合も、こうしたリスクは無関係ではありません。便利な機能を活用する前に、どのような情報を入力し、どこに共有される可能性があるのかを確認することが大切です。

 

なお、冒頭で紹介した海外の事例については、AIの提供元が事実関係を認めておらず、SNS上でも内容の正確性を疑問視する指摘があります。そのため、現時点では未確認の報告ですが、AIと外部サービスの連携による情報共有のリスクを考えるうえで、ひとつの参考事例といえるでしょう。

 

家計簿をAIに入力すると何が問題？ 情報漏えいにつながる3つの経路

家計簿をAIに分析してもらえば、食費や固定費を分類したり、月ごとの支出を比較したり、節約できそうな項目を見つけたりできます。一方、家計簿には金額だけでなく、勤務先や利用店舗、通院先など、個人の生活を推測できる情報が含まれている場合もあります。

 

情報漏えいにつながるリスクは、大きく3つに分けられます。

 

1.入力データの保存・学習利用

個人情報保護委員会の注意喚起によると、生成AIサービスに入力した個人情報が、機械学習に利用されることがあります。氏名や口座番号などを入力する前に、サービスの利用規約やプライバシーポリシーを確認しましょう。

 

2.外部サービスとの連携

AIがメールやクラウドストレージ、チャットツールなどと連携している場合、入力情報や分析結果が意図しない相手に送信・共有される可能性があります。学習利用をオフにしていても、外部への誤送信まで防げるとは限りません。

 

3.アカウントや共有設定の不備

家族や同僚と共有しているアカウントを使ったり、ファイルの公開範囲を誤って設定したりすると、想定していない人に情報を見られるおそれがあります。

 

AIを利用する際は、入力した情報がどのように扱われるかだけでなく、誰が閲覧できるのか、外部への送信が可能なのかも確認することが大切です。

 

家計簿をAIで安全に分析するには？ 入力前に確認したい対策

家計簿をAIで分析する際は、入力する情報を必要最小限にしましょう。例えば、氏名や口座番号、住所、勤務先などは省き、銀行名を「A銀行」、スーパーの店舗名を「食費」、電力会社名を「電気代」のように置き換える方法があります。

 

家計の傾向を把握したい場合は、銀行口座に直接アクセスさせる方法だけでなく、食費・光熱費・通信費などの月別合計をAIに入力して、支出の傾向を確認する方法も考えられます。分析の目的に応じて、必要な情報だけを用意するとよいでしょう。

 

また、AIサービスの設定や利用規約、プライバシーポリシーを確認し、入力した情報がモデルの学習に利用されるかを把握しましょう。学習利用を無効にできる場合は、必要に応じて設定を変更します。データの保存期間や削除条件も確認し、契約内容を確認せずに「情報が一切残らない」と判断しないことが大切です。

 

さらに、AIがSlackやTeamsなどのビジネスチャット、メール、クラウドストレージなどと連携している場合は、接続先やアクセス権限を確認し、不要な連携は解除しましょう。外部への送信・投稿前に確認を求める設定があれば活用します。

 

個人の家計情報は、職場の共有アカウントや業務用ワークスペースに入力せず、個人用と業務用の環境を分けることも対策のひとつです。

 

まとめ：AIで家計を分析するなら「入力情報」と「共有先」の確認が重要

AIによる家計分析は、支出の分類や節約できる項目の発見に役立ちます。一方、連携先や設定によっては、意図しない相手に情報が共有されるリスクも潜んでいます。

 

情報漏えいを防ぐには、氏名や口座番号といった不要な情報を入力しないことが大切です。また、データの学習利用や保存期間、外部サービスとの連携状況も確認しましょう。学習利用をオフにするだけでは、外部への誤送信まで防げるとは限らないため、データの扱いと共有先の両方に注意が必要です。

 

AIにすべての金融情報を渡す必要はありません。分析目的に応じて入力情報を絞り目的を絞って安全に活用し、利便性とプライバシー保護の両立を目指しましょう。

 

出典

個人情報保護委員会 生成AIサービスの利用に関する注意喚起等

 

執筆者：FINANCIAL FIELD編集部

ファイナンシャルプランナー