starthome-logo 無料ゲーム
starthome-logo

AIに「忘れさせる」監査に大革新!Googleがわずか数千のサンプルでデータ漏洩を暴く新技術を発表



AIに特定のデータだけを「忘れさせる」技術、機械学習のアンラーニング。GDPRの「忘れられる権利」などを守るための生存条件となりつつありますが、実は「本当に消えたか」を外部から証明するのは至難の業でした。グーグル・リサーチが発表した、わずか数千のサンプルでAIのデータ漏洩を暴く画期的な新フレームワークの正体に迫ります。


従来の2標本検定の欠陥を克服、3標本の相対距離で「消えない痕跡」を暴く


Google Research(グーグル・リサーチ)の研究員であるモニカ・リベロ氏は2026年6月10日、機械学習モデルのアンラーニング(忘却・非学習)や差分プライバシーを数学的・統計的に厳密に検証できる新しい監査フレームワーク「正則化fダイバージェンスカーネルテスト」を発表しました。この研究はトップカンファレンスである「AISTATS 2026」で発表されたものです。AIモデルの大規模化と機密データの増加に伴い、モデルを最初から再学習させる莫大なコストを回避しつつ、特定のデータだけを安全に消去するアンラーニングの技術は、欧州GDPRの「忘れられる権利」への規制遵守や安全性の観点から今や厳格な要件となっています。しかし、外部の監査担当者はモデルの内部構造や元のトレーニングデータに直接アクセスできないことが多く、システムの安全性を外部からのクエリ(質問)と出力の分析だけで検証する高精度な手法が切実に求められていました。


これまでデータサイエンティストらは、データを忘れたとされるモデルの出力と、最初からそのデータを学習していないモデルの出力を比較する「2標本検定(最大平均不一致:MMDなど)」を用いて検証を行ってきました。しかし、大規模モデルに内在するランダムノイズや、バッチサイズの違いといった安全上問題のない分布のズレを「学習解除の失敗」と誤判定する「偽陽性」が多発する致命的な欠陥がありました。さらに、近年の研究では、既存の設定を微調整(ファインチューニング)するだけの近似的なアプローチでは、データの痕跡を完全に消し去ることは根本的に不可能であることが示されています。そのため、従来のテストでは、実用レベルで安全なモデルすら一律に「失敗」と判定してしまう限界を迎えていました。


今回提案された新フレームワークは、従来の2標本検定の枠組みを覆し、アンラーニングされたモデルが「完全に安全にゼロから再学習されたモデル(ゴールドスタンダード)」と「機密データを記憶したままの元のモデル」のどちらに統計的に近いかを測定する「3サンプル相対距離テスト」を採用しています。さらに、カイ二乗値やKLダイバージェンス、プライバシーの閾値を制御するホッケースティック型乖離といった複数の「fダイバージェンス」を適応型センサーとして活用することで、データ内の局所的な異常や微妙なデータ漏洩を自動かつ正確に検知します。実験では、従来の監査手法(DP-Auditoriumなど)が違反検出に数百万のサンプルを必要としていたのに対し、わずか数千のサンプル数で優れた検出性能を発揮しました。なお、この検証により、一般的なファインチューニングやプルーニング、選択的シナプス減衰といった簡易的なアンラーニングアルゴリズムはデータを完全に忘却させるには効果がなく、検証をクリアできたのは「ランダムラベル法」のみであったという、開発者にとって衝撃的な事実も明らかになっています。


見解として、AIが学習した機密データを確実に「忘却」させたかを証明する監査ガバナンスは、これからのAI安全性における決定的な評価基盤となります。 従来の検定の限界を「相対的な3サンプル比較」と「適応型fダイバージェンス」で突破し、監査に必要な計算コスト(サンプル数)を数百万から数千へと劇的に削減したグーグルの新フレームワークは、実社会におけるAIプライバシー侵害を防ぐ強力な盾となるでしょう。


詳しくは「Google Research」の公式ページまで。 レポート/DXマガジン編集部 戸田


    Loading...
    アクセスランキング
    1. AI動画生成 DomoAI ドモエイアイ Google最新AI Nano Banana Pro Gemini 3 Pro Image に対応し無制限生成が可能に 圧倒的な制作精度向上と効率化でワンストップAI生成

    2. 竹内順子「サスケが味方。その時期がどれだけ尊いか」激アツ忍者漫画コラボ!新作アニメ『NARUTO-ナルト-×NINKŪ-忍空-』全4話決定PV公開

    3. AI動画生成 DomoAI ドモエイアイ トーキングアバター機能強化で音声 感情 会話表現がより人間らしくリアルに マルチボイス 動画素材入力 スクリプト自動分割などアップデート

    4. GoogleがGemini 3発表 マルチモーダル強化で検索と開発基盤に同時展開

    5. HitPaw Edimakor 4.6系列アップデート-Klingモーションコントロール&Vidu Q3 Proで AI 動画表現を進化

    6. 「オトメイト」新作タイトル発表!男女オメガバース・薄桜鬼スピンオフ・アリスモチーフ作品など

    7. 株式会社RATHが自分だけの“デジタル個人秘書”を育てるスマホアプリ『AIboW(相棒)』をリリース

    8. AI創作プラットフォーム「PixAI」、最新アニメ生成モデル「Tsubaki.2」を正式公開、創作コンテスト開催とBitSummit Punch出展を発表

    9. 軽ダンベルで筋肥大――最新研究で重さ神話崩壊

    10. AI漫画生成プラットフォーム「MangaNow」がWebtoon制作に正式対応。新画像生成AIモデル「MangaNow Comic 1.0」も公開し、横型・縦型漫画の両方に対応。

    1. AI動画生成 DomoAI ドモエイアイ Google最新AI Nano Banana Pro Gemini 3 Pro Image に対応し無制限生成が可能に 圧倒的な制作精度向上と効率化でワンストップAI生成

    2. GoogleがGemini 3発表 マルチモーダル強化で検索と開発基盤に同時展開

    3. HitPaw Edimakor 4.6系列アップデート-Klingモーションコントロール&Vidu Q3 Proで AI 動画表現を進化

    4. 竹内順子「サスケが味方。その時期がどれだけ尊いか」激アツ忍者漫画コラボ!新作アニメ『NARUTO-ナルト-×NINKŪ-忍空-』全4話決定PV公開

    5. 加工NG、ワンタップで即送信! Instagramが放つ新機能『Instants』。スクショ禁止&閲覧後消滅で、令和のSNSは「映え」から「ありのまま」へ完全シフト

    6. まだ9月なのにインフル流行入り!? ワクチンは“打って終わり”じゃない、研究で分かったワクチンの効果(抗体応答)を左右する生活習慣とは

    7. AI動画生成 DomoAI ドモエイアイ トーキングアバター機能強化で音声 感情 会話表現がより人間らしくリアルに マルチボイス 動画素材入力 スクリプト自動分割などアップデート

    8. インフルエンザは冬だけじゃない!異例の早期流行「オフピークインフルエンザ」に備える日常の対策とは

    9. YouTube、AI動画の開示機能を刷新 システム検知で自動ラベル付与

    10. HitPaw Edimakor、AIによる【テキストから動画生成】機能を新搭載――構成もAIで自動化

    game_banner
    Starthome

    StartHomeカテゴリー

    Copyright 2026
    ©KINGSOFT JAPAN INC. ALL RIGHTS RESERVED.