Behavioral AI Labは、AIによる心理的操作やオンライン詐欺の検知と予防に取り組む国際共同プロジェクト「Global Partnership for Detecting and Preventing AI-Enabled Manipulation and Scams」を開始しました。本プロジェクトは国連のGlobal Dialogue on AI GovernanceのAI Dialogue Partnerships Hubに採択され、Behavioral AI Labが実施主体として全体を統括します。行動科学、AIガバナンス、Trust &Safety、多言語AI開発の専門家が連携し、人間中心のAI安全性評価の確立と社会実装を進めます。生成AIの普及で巧妙化する心理的操作や詐欺に対し、従来の有害コンテンツ中心の評価では不十分という課題に応える取り組みです。発表は米国サンフランシスコで行われました。
心理的操作とオンライン詐欺を第一弾テーマに、評価手法とデータ基盤を構築
初期テーマは暗号資産投資詐欺、ロマンス詐欺、なりすまし詐欺で、AI悪用が認知や感情、信頼関係に与える影響を分析し、検知・評価・予防手法を開発します。FBIは2025年の米国における暗号資産関連詐欺の被害額を110億ドル、そのうち72億ドルを暗号資産投資詐欺としています。日本でも警察庁が、2025年のSNS型投資詐欺とSNS型ロマンス詐欺の被害額合計を約1,800億円と公表しています。Behavioral AI Labは、150件超の暗号資産ロマンス詐欺事例と15,000件超の詐欺メッセージの分析を基盤に、新たな評価フレームワークの構築を進めます。参加組織のShisa株式会社は多言語SLMの開発や安全性を重視したポストトレーニング、データセット構築、自動評価技術を担当します。2026年7月から2027年6月にかけ、研究者やAI開発者、Trust &Safety専門家、金融機関、消費者保護機関、政策立案者らと連携し、評価手法とデータ基盤の整備を推進します。
創設者の田中知美氏は、有害出力の抑制だけでは不十分で、人が何を根拠に信頼し意思決定するか、認知バイアスの利用実態を理解する重要性を語っています。行動科学をAI評価やSafety by Designに取り入れ、安全性と信頼性を両立する人間中心のAIシステムの実現を目指す方針です。Behavioral AI Labはサンフランシスコ拠点の研究・アドバイザリー組織で、AI評価、Safety by Design、Trust &Safetyを基盤に、人間とAIの相互作用の研究と実装に取り組んでいます。国内外の関係機関と協働し、検知と予防の仕組みを整えることで、巧妙化するオンライン詐欺への対抗力を高める計画です。
詳しくは「Behavioral AI Lab」の公式ページまで。
レポート／DXマガジン編集部
