Google AIの誤検知でアーティストのアカウントが全削除——AI自動モデレーションのリスクとは
Google AIによる自動モデレーションが、アーティストのGoogleアカウント全体を誤って削除したと報告されています。AI審査の精度と影響範囲について解説します。
何が起きたのか
あるアーティストが、Google AIによる自動モデレーションによってGoogleアカウント全体を削除されたと報告しています。メール（Gmail）、ドライブ、フォト、YouTubeなど、Googleの各種サービスへのアクセスが一度に失われた形です。投稿はSNSで1,000件以上の反応を集め、同様の被害を訴える声も相次いでいます。
AI自動モデレーションとはどういう仕組みか
プラットフォームのルール違反（著作権侵害、不適切コンテンツなど）を検出するために、多くのサービスはAIによる自動審査を導入しています。膨大なコンテンツを人手だけで確認することが現実的でないため、AIが一次判断を行い、問題ありと判断されたアカウントに対して警告・制限・削除などの処置がとられます。
なぜ重要なのか
今回の問題は「誤検知」、つまりAIが問題のないコンテンツをルール違反と判断してしまったケースです。アーティストや写真家など、クリエイティブな作品を多数アップロードするユーザーは、画像の内容によってAIに誤解されやすいリスクがあります。
また、Googleアカウントはメールや仕事のデータとも連動しているため、アカウント削除の影響は単なるSNSの停止にとどまりません。日常生活や仕事への打撃が非常に大きい点が問題の深刻さを増しています。
一般ユーザーへの影響
Googleアカウントを業務や連絡先管理に使っている人は、バックアップ体制を整えておくことが重要です。Google Takeoutなどを活用して定期的にデータを書き出しておくことをおすすめします。また、プラットフォームのコンテンツポリシーを定期的に確認しておくことも有効です。
注意点
現時点でGoogleからの公式なコメントは確認されていません。AI自動モデレーションの誤作動は各プラットフォームで報告されており、Googleに限った問題ではありませんが、影響範囲の広さから注目が集まっています。
参照元
RELATED