Google AIの誤検知でアーティストのアカウントが全削除——AI自動モデレーションのリスクとは

Google AIによる自動モデレーションが、アーティストのGoogleアカウント全体を誤って削除したと報告されています。AI審査の精度と影響範囲について解説します。

あるアーティストが、Google AIの自動モデレーションによってGoogleアカウント全体を突然削除されたと報告し、SNSで1,000件以上の反応を集めています。Gmail・ドライブ・フォト・YouTubeなど、Googleの各サービスへのアクセスが一度に失われたというもので、同様の被害を訴える声も相次いでいます。

プラットフォームのAI自動審査は、膨大なコンテンツを人手だけでは確認できないために導入されています。AIが「問題あり」と判断したアカウントには、警告・制限・削除などの処置がとられる仕組みです。今回は「誤検知」、つまり問題のないコンテンツをルール違反と判断してしまったケースとみられています。

アーティストや写真家など、独自の画像作品を多くアップロードする人ほど、AIに誤解されるリスクは高くなります。そして怖いのは、Googleアカウントがメール・仕事のファイル・連絡先とすべて連動していること。削除されると、日常生活や仕事に与える打撃がとても大きいです。

現時点でGoogleからの公式コメントはありません。すぐにできる対策としては、Google Takeoutなどでデータを定期的にバックアップしておくことが有効です。

「自分のGoogleアカウントが急に消える」なんて考えただけで怖くなりますよね。メールも写真もドライブも全部入っているので、他人事ではないと思って早めにバックアップを取ろうと思いました。

参照元： Reddit r/ChatGPT 投稿