Googleは現地時間水曜日、オンライン上での「合意のない画像」の拡散防止に取り組む非営利団体StopNCIIとの提携を発表しました。ブルームバーグによると、業界関係者は、この動きは遅きに失したものの、Googleの画像不正使用対策における大きな前進だと捉えています。
StopNCIIの技術は、プライベートな画像からデジタル指紋（ハッシュ）を生成し、Facebook、Instagram、Reddit、OnlyFansなどの提携プラットフォームと共有することで、手動による確認や報告なしに再アップロードされることを防ぎます。
Googleは、ハッシュを用いてコンテンツの再配信を防ぐことで、「合意のない画像」の徹底的な取り締まりを強化すると発表しました。
Googleの対応の遅さも批判されています。2021年末に開始されたStopNCIIは、メタデータベースの検出ツールを使用しています。FacebookとInstagramが最初に連携し、2022年12月にはTikTokとBumbleが続きました。MicrosoftはGoogleより約1年前の2024年9月に、このシステムをBingに統合しました。 2024年4月、Googleは英国議会に対し、データベースの相互運用性に関する懸念から、一時的に参加できないことを説明した。
一部の支援者は、Googleの対応は不十分だと考えている。支援団体「End Technology-Enabled Abuse」の創設者であるアダム・ドッジ氏は、「これは前向きな一歩だが、依然として被害者に自己申告の責任を負わせるものだ」と述べた。同氏は、Googleは合意のない画像を積極的に削除する能力を十分に備えており、被害者にハッシュ値の生成を強制すべきではないと強調した。
Googleの声明では、AIが生成した合意のない画像やディープフェイクについては言及されていない。StopNCIIは既知の画像に依存しており、AIが生成した偽造画像を積極的に阻止することはできない。「合成画像や全く異なる画像であれば、ハッシュ値では検出できない」とライト氏は述べた。
IT Homeによると、ブルームバーグが2023年に実施した調査では、ディープフェイクやAIが生成したポルノコンテンツを含むウェブサイトへのリンクの主要なソースはGoogle検索であることが判明した。 Google はその後、そのようなコンテンツの存在を減らし、検索ランキングを下げる措置を講じました。
