近年、人工知能は大きな進歩を遂げ、さまざまな分野で活用されることが増えています。残念なことに、AI によって生成されたヌード画像の問題もますます広まりつつあります。最近のレポートでは、Google と Apple が採用した対策にもかかわらず、Play ストアと App Store がこの種のアプリをいくつかホストしていることが明らかになりました。

AI ネイキッド アプリを備えた Play ストアと App Store: Google の返答が到着

GoogleとAppleは、人工知能を利用して実際の画像からヌード写真を生成できる「nudify」アプリとの闘いに日々取り組んでいる。からの報告によると、 技術透明性プロジェクト (TTP) によると、Google と Apple はこの種のアプリに対する規則を設けていますが、実際には、Play ストアや App Store の検索システムや広告システムを通じてユーザーをそれらのアプリに「誘導」しています。

テクノロジー大手の両社は、合意のない性的コンテンツを作成するアプリを禁止しており、AppleのApp StoreガイドラインとGoogle Playポリシーは、搾取や虐待を促進するアプリを明確に制限している。これらのヌード画像を作成するアプリは、同意なしに露骨な画像を作成するために誰かの写真が必要になることが多いため、これらのカテゴリに分類されます。

それにもかかわらず、TTP は、Play ストアや App Store で「裸にする」または「服を脱ぐ」という用語を検索すると、類似したアプリケーションを多数見つけることができることを発見しました。さらに、ストアはこれらのツールを宣伝し、オートコンプリートを通じて提案します。確かに、中には年齢制限のない「万人向け」に分類されるものもあるようです。ユーザーが写真をアップロードすると、アプリは生成人工知能モデルを使用して被写体を裸のバージョンで表示します。

このニュースが公開された後、Googleは同僚に対して声明を発表することを決定した Android 権限:

「Google Play では、露骨な性的コンテンツを含むアプリを許可していません。当社のポリシー違反が報告された場合、当社は調査し、適切な措置を講じます。このレポートで言及されているアプリの多くは、ポリシーに違反したため Google Play から停止されています。私たちの調査と執行プロセスは進行中です”。

したがって、マウンテンビュー社は明らかに行動を起こし、調査を続けているようです。報告によると ブルームバーグAppleはまた、いくつかの問題のあるアプリケーションを削除したと回答した。