人工知能によって生成されたコンテンツは、ソーシャルメディアをはじめとして、インターネットの隅々に溢れており、簡単に認識できる場合もありますが、最も訓練された目を欺くほど現実的な例には事欠きません。このため、Google はジェミニに新しい超能力を装備するのに適していると判断しました。マウンテンビューの AI は、AI によって生成されたコンテンツを認識するための新しいツールを期待できますが、その機能はまったく完璧ではありません。

Gemini が SynthID のおかげで AI を発見

最も注意深い皆さんにとって、SynthID という名前はまったく新しいものではないように聞こえますし、実際、絶対的な意味でも新しいものではありません。私たちは数か月前にこの名前に遭遇しており、Google がそれを Photos に実装し、Magic Editor で作成または変更された画像に一種の目に見えない透かしを適用したのです。それだけではありません。昨年 5 月の Google I/O の機会に、特に AI の助けを借りて生成されたコンテンツの認識を容易にすることを目的として設計された SynthID Detector ポータルも発表されました。最初の待機リストを除いて、このツールの主な制限は、疑わしい各画像を特定のポータルに手動でアップロードする必要があることにあります。

さて、Google は、SynthID ツールを Gemini に直接統合する、より手頃なソリューションを考えました。以下のスクリーンショットからわかるように、SynthID は Gemini の設定で接続されているアプリのリストの一番下に表示されます。これは、ツールをクエリするには、リクエストでそのツールについて言及するだけで十分であることを意味します。したがって、理論的には、包括的な答えを得るには、画像をアップロードし、それが AI によって生成されたかどうかを尋ねるだけで十分です。しかし、実際には、このツールはまだ未熟で、機能的には不完全です。次のスクリーンショットは、Gemini によって生成された 2 つの画像を示していますが、そのうちの 1 つでのみ AI の手が認識されていますが、それは誰の目にも明らかでした。

それだけでは不十分であるかのように、SynthID ウォーターマークを使用しない AI モデルで生成された画像に直面した場合、このツールはまったく役に立たないことを強調しておく必要があります。