Meta believes that social media can be a means to prevent deepfakes.

AIの最も危険な側面は「Deep fakes」であると言えます。現在、フェイクの写真、音声、そしてビデオを作成するのは比較的簡単です。例えば、モーグン・フリーメンとトム・クルーズのDeep fakesを以下に示します。

しかし、ソーシャルメディアは今までも深偽画像を配信するためのメカニズムとして使用されてきましたが、Instagramのヘッドアダム・モッセリは、実際にはそれらを打ち明かす役割を果たすことができると考えています。

「フェイクが作られる方法」

これまでに使用されてきた主な方法は、生成的敵対ネットワーク（GAN）と呼ばれる手法です。

1つのAIモデルは、偽のビデオクリップを生成するか、実際のビデオクリップを表示します。2つ目のAIモデルは、偽のビデオクリップを識別しようと試みます。このプロセスを繰り返すことで、1つ目のモデルはより信頼性の高い偽のビデオクリップを生成するよう訓練されます。

しかし、DALL-E 2のような拡散モデルは現在も取り巻いています。これらは現実のビデオ映像を取って、様々な変更を行い、その変化を多数生成します。テキストプロンプトを使用してAIモデルに望む結果を指示することで、それらを使用する方法が簡単になります。そして、使用する人数越多ほど、それらはより訓練を受けます。

「深偽動画の例」

以下に、Morgan Freemanのディープフェイクの有名な例を日本語に翻訳しました：

これは、現在の技術ほど成熟していない当時の3年前に作られたMorgan Freemanのディープフェイクの有名な例です。

そして、トム・クルーズがアイアン・マンとして:

イギリス人は、金融アドバイスをよく提供しているマーティン・リウスをここに深偽の声で認知できるでしょう。これは、暗号化詐欺を推進するために行われています。

Metaはソーシャルメディアが役立てると考えています

メタの実行役 Adam Mosseri は、ソーシャルメディアが実際には悪化するのではなく、偽のコンテンツを指摘することで世界を良くすることができるという考えを持っています。ただし、彼はこれを行うのが完全ではないことに注意し、私たちはそれぞれが情報源を考慮する必要があります。

近年、リアルな画像の作成能力は静止画や動画の両方で徐々に向上してきました。10歳の時、『ジュラスパーク』は私の心を揺さぶりましたが、それも6300万ドルの映画でした。4年後、N64の『ゴールデン・アイ』は私にとって驚きのものでした。なぜならそれはリアルタイムで作られたからです。今、これらのメディアを振り返ると、最も粗末なものとも言えます。テクノロジーの牛市か否かにかかわらず、生成型AIは現実の録画から区別しづらいコンテンツを生み出し、急速に進化しています。

ある友人、@lessin、おそらく10年前に私に、主張を評価する際にはその内容だけでなく、主張をした人物や機関の信頼性も考慮すべきだというアイデアを押し付けました。おそらくこれは数年前のことだったかもしれませんが、今では主張を評価する際には誰が言っていることがより重要であると感じているようですね。

私たちのインターネットプラットフォームの役割は、できるだけ良いように生成されたAIのコンテンツにラベルを付けることです。しかし、一部のコンテンツは間違って逃れてしまう可能性があり、すべての誤解はAIによって生成されるわけではありませんので、共有している人についてのコンテキストを提供し、自分自身が信頼したいコンテンツの量を評価できるようにする必要があります。

<