Meta believes that social media can prevent deep fakes.

그러나 소셜 미디어는 깊은 가짜 이미지를 배포하는 기능으로 사용되어 왔지만, 인스타그램의 아담 모서리는 실제로 그들을 부정하는 데 중요한 역할을 할 수 있다고 생각한다...

딥 페이크가 어떻게 만들어지는지

지금까지 사용된 가장 주요한 깊은 가짜 비디오를 만드는 방법은 생성적 적대 신경망(GAN)이라는 접근 방식이었습니다.

한 개의 인공지능 모델은 가짜 비디오 클립을 생성하거나 진짜 비디오 클립을 표시합니다. 두 번째 인공지능 모델은 가짜 비디오를 식별하려고 합니다. 이 과정을 반복적으로 실행하면 첫 번째 모델이 점점 더 진실하게 보이는 가짜 비디오를 생성하도록 훈련됩니다.

그러나 DALL-E 2와 같은 확산 모델이 이제 주도하고 있습니다. 이러한 모델은 실제 비디오 자료를 가져와 다양한 변경을 통해 그들의 많은 변형을 만듭니다. 텍스트 프롬프트를 사용하여 AI 모델에게 원하는 결과를 지시할 수 있어 사용하기가 더 쉽고, 사용하는 사람수록 더 잘 훈련됩니다.

깊은 가짜 동영상의 예시

여기 Morgan Freeman의 유명한 깊은 가짜 예시가 있습니다. 그녀는 현재보다 훨씬 고도의 기술로 만들어졌지만, 3년 전에 만들어졌습니다.

그리고 또 다른 한 건은 톰 크루즈가 아이언맨으로:

브리트니즈는 금융 조언을 제공하는 데 유명한 마틴 레이스가 여기서 깊은 흉표를 사용하여 암호 사기 프로모션에 나타날 수 있습니다.

메타가 소셜 미디어가 도움이 될 수 있다고 생각합니다.

메타의 실행인 아담 모스세리가 소셜 미디어가 진실한 내용을 표시하는 데 도움이 되어 실제로 나쁜 영향을 미치는 것이 아니라 더 나은 결과를 가져올 수 있다고 생각합니다. 그러나 그는 이를 완벽하게 수행하지 못한다고 지적하며, 각자가 출처를 고려해야 한다고 말합니다.

오랫동안 우리는 실현 가능한 이미지를 만들기 위해 점점 더 능력을 갖추고 있습니다. Jurassic Park은 제 10세 때 저에게 큰 인상을 주었지만, 그는 6300만 달러의 영화였습니다. 4년 후에 N64용 Golden Eye는 저에게 더욱 놀라운 경험을 주었고, 그것은 실시간으로 진행되었기 때문입니다. 이제 우리는 이런 미디어를 다시 보고 최악의 경우도 부자연스럽다고 느낍니다. 기술에 대해 주자나 비주자이든, 생성형 AI는 현실의 녹화와 구별하기 어렵고 빠르게 향상되고 있습니다.

한국어 번역문: "오랜 전에 @lessin이라는 친구가 제게 제안했어요. 어떤 주장이든 내용뿐만 아니라 그 주장이 제기한 사람이나 기관의 신뢰성도 고려해야 한다는 개념을. 그 제안이 몇 년 전에 있었던 것 같기도 하고, 하지만 지금이 우리가 공동으로 인정하는 시점 같아요. 이제는 어떤 말이 제기되는 사람보다 말의 내용보다는 그 말의 유효성을 평가할 때 신뢰성이 얼마나 중요한지 더 많이 고려하는 시점 같아요.

인터넷 플랫폼의 역할은 AI로 생성된 콘텐츠를 최선을 다해 라벨링하는 것입니다. 그러나 일부 콘텐츠는 불가피하게 검열을 피할 수 있으며, 모든 허