Deepfakes: 작동 방식, 앱 및 몇 가지 예

Deepfake 사진과 비디오는 전 세계 많은 사람들의 관심을 끌고 있으며 연구원과 국회의원은 다음과 같이 묻습니다.

딥페이크라는 용어는 "딥 러닝"과 가짜를 의미하며 인공 지능의 딥 러닝 방법을 사용하여 모든 미디어의 가짜 사본을 만드는 것을 나타냅니다.

많은 사람들이 딥페이크 앱을 사용하여 사진과 비디오를 위조하는 것이 얼마나 쉬운지 놀라는 반면, 다른 사람들은 매우 재미있다고 생각합니다. 그러나 딥페이크는 하나의 일이 되었습니다.

그래서 우리는 이 기술이 어떻게 작동하고 세상에 어떤 의미가 있는지 알아보기 위해 이 기술을 자세히 살펴보고 있습니다.

딥페이크 vs 인공 지능

무엇보다도 AI가 생성한 표준 출력과 딥페이크의 차이점을 확인하는 것이 중요합니다. AI 알고리즘은 오랜 세월 동안 다양한 유형의 미디어 출력을 생성했지만 이를 딥페이크라고 부를 수는 없습니다.

딥페이크(deepfake)라는 용어는 기존 사본의 AI 편집 버전인 비디오, 사진 또는 기타 모든 것과 같은 위조된 미디어를 나타냅니다.

인공 지능은 더 저렴하고 더 강력한 컴퓨터와 이 분야의 새로운 발전 덕분에 지난 10년 동안 엄청나게 발전했습니다.

AI가 생성한 이미지는 10년 전에 쉽게 알아볼 수 있었지만 지난 몇 년 동안 알고리즘이 향상되어 매우 사실적인 결과를 생성하기가 더 쉬워졌습니다. 일반적으로 AI가 생성한 이미지와 특히 딥페이크를 매우 인상적으로 만드는 것은 이 높은 수준의 진정성입니다.

AI와 딥 러닝

generated.photos 및 thispersondoesnotexist.com에서 찾을 수 있는 매우 사실적인 사람의 얼굴을 만들기 위해 컴퓨터 알고리즘이 어떻게 진화했는지 이해하려면 인공 지능 입문서가 필요합니다.

AI에는 사용하는 방법과 달성하려는 계획에 따라 다양한 영역이 있습니다. 스팸 탐지에 사용되는 베이지안 필터와 같은 확률 방법부터 퍼지 논리, 자체적으로 개발되는 진화 알고리즘, 인간 두뇌를 시뮬레이션하는 것을 목표로 하는 인공 신경망에 이르기까지 모든 것을 찾을 수 있습니다.

신경망

수백만에서 수십억 개의 뉴런에 걸쳐 있는 매우 복잡한 네트워크에서 연결되는 수상돌기와 축삭이 있는 인간 두뇌에 실제 뉴런이 있는 것처럼 인공 뉴런도 연결됩니다. 그러나 그 수는 컴퓨팅 성능에 의해 제한됩니다.

신경망의 목표는 모든 입력에 대한 출력 또는 답변을 제공하는 것입니다. 이것은 먼저 자녀를 가르치는 것처럼 네트워크를 가르쳐서 달성됩니다. 그 후, 그것은 이제 당신의 가르침을 기반으로 예측을 할 수 있습니다.

또한 네트워크에서 더 많은 뉴런이 더 나은 결과를 의미하며 더 많은 훈련 데이터도 결과를 개선한다는 점에 유의해야 합니다. 이것은 적어도 이론적으로 인간의 두뇌가 작동하는 방식입니다.

딥페이킹이 작동하는 방식

인공 지능을 적용할 수 있는 분야는 많습니다. 딥페이킹은 신경망을 사용하여 이미지를 편집하는 것에서 진화한 그 중 하나일 뿐입니다. 초기 결과는 유망했지만 Ian Goodfellow와 친구들이 2014년에 GAN을 고안하기 전까지는 매우 기본적인 것이었습니다.

GAN 또는 Generative Adversarial Network는 신경망을 가르치기 위한 프레임워크입니다. 따라서 네트워크를 스스로 준비하고 가르쳐야 하는 대신 다른 네트워크가 출력을 비판하여 첫 번째 네트워크와 경쟁하게 합니다. 이것은 모든 훈련 세트를 기반으로 훌륭한 결과를 생성합니다.

GAN 접근 방식의 결과는 오늘날과 같이 당시에도 경이적이었습니다. 또한 딥페이크를 포함한 많은 AI 솔루션 및 애플리케이션의 기반이 되었습니다. 또한 컴퓨팅 성능이 향상되어 스마트폰에서도 놀라운 작업을 더 쉽게 수행할 수 있습니다.

가능한 딥페이크 애플리케이션

인터넷에 떠도는 인기 있는 이미지와 동영상 외에도 딥페이크 기술을 보다 유용한 다른 용도로 사용할 수 있는 다양한 응용 프로그램이 있습니다.

Deepfakes는 음성 합성을 사용하여 언어 장애가 있는 환자가 음성을 찾도록 도울 수 있습니다. 플로리다주 세인트피터스버그에 있는 달리 박물관에서 일어난 것처럼 역사적 인물이 다시 살아나는 교실에서 사용할 수 있습니다.

영화 산업은 영화에서 CGI(Computer Generated Imagery) 비용을 크게 줄일 수 있기 때문에 딥페이크의 용도를 찾을 수도 있습니다. 죽은 연예인과 배우가 부활하여 새 영화에 등장할 수 있습니다.

Deepfakes는 David Beckham의 "malaria no more" 캠페인과 Manoj Tiwari의 인도 정치 캠페인에서처럼 여러 언어로 전문 비디오를 제작할 수 있게 해줍니다. 인도에서는 여러 언어로 유창하게 말했습니다.

게임은 또한 플레이어가 더 깊은 가상 현실 경험을 위해 게임에 몰입할 수 있으므로 딥페이크의 좋은 용도를 찾을 수 있습니다.

소셜 미디어 마케터조차도 컴퓨터에서 완전히 생성되고 관리되는 컴퓨터 생성 소셜 미디어 인물의 용도를 찾고 있습니다. 실제 딥페이크는 아니지만 Calvin Klein의 Lil Miquela와 그녀의 3백만 인스타그램 팔로워는 무엇이 가능한지를 보여줍니다.

몇 가지 딥페이크 예

이 기술과 그 약속을 더 잘 이해하기 위해 가장 인상적인 딥페이크 몇 가지를 소개합니다.

• 오바마 발표 – 이것은 가장 잘 알려져 있고 가장 오래되고 가장 충격적인 딥페이크 중 하나입니다. 2018년에 공개된 이 비디오는 사람들에게 기술의 가능성을 알리기 위한 경고로 만들어졌습니다.
  
  그것은 오바마가 공공 서비스 발표를 하는 것을 특징으로 하고 그가 트럼프를 "똥개"라고 부르는 것을 포함합니다. 제작자는 Jordan Peele이고 그가 사용한 도구에는 Adobe After Effects 및 FaceApp이 있습니다.
  
  
• 모나리자 – 대부분의 사람들은 레오나르도 다빈치의 걸작인 모나리자를 알고 있습니다. 그러나 2019년에는 삼성의 러시아 AI 연구소 덕분에 처음으로 그녀의 미소와 움직임을 보고 사람들이 전 세계를 놀라게 했습니다.
  
  "현실적인 신경 말하는 머리"라는 레이블이 붙은 연구원들은 YouTube에서 수집한 7,000개의 이미지를 사용하여 이 신경망을 훈련했습니다. 그런 다음 필요한 것은 얼굴 특징과 일치하고 얼굴에 생기를 불어넣을 사진 한 장뿐입니다. 그들은 또한 알버트 아인슈타인, 마릴린 먼로, 살바도르 달리 등과 함께 그것을 했습니다.
  
  
• Zoom Calls – 2020년에 두 명의 러시아 연구원이 Zoom 화상 통화의 사용자 지정 가능한 배경 기능을 사용하여 원하는 사람의 실시간 애니메이션 딥페이크를 만드는 방법을 시연했습니다. 그들은 웹 통화에서 생생한 알버트 아인슈타인, 모나리자, 도널드 트럼프 또는 보리스 존슨으로 나타날 수 있습니다.
  
  
• 살바도르 달리 – 2019년 플로리다주 상트페테르부르크의 달리 박물관에서 “Dali Lives” 전시회가 개최되었습니다. 그것은 죽은 아티스트의 딥페이크 버전을 특징으로 하며, 1,000시간 이상의 기계 학습과 6,000프레임이 필요했습니다.
  
  
• DeepNude – 또한 2019년에 개발자 팀이 DeepNude라는 인상적인 앱을 출시했습니다. 비키니를 입은 여성의 사진만 있으면 완전히 알몸으로 벗겨질 것입니다. 그런 다음 사진에 "가짜" 워터마크를 추가했는데 이 워터마크는 $50에 제거할 수 있습니다.
  
  이 앱은 많은 사람들을 놀라게 하고 분노하게 했습니다. 그리고 그 부담이 너무 커서 개발자들은 웹에서 이를 제거해야 했습니다. GitHub의 오픈 소스 코드도 제거되었지만 http://deepnude.to와 같은 웹 사이트 및 텔레그램 봇은 DeepNude가 계속 존재함을 보여줍니다.

주목할만한 딥페이크 앱

또한 많은 딥페이크 생성기 앱이 있으며 일부는 다른 것보다 더 인상적입니다. 대부분 스마트폰용으로 누구나 쉽게 사진과 동영상을 빠르게 조작할 수 있습니다.

이러한 앱에는 다음이 포함됩니다.

• DeepFaceLab – GitHub에서 사용할 수 있는 DeepFaceLab은 딥페이크 생성을 위한 선도적인 소프트웨어 솔루션입니다. 이를 통해 얼굴을 바꾸거나 나이를 낮추고, 머리를 바꾸고, 정치인과 관심 있는 다른 사람들의 입술을 조작할 수 있습니다. 많은 YouTube 채널에서도 사용합니다.
  
  
• MyHeritage – MyHeritage.com에서 제공하는 Deep Nostalgia 제품을 사용하면 골동품 가족 사진에 생명을 불어넣을 수 있습니다. MyHeritage는 가계도를 발견하기 위한 플랫폼입니다. 따라서 조상을 되살리는 일은 소름 끼치지만 인상적인 경험이 될 수 있습니다.
  
  
• FakeApp – Reddit 사용자가 개발 및 출시한 FakeApp을 사용하면 무료로 비디오에서 얼굴을 쉽게 바꾸거나 재생할 수 있습니다. 스타워즈: 로그 원 프리퀄에서 어린 레이아 공주의 유명한 리마스터링을 만드는 데 사용되었습니다. 분명히 만드는 데 몇 분 밖에 걸리지 않았지만 몇 주가 걸리고 훨씬 더 많은 비용이 드는 영화 원본보다 좋아 보였습니다.
  
  
• Reface – Android 및 iOS에서 사용할 수 있는 또 다른 인상적이고 재미있는 앱입니다. 광고와 함께 제공되지만 월간 구독으로 제거할 수 있습니다.
  
  
• Zao – 단 몇 초 만에 새로운 동영상을 만들 수 있지만 인상적인 결과를 제공하는 중국 딥페이크 앱입니다. 중국에서만 사용할 수 있습니다.
  
  
• Deepfakes 웹 – 웹에서 작동하는 클라우드 기반 딥페이크 앱. 웹사이트로 이동하여 동영상을 업로드하고 버튼을 클릭하기만 하면 됩니다. 그러면 시스템이 비디오를 학습하고 새 비디오를 만듭니다. 더 나은 결과를 위해 훈련할 수도 있습니다.

결론

이 딥페이크 게시물이 끝나면 이 기술이 지금까지 얼마나 발전했는지 분명해야 합니다. 포르노 산업은 항상 인터넷에서 혁신의 원천이었기 때문에 여기에는 도덕적 및 부도덕한 접근 방식이 모두 포함됩니다.

또한 전통적인 CGI에 비해 AI 딥페이크의 상대적으로 저렴한 비용을 감안할 때 영화 산업과 엔터테인먼트 이외의 다른 애플리케이션에서 딥페이크 사용의 미래는 확실히 밝습니다.