딥페이크는 무엇이고 왜 우리는 딥페이크를 두려워해야 할까요?

딥페이크는 진실과 거짓 사이의 경계를 모호하게 만들 수 있는 인공 지능과 기계 학습의 새로운 응용 프로그램입니다.

• 사기, 가짜 뉴스의 새로운 개척지는 딥페이크입니다.
• 인공지능이 훼손하기 어려운 도시 전설을 낳을 위험
• 이러한 정보 드리프트를 방어하기 위한 몇 가지 솔루션

“현실에 대한 인식은 무엇입니까?우리의 감각이 받아들이는 것을 포착하고, 처리하고, 이해하는 능력인가요?뭔가를 듣고, 보고, 만지고, 냄새 맡을 수 있다면 그것이 현실이 될까요?”지난해 유튜브에 올라온 영상에서 이런 질문이 나왔다. 모건 프리먼, 할리우드에서 가장 오래 활동하고 가장 유명한 스타 중 하나입니다.단, 영상 끝부분에서 모건 프리먼은 자신이 모건 프리먼이 아니라고 선언했습니다.관객으로서 우리의 감각이 방금 받은 것은 딥페이크, 즉 인공지능의 새로운 응용과 기계 학습 참과 거짓의 경계를 모호하게 만들 수 있다.

딥페이크란 무엇을 의미하는가?

이 용어는 미디어와 새로운 일반적인 상상의 대부분을 빠르게 식민지화했지만, 딥페이크가 진짜 뭐야??우선, 비록 세계가 코로나19 대유행을 둘러싼 몇 년 동안 딥페이크에 대해 이야기하기 시작했지만 딥페이크는 이미 존재했고 거의 10년 동안 발전해 왔다는 점에 유의해야 합니다.2014년, 전 애플 인공지능 부문 책임자였던 이안 굿펠로우(Ian Goodfellow)는 다음과 같은 글을 발표했습니다. 과학 논문 이는 "생성적 적대 네트워크"(또는 생성적 적대 네트워크의 약어인 Gan)의 개념을 소개합니다. 기계 학습 두 개의 신경망이 제로섬 게임에서 서로 "도전"하여 다음을 학습할 수 있게 하는 것입니다. 새로운 이미지 생성나는 기존 데이터 세트에서 시작합니다.그리고 2017년에는 다국적 그래픽 카드 회사인 Nvidia의 연구원들이 Gan 네트워크의 결과를 강화하고 더욱 신뢰할 수 있게 만들었습니다.

딥페이크의 탄생은 다음과 같습니다.같은 사이트 thispersondoesnotexist.com 그들은 인류 역사상 유례가 없는 값싼 위조 도구를 일반 대중에게 제공하고 있으며, 세계는 처음으로 우리와 현실의 관계가 실타래에 걸려 있다는 사실을 깨닫습니다.이러한 생성 도구의 신경망은 서로 다른 레이어로 구성되어 있기 때문에 "깊이"입니다.은 딥러닝, 그런 형태의 인공지능 이를 통해 실제 사람들의 특징과 목소리를 복제할 수 있습니다.'가짜'는 설명이 필요 없기 때문입니다.

2017년 11월, 익명의 사용자가 가짜이지만 사실적인 동영상을 제작할 수 있는 알고리즘을 Reddit에 게시했습니다.코드는 인기 있는 코드 공유 사이트인 GitHub에 게시되어 누구에게나 무료로 제공됩니다.그리고 그 이후로 딥페이크, 최초의 주요 산업 진출 그 안에서 그는 유명해질 것이다:포르노.FakeApp과 같은 애플리케이션을 사용하면 누구나 언뜻 현실적으로 보이는 타협 동영상에 다른 사람의 얼굴을 삽입할 수 있어 무한한 위험과 많은 여성 혐오가 발생합니다.스칼렛 요한슨은 인터넷 곳곳에 퍼진 가짜 포르노 비디오의 가장 빈번한 주역 중 한 명임에도 불구하고 "인터넷은 스스로를 먹어치우는 어두운 블랙홀"이라는 점을 감안할 때 그들과 싸우는 것은 "잃어버린 원인"이라고 말할 것입니다. ".

가장 유명한 딥페이크는 무엇입니까?

"딥페이크"는 첫 단계부터 많은 발전을 이루었으며, 그 일부 구현으로 인해 여론은 이 새로운 기술이 가져오는 장점과 위험에 대해 의문을 제기하게 되었습니다.앞서 언급한 Morgan Freeman의 딥페이크 동영상 외에도 네덜란드 Bob de Jong과 Boet Schouwink의 작품이 있습니다. 가짜 항복 지난해 러시아가 유포한 볼로디미르 젤렌스키 우크라이나 대통령과 그 배우의 딥페이크 톰 크루즈 이것은 할리우드 스타의 수십만 장의 사진과 비디오를 바탕으로 특수 효과 전문가 Chris Ume와 Miles Fisher가 만든 Tiktok에서 큰 인기를 얻었습니다.

딥페이크는 텔레비전에도 등장하여 그 주문에 노출되는 청중이 더욱 넓어졌습니다.해외에서는 풍자 프로그램 Saturday Night Live가 딥페이크를 방송했습니다. 힐러리 클린턴 진짜 영상과 전혀 구별할 수 없는 눈물을 흘리는 반면, 이탈리아에서는 Striscia la Notizia가 알고리즘으로 생성된 마테오 렌치 전 총리의 영상으로 똑같은 일을 했습니다.2018년 온라인 신문인 버즈피드(Buzzfeed)는 대신 버락 오바마의 가짜이지만 진짜인 클립을 유포했는데, 버락 오바마는 마지막에 배우 조던 필이 자신을 연기했다는 사실을 공개했습니다.

딥페이크의 위험성

큰 힘에는 큰 책임이 따른다고 유명한 만화책 슈퍼히어로는 말했습니다. 이는 딥페이크의 지평선에 다가오는 미지의 존재에도 동일하게 적용됩니다.수천, 심지어 수백만 명의 사람들이 핵전쟁을 선포하는 정치 지도자의 가짜 비디오를 믿으면 어떻게 될까요?그리고 그 전에:우리는 어떻게 될 것인가 현실과의 관계, 이제 우리가 보고 듣는 것이 정의상 더 이상 "사실"이 아니게 됩니까?

우리 위도에서도 Matteo Renzi의 Striscia la Notizia 딥페이크 당시 많은 관찰자들은 프라임 타임에 콘텐츠를 다소 모호하게 표시하면 오해를 불러일으켜 심각한 결과를 초래할 수 있다고 지적했습니다.유선이 그랬어 한정된 “저널리즘과 여론 전체에 대한 추가적인 도전”.

그러나 종종 발생하는 것처럼 해외에서는 딥페이크에 대한 논쟁이 이탈리아의 첫 페이지에 등장한 것보다 훨씬 앞서 있습니다.작년에 처음으로 대규모 캠페인 가짜, 이례적으로 친중국 TV 배우들을 보여주는 동영상이 영어권 페이스북과 트위터에 넘쳐나면서 새롭고 걱정스러운 전선을 열었습니다.정보전 지정학적.

누가 울트라 페이크의 침입으로부터 우리를 구해줄 것인가?

당신은 적어도 지금은 그것을 읽지 않을 것입니다:통과된 유일한 주 긴급 조치 그 현상을 막으려고 노력하는 것은 중국, 올해 초에는 "위조된" 사람의 동의를 구하고 저작물의 가짜 성격을 증명하는 워터마크와 같은 독특한 표시를 표시하는 것을 의무화했습니다.하지만 드래곤 역시 다른 세계와 동일한 문제를 안고 있습니다.콘텐츠가 너무 빠르게 증가하여 거의 방해받지 않고 행동할 수 있는 유동적인 플랫폼에서 가장 사나운 학대자가 종종 익명으로 활동하는 현상을 어떻게 막을 수 있습니까?

다른 것은 아니지만 뭔가가 옛 유럽에서도 움직이기 시작했습니다. 인공지능법, EU 의회에서 최근 승인된 이 법안은 인공 지능 애플리케이션의 규제 및 투명성에 대한 새로운 국제 표준을 부과하는 것을 목표로 합니다.하지만 많은 부분 그 텍스트의 내용은 논쟁과 법적 의심의 대상입니다."인공지능"으로 분류할 수 있는 범위를 정의하는 것도 어렵고 규제하는 것도 어렵습니다.간단히 말해서, 존재하지 않는 사람들의 사진과 비디오는 날씨가 좋든 나쁘든 운명지어져 있습니다.그리고 산레모의 위대한 고전처럼 우리는 더 이상 현실을 보지 못합니다.

딥페이크를 식별하는 방법

이러한 모든 위험에 직면했을 때 남은 것은 이해하는 것뿐입니다. 자신을 방어하는 방법 딥페이크에서:이는 전혀 간단하지 않으며 기하급수적으로 발전함에 따라 점점 덜 단순해질 것입니다(최신 Photoshop에서 Adobe는 현실과 거의 구별할 수 없는 포토 몽타주를 만들 수 있는 생성 기능을 제시했습니다).

이 글을 쓰는 시점에서 주요 인공지능은 여전히 ​​몇 가지 문제를 안고 있습니다. 손의 항복 인간의:뭔가 이상한 상지 엔딩을 본다면, 그것이 가짜일 수도 있다는 가능성을 배제하지 마세요.

미트 추천하다, 무엇보다도 얼굴 피부에 주의를 기울이세요 딥페이크 의심의 주인공:너무 꽉 조여 보이거나, 반대로 너무 주름이 져 있거나, 얼굴 부위에 따라 나이가 다른 경우 해당 이미지 또는 비디오가 실제가 아닐 가능성이 높습니다.그리고 심지어 눈을 깜박이고 입술을 움직이는 것조차도 이런 의미에서 좋은 징후를 줄 수 있습니다.