ما هي التزييفات العميقة ولماذا يجب أن نبدأ بالخوف منها؟

Deepfakes هو تطبيق جديد للذكاء الاصطناعي والتعلم الآلي قادر على طمس الحدود بين الصواب والخطأ.

• الحدود الجديدة للخدع والأخبار المزيفة هي التزييف العميق
• ويخاطر الذكاء الاصطناعي بنشوء أساطير حضرية يصعب تقويضها
• بعض الحلول للدفاع ضد هذا الانجراف المعلومات

"ما هو تصور الواقع؟هل هي القدرة على التقاط ومعالجة وفهم ما تستقبله حواسنا؟إذا كان بإمكانك سماع شيء ما أو رؤيته أو لمسه أو شمه، فهل هذا يجعله حقيقيًا؟تم طرح هذا السؤال في مقطع فيديو تم نشره على موقع Youtube العام الماضي مورغان فريمان, ، أحد نجوم هوليود الأطول خدمة والأكثر شهرة.باستثناء أن مورغان فريمان نفسه أعلن في نهاية المقطع أنه ليس مورغان فريمان:ما استقبلته حواسنا كمتفرجين للتو كان عبارة عن تطبيق جديد للذكاء الاصطناعي التعلم الآلي قادرة على طمس الحدود بين الصواب والخطأ.

ما المقصود بالتزييف العميق؟

وسرعان ما استعمر هذا المصطلح وسائل الإعلام والكثير من الخيال المشترك الجديد، ولكن ماذا؟ ما هي التزييفات العميقة حقًا؟؟بادئ ذي بدء، تجدر الإشارة إلى أنه على الرغم من أن العالم بدأ يتحدث عنها في السنوات المحيطة بجائحة كوفيد-19، إلا أن التزييف العميق كان موجودًا بالفعل ويتطور منذ عقد تقريبًا:في عام 2014، نشر إيان جودفيلو، الرئيس السابق لقسم الذكاء الاصطناعي في شركة أبل، تقريرًا ورقة علمية الذي يقدم مفهوم "شبكة الخصومة التوليدية" (أو Gan، اختصار لشبكة الخصومة التوليدية)، وهو تطبيق خاص لـ التعلم الآلي حيث "تتحدى" شبكتان عصبيتان بعضهما البعض في لعبة محصلتها صفر، مما يسمح لهما بالتعلم توليد صور جديدةأنا أبدأ من مجموعة بيانات موجودة.وفي عام 2017، قام باحثون من شركة بطاقات الرسومات المتعددة الجنسيات Nvidia بتعزيز نتائج شبكات Gan وجعلها أكثر مصداقية.

هذا هو ميلاد التزييف العميق:مواقع مثل thispersondoesnotexist.com إنهم يتيحون لعامة الناس أدوات تزوير رخيصة الثمن وغير مسبوقة في تاريخ البشرية، ولأول مرة يدرك العالم أن علاقتنا بالواقع معلقة بخيط رفيع."عميق" لأن الشبكات العصبية لأدوات التوليد هذه تتكون من طبقات مختلفة:هو التعلم العميق, ، هذا الشكل من الذكاء الاصطناعي والذي يسمح لنا بتقليد ميزات وأصوات الأشخاص الحقيقيين؛"زائف" لأنه، حسنًا، ليست هناك حاجة للتفسيرات.

في نوفمبر 2017، نشر مستخدم مجهول خوارزمية على Reddit قادرة على إنتاج مقاطع فيديو مزيفة ولكن واقعية:ينتهي الكود على موقع مشاركة التعليمات البرمجية الشهير GitHub، حيث يكون متاحًا لأي شخص مجانًا.ومنذ ذلك الحين تشق تقنية التزييف العميق طريقها إلى الصناعة الكبرى الأولى والذي سيبرز فيه:إباحية.تسمح تطبيقات مثل FakeApp لأي شخص بإدراج وجه أي شخص آخر في مقاطع الفيديو المساومة التي تبدو للوهلة الأولى واقعية، مما يولد عددًا لا حصر له من المخاطر والكثير من كراهية النساء:ستقول سكارليت جوهانسون، على الرغم من كونها واحدة من أكثر المدافعين عن الفيديوهات الإباحية المزيفة المنتشرة في أركان الإنترنت الأربعة، إن محاربتها "قضية خاسرة"، نظرا لأن "الإنترنت عبارة عن ثقب أسود مظلم يتغذى على نفسه". ".

ما هي أشهر التزييفات العميقة

منذ خطواتها الأولى، قطعت تقنية "التزييف العميق" شوطا طويلا، ودفعت بعض تجسيداتها الرأي العام إلى التشكيك في المزايا والمخاطر التي تجلبها هذه التكنولوجيا الجديدة:بالإضافة إلى الفيديو المزيف العميق لمورغان فريمان المذكور أعلاه، وهو من عمل الهولندي بوب دي يونغ وبويت شوينك، على الأقل استسلام وهمي للرئيس الأوكراني فولوديمر زيلينسكي، الذي وزعته روسيا العام الماضي، والتزييف العميق للممثل توم كروز الأمر الذي أثار غضبًا كبيرًا على Tiktok، حيث ابتكره خبير المؤثرات الخاصة كريس أومي ومايلز فيشر من مئات الآلاف من الصور ومقاطع الفيديو لنجم هوليوود.

وقد ظهر التزييف العميق أيضًا على شاشات التلفزيون، مما أدى إلى توسيع نطاق الجمهور المعرض لنوباته:في الخارج، بث البرنامج الساخر Saturday Night Live مقطعًا مزيفًا عميقًا لـ هيلاري كلينتون بالدموع التي لا يمكن تمييزها تمامًا عن مقطع فيديو حقيقي، بينما في إيطاليا فعلت شركة Striscia la Notizia الشيء نفسه مع مقطع فيديو تم إنشاؤه خوارزميًا لرئيس الوزراء السابق ماتيو رينزي.وفي عام 2018، قامت صحيفة Buzzfeed الإلكترونية بنشر مقطع مزيف ولكنه حقيقي لباراك أوباما، الذي كشف في النهاية فقط أن الممثل جوردان بيل هو الذي لعب دوره.

مخاطر التزييف العميق

قال أحد الأبطال الخارقين المشهورين في الكتب المصورة، إنه مع القوة العظمى تأتي مسؤولية كبيرة، وينطبق الشيء نفسه على المجهول الذي يلوح في أفق التزييف العميق.ماذا يحدث عندما يصدق الآلاف، وربما الملايين، من الناس مقطع فيديو مزيفًا لزعيم سياسي يعلن حربًا نووية؟وقبل ذلك:ماذا سيحدث لنا العلاقة مع الواقع, والآن بعد أن أصبح ما نراه ونسمعه "صحيحًا" بالتعريف؟

حتى في عالمنا، في وقت التزييف العميق الذي قام به ماتيو رينزي على Striscia la Notizia، أشار العديد من المراقبين إلى أن العرض الغامض إلى حد ما للمحتوى في وقت الذروة يمكن أن يؤدي إلى سوء فهم له عواقب وخيمة:سلكي كان عليه مُعرف "تحدي إضافي للصحافة والرأي العام ككل".

لكن في الخارج، كما يحدث غالبًا، فإن الجدل حول التزييف العميق متقدم كثيرًا عما يصل إلى الصفحات الأولى في إيطاليا:العام الماضي لأول مرة حملة ضخمة غمرت مقاطع الفيديو التي تظهر ممثلين تلفزيونيين مزيفين مؤيدين للصين على نحو غير عادي موقعي فيسبوك وتويتر الناطقين باللغة الإنجليزية، مما فتح جبهة جديدة ومثيرة للقلقحرب المعلومات جيوسياسية.

من سينقذنا من غزو التزييف المتطرف؟

أنت بالتأكيد لا تقرأها، على الأقل في الوقت الحالي:الدولة الوحيدة التي مرت تدابير عاجلة لمحاولة وقف هذه الظاهرة الصين, والتي جعلت في وقت سابق من هذا العام، إلزامية الحصول على موافقة الشخص "المزور" وإظهار علامات مميزة، مثل العلامات المائية، التي تشهد على طبيعة العمل المزيفة.لكن التنين لديه أيضًا نفس المشاكل مثل بقية العالم:كيف يمكننا القضاء على الظاهرة التي غالباً ما يعمل منتهكوها الأكثر شراسة بشكل مجهول، على منصات مرنة حيث يتضاعف المحتوى بسرعة كبيرة بحيث يمكنهم التصرف دون إزعاج تقريبًا؟

هناك شيء ما، إن لم يكن هناك شيء آخر، بدأ يتحرك في أوروبا القديمة أيضًا: قانون الذكاء الاصطناعي, وتهدف هذه الاتفاقية، التي وافق عليها برلمان الاتحاد الأوروبي للتو، إلى فرض معيار دولي جديد لتنظيم وشفافية تطبيقات الذكاء الاصطناعي.لكن أجزاء كثيرة من نصها محل نقاش وشكوك قانونية:ومن الصعب تحديد نطاق ما يمكن تسميته "بالذكاء الاصطناعي"، ناهيك عن مدى صعوبة تنظيمه.في الوقت الحالي، باختصار، تلك الصور ومقاطع الفيديو لأشخاص غير موجودين مقدر لها أن تتسبب في طقس جيد أو سيئ:ونحن، كما في فيلم سانريمو الكلاسيكي العظيم، لم نعد نرى الواقع.

كيفية التعرف على التزييف العميق

وفي مواجهة كل هذه المخاطر، كل ما تبقى هو أن نفهم كيف تدافع عن نفسك من التزييف العميق:وهو أمر ليس بسيطًا على الإطلاق، وسيصبح أقل بساطة على نحو متزايد، مع التقدم المتسارع لهذه الأمور (في أحدث إصدار من برنامج Photoshop، قدمت Adobe وظيفة توليدية قادرة على إنشاء صور مركبة لا يمكن تمييزها تقريبًا عن الواقع).

في وقت كتابة هذا التقرير، لا تزال أنواع الذكاء الاصطناعي الرئيسية تواجه بعض المشاكل تسليم اليدين من البشر:إذا رأيت نهاية للطرف العلوي بها شيء غريب، فلا تستبعد أنها قد تكون مزيفة.

ميت يوصي, ، من بين أمور أخرى، من انتبه إلى جلد وجهك من أبطال التزييف العميق المشتبه بهم:إذا بدا ضيقًا جدًا، أو العكس، متجعدًا جدًا أو بدرجات عمرية مختلفة في أجزاء مختلفة من الوجه، فهناك احتمال كبير أن تكون تلك الصورة، أو هذا الفيديو، غير حقيقي.وحتى الرمش وحركة الشفاه يمكن أن تعطي مؤشرات جيدة في هذا المعنى.