دیپ فیک یا Deepfake چیست و چگونه می توان آن را تشخیص داد؟

آشنایی با فناوری دیپ فیک

اگر جزو افرادی هستید که به مباحث هوش مصنوعی علاقه دارید، قطعا دیپ فیک (جعل عمیق) برایتان جالب است. این فناوری با کمک هوش مصنوعی، تصاویر و ویدئوهای جعلی از افراد ایجاد می کند که تشخیص آن از ویدئوی اصلی بسیار سخت است.

تا به حال ویدئوهای جعلی زیادی از افرادی همچون اوباما، بیل گیتس و بازیگران معروف ایجاد شده است. با توجه به پیشروی بدون محدودیت فناوری Deep Fake، می توان گفت به زودی، تشخیص بین حقیقت و دروغ بسیار سخت تر خواهد شد.

فناوری دیپ فیک چیست؟

فناوری دیپ فیک (Deep Fake) در سال 2014 توسط یک دانشجوی مقطع دکترا به نام ایان گودفلو معرفی شد. دیپ فیک در واقع یک تکنیک نرم افزاری و بر پایه هوش مصنوعی است که می تواند محتوای صوتی و تصویری را تغییر داده و اصطلاحا تصاویر و ویدئوها را جعل کند.

در فناوری دیپ فیک از الگوریتم های خاصی در یادگیری ماشین و یادگیری عمیق از جمله Generative Adversarial Networks استفاده می شود. با کمک این الگوریتم ها تصاویر مختلف با هم ترکیب شده و بر یکدیگر منطبق می شوند.

در فرایند ساخت نرم افزارهای دیپ فیک، ابتدا حجم بسیار گسترده ای از اطلاعات در اختیار برنامه قرار می گیرد. نرم افزار این داده ها را تحلیل می کند و به ساخت محتوای جدید بر اساس اطلاعات جدیدی که خودش ایجاد کرده است می پردازد.

از زمان پیدایش این فناوری، اقدامات مجرمانه نظیر انتشار عکس ها و ویدیوهای غیراخلاقی ساختگی از افراد مشهور در اینترنت افزایش یافته است. از معروف ترین ویدئوهای دیپ فیک می توان به ویدئوی منتشر شده جعلی از اوباما اشاره کرد. در این ویدئو اوباما درباره ترامپ نظر داده و او را فردی نادان نامید. با توجه به شباهت ظاهری بالا و کیفیت بالای ویدئو همه بینندگان فکر کردند ویدئو واقعی است. بعد از تحقیقات گسترده مشخص شد که این ویدئو با استفاده از تکنولوژی جعل عمیق ایجاد شده است.

در ویدیوی ساختگی دیگری، دونالد ترامپ در حال تمسخر مقامات مسئول بلژیک برای پیوستن این کشور به توافقنامه اقلیمی پاریس بود. افرادی که قصد تخریب چنین مقاماتی را دارند، می توانند با ساخت ویدئوهای جعلی دربردارنده اخبار و دستورات ناخوشایند، اعتماد افراد به دولت و مقامات را از بین ببرند و محبوبیت آن ها را کم کنند.

البته انتشار محتوای جعلی، تنها به ویدئوی فیک افراد مشهور محدود نمی شود. در سال 2018 ویدیوئی ساختگی از دو مرد که کودکی را در هند دزدیده بودند، منتشر شد. انتشار گسترده این ویدیو باعث وحشت مردم هند شد. در مارس 2020 یک کلاهبردار، صدای رئیس یک شرکت انگلیسی را با استفاده از این فناوری جعل کرد و توانست 200 هزار پوند کلاهبرداری کند.

جعل عمیق چگونه کار می کند
دیپ فیک تکنیک نرم افزاری بر پایه هوش مصنوعی است که می تواند محتوای صوتی و تصویری را تغییر داده و اصطلاحا تصاویر و ویدئوها را جعل کند.

معرفی ابزارهای معروف Deep Fake

اگر قصد دارید بیش تر با دیپ فیک و نحوه ایجاد ویدئو و گیف با این فناوری آشنا شوید، در ادامه ما چند مورد از پلتفرم های مبتنی بر دیپ فیک را معرفی کرده ایم. برخی از این ابزارها صرفا جنبه سرگرمی دارند. با ارائه عکس خودتان می توانید ویدئو یا گیفی تهیه کنید که در آن تصویر چهره خودتان را روی چهره شخص دیگری گذاشته اید.

  • اپلیکیشن Zao
  • اپلیکیشن Doublicat
  • اپلیکیشن Deep Art
  • اپلیکیشن Face Swap Live
  • وب سرویس Deepfakes web β
  • وب سایت AvengeThem
  • وب سایت MachineTube
  • نرم افزار DeepFaceLab

مزایا و خطرات دیپ فیک برای اجتماع

هر ابزار یا فناوری جدیدی به خودی خود خطرناک نیست. فناوری های جدید می توانند هم استفاده مفید داشته باشند و هم باعث ایجاد مشکل شوند. دیپ فیک هم مانند سایر ابزارها و تکنولوژی ها می تواند هم استفاده های مخاطره آمیزی داشته باشد و هم راه حل برخی چالش های فعلی باشد.

از جمله کاربردهای مفید دیپ فیک می توان به استفاده از آن در هنر برای متحرک سازی آثار هنری معروفی همچون مونالیزای داوینچی اشاره کرد. در ساخت فیلم های پرهزینه از جمله صحنه های اکشن می توان از دیپ فیک برای جایگزینی چهره بازیگران استفاده نمود. از این ترفند در بسیاری از فیلم ها از جمله جنگ ستارگان استفاده شده است. استفاده از دیپ فیک برای بازسازی چهره شخصیت های تاریخی نیز کاربرد موثری دارد. استفاده از دیپ فیک در ساخت بازی های ویدیویی یکی از بهترین کاربردهای این تکنولوژی است که می توان با آن صحنه های منحصر به فردی را در بازی های ویدیویی ایجاد کرد.

اما این فناوری می تواند تا حد زیادی خطرآفرین باشد. از آنجایی که این فناوری بر مبنای هوش مصنوعی است و نیازی به دخالت مستقیم انسان ندارد، هر فردی می تواند از طریق Deep Fake، ویدیوی جعلی واقع گرایانه تولید کند. متاسفانه Deep Fake شرایطی ایجاد می کند که افراد با اهداف خصمانه بتوانند ویدئوهایی بر ضد دیگران بسازند و زندگی شخصی و کاری آن ها را به خطر بیندازند. بازیگران، خوانندگان، سیاستمداران و سایر افراد مشهور بیش تر از سایرین در معرض این آسیب قرار دارند.

Deep Fake می تواند واقعیت های جامعه را تحریف کند و اطلاعات نادرست و غیرواقعی به افراد جامعه ارائه دهد. در نتیجه این اعمال، امنیت ملی یک کشور نیز می تواند به خطر بیفتد.

افراد تأثیرگذار و رهبران در هر جامعه ای نقش مهمی دارند و می توانند افراد زیادی را تحت تأثیر قرار دهند؛ ارائه اطلاعات نادرست از سوی آن ها می تواند نگرش مردم را تغییر دهد و آن ها را به انجام کارهای خاصی تشویق کند. علاوه بر این اثرات منفی، در نظر بگیرید که تجارت افراد و برندهای معروف تا چه اندازه با این فناوری می تواند تهدید شود. این ویدیوها می توانند سهام های بزرگ دنیا را تغییر داده و حتی باعث ورشکستگی شرکت ها شوند. از طرف دیگر با گسترش دیپ فیک بی اعتمادی در جامعه پر رنگ تر می شود و امکان تشخیص حقیقت از دروغ سخت خواهد شد.

خطرات Deep Fake
ساخت ویدئوهای جعلی در مواقعی می تواند امنیت اشخاص و حتی جامعه را تحت تاثیر قرار دهد.

برای مقابله با Deep Fake چه کارهایی انجام شده است؟

دیپ فیک فناوری بر اساس هوش مصنوعی است. راه حل تشخیص ویدئوهای فناوری دیپ فیک، باز هم هوش مصنوعی است. AI با الگوریتم ها و بررسی دقیق داده های واقعی، می تواند هر گونه جعل عمیق را شناسایی کند.

چند شرکت فناوری بزرگ در حال کار کردن روی روش اختصاصی خود برای تشخیص و مقابله با محتوای ساختگی هستند. از جمله این شرکت ها می توان به مایکروسافت، گوگل و متا اشاره کرد.

شرکت متا (فیسبوک سابق) مدتی پیش برای اعلام طرح چالش تشخیص دیپ فیک به منظور توسعه روش های تشخیص ویدیوهای ساختگی، مشارکت خود را با مایکروسافت، سرویس های وب آمازون و دانشگاه های مطرح سراسر جهان آغاز کرد. این طرح در قالب یک مسابقه برای دستیابی به بهترین روش برای تشخیص ویدیوی ساختگی اجرا شد و جایزه فرد برنده 500000 دلار بود.

آژانس پروژه های پژوهشی پیشرفته دفاعی (DARPA)، پروژه ای تحت عنوان MediFort را ایجاد کرده که بر اساس آن، دارپا و سازمان پژوهشی SRI International آمریکا، توافقی را برای ایجاد روش های تشخیص عکس ها و ویدیوهای جعلی امضا کردند. Operation Minerva نیز یکی دیگر از ابزارهای تشخیص محتوای ساختگی محسوب می شود که سیستمی برای تشخیص محتوای مستهجن ساختگی و حذف آن است.

در حال حاضر تکنولوژی برای تشخیص ویدئوی جعلی قبل از انتشار در شبکه های اجتماعی وجود ندارد، اما پلتفرم های رسانه اجتماعی از جمله فیس بوک و توییتر و… انتشار تصاویر دیپ فیک را در نرم افزار خود ممنوع کرده اند. انتظار می رود در آینده ای نه چندان دور، تکنولوژی تشخیص محتوای ساختگی توسط ربات، راه اندازی شود.

فناوری تشخیص دیپ فیک
تاکنون ویدئوهای جعلی زیادی از افراد مشهور و سرشناس منتشر شده است. شرکت های فناوری اطلاعات پیشرو، در حال ایجاد فناوری تشخیص دیپ فیک هستند.

چگونه می توان Deep Fake را تشخیص داد؟

الگوریتم مورد استفاده در ساخت دیپ فیک و داده های مورد استفاده در الگوریتم، کیفیت خروجی را مشخص می کنند. برخی از محتوای جعلی با چشم مسلح قابل تشخیص هستند و می توان به دروغین بودن آن ها پی برد. معمولا اپلیکیشن های رایگان از تکنولوژی قوی برای ساخت Deep Fake استفاده نمی کنند و جعلی بودن خروجی آن ها را می توان تشخیص داد. در این ویدئوها جلوه های مصنوعی بسیاری در لبه تصویر چهره، به چشم می خورد.

برای اینکه بتوانید جعلی بودن ویدئو را تشخیص دهید چند فاکتور را با دقت در ویدئو بررسی کنید:

  • الگوی پلک زدن (معمولا الگوریتم های دیپ فیک نمی توانند الگوی پلک زدن طبیعی افراد را بیاموزند و در این ویدیوها افراد همیشه با چشمان باز سخن می گویند.)
  • هماهنگ نبودن لب با صحبتی که سوژه در حال بیان آن است.
  • غیرطبیعی بودن رنگ پوست و یا تغییر رنگ صورت
  • حرکات غیر طبیعی و ربات گونه
  • نور غیر طبیعی، تارتر بودن پس زمینه یا قسمت خاصی در چهره

این ها مواردی هستند که به شما در تشخیص ویدئوی واقعی از جعلی کمک می کنند. با این وجود ممکن است الگوریتم به کار رفته به قدری پیشرفته باشد که نتوان به راحتی فیک بودن ویدئوی موجود را تشخیص داد.

امروزه فناوری هایی (مبتنی بر هوش مصنوعی) برای تشخیص ویدئوی فیک از ویدئوی واقعی ایجاد شده اند. این الگوریتم ها می توانند نشانه هایی را که در عکس ها و ویدیوهای واقعی وجود ندارند، تشخیص دهند. این فناوری ها هنوز هم جای پیشرفت دارند تا بتوانند به خوبی ویدئوهای غیرواقعی را تشخیص دهند.

ویژگی های زیست سنجشی مثل اثرانگشت و عنبیه چشم که برای هر انسان به صورت اختصاصی خلق شده است، از بهترین راه های تشخیص هویت افراد در این ویدئوها می باشند.

کلام آخر

تکنولوژی همانند شمشیر دولبه ای است که علاوه بر مزایایی که ایجاد می کند، زمینه های ایجاد مشکل و خطر را نیز به وجود می آورد. برای مثال دیپ فیک می تواند در صنایعی همچون بازی سازی، فیلم سازی، تبلیغات و… استفاده شود. اما همانطور که در این مقاله توضیح دادیم، استفاده از آن برای ساخت ویدئوهای جعلی به منظور ایجاد ترس یا اهداف دیگر زیاد است.

همانطور که تکنولوژی جی پی اس به ایجاد قابلیت ارسال لوکیشن در گوگل مپس و سایر نرم افزارها کمک کرد، اما روش ارسال لوکیشن فیک راهی برای استفاده نامفید از این تکنولوژِی بود. اگر نحوه تشخیص لوکیشن فیک را بدانید، می توانید موقعیت درست را از غلط تشخیص دهید. در جعل عمیق نیز، با دقت کردن به ویدئو، تا حد زیادی می توان متوجه تفاوت بین ویدئوی واقعی و جعلی شد.

guest
0 نظرات
بازخورد (Feedback) های اینلاین
مشاهده همه دیدگاه ها