هر آنچه باید درمورد Deep fake بدانید!

هر آنچه که باید در مورد تکنولوژی دیپ فیک بدانید!

ویدیوهای جعلی تولید شده توسط هوش مصنوعی در حال رایج تر (و قانع کننده تر) شدن هستند. اینجاست که باید نگران باشیم.

دیپ فیک (Deepfake) چیست؟

آیا فیلم باراک اوباما را دیده‌اید که دونالد ترامپ را یک #$@! خطاب میکند؟ یا مارک زاکربرگ که درباره داشتن «کنترل کامل بر اطلاعات دزدیده‌شده میلیاردها نفر» از خوشحالی به خود ببالد؟ یا شاهد عذرخواهی جان اسنو برای پایان ناگوار سریال بازی تاج و تخت بوده‌اید؟ا اگر پاسخ شما مثبت است، شما شاهد یک دیپ فیک بوده اید. ارمغان قرن بیست و یکم به فتوشاپ، دیپ‌فیک‌ها از نوعی هوش مصنوعی به نام دیپ لرنینگ (Deep learning) برای ساختن تصاویری از رویدادهای جعلی استفاده می‌کنند، از این رو به آن دیپ‌فیک (Deep fake) می‌گویند. دیپ لرنینگ از زیر شاخه های ماشین لرنینگ میباشد. آیا می خواهید کلمات جدیدی را در دهان یک سیاستمدار قرار دهید، در فیلم مورد علاقه خود بازی کنید یا مانند یک حرفه ای برقصید؟ باید به سراغ ساخت یک دیپ فیک بروید.

آیا دیپ فیک تنها برای ساخت فیلم هست؟

خیر. فناوری Deepfake می‌تواند عکس‌های قانع‌کننده اما کاملاً تخیلی را از هیچ به وجود بیاورد. یکی از روزنامه‌نگاران بلومبرگ، "میزی کینزلی" که پروفایلی در لینکدین و توییتر داشت، احتمالا وجود خارجی نداشت و یک دیپ‌فیک بود. یکی دیگر از جعلی‌های لینکدین، «کتی جونز»، ادعا می‌کرد که در مرکز مطالعات استراتژیک و بین‌المللی کار می‌کند، اما گمان می‌رود که یک دیپ فیک بوده که برای یک عملیات جاسوسی خارجی ایجاد شده است.

صدا را نیز می‌توان با استفاده از این تکنولوژی جعل کرد تا «شبیه سازی های صوتی» از شخصیت‌های سلبریتی ایجاد شود. در ماه مارس گذشته، رئیس یکی از شعبه های بریتانیایی یک شرکت انرژی آلمانی پس از دریافت تماس تلفنی توسط یک کلاهبردار که صدای مدیرعامل آلمانی را تقلید می کرد، نزدیک به 200000 پوند به حساب بانکی مجارستانی پرداخت کرد. بیمه‌گران این شرکت معتقدند که این صدا یک دیپ فیک بوده است، اما شواهد مشخصی موجود نیست. طبق گزارش‌ها، کلاهبرداری‌های مشابهی در پیام‌های صوتی WhatsApp اتفاق افتاده است.

اگر به تکنولوژی های اینچنینی که با ماشین لرنینگ (machin learning) و دیپ لرنینگ (Deep learning) ساخته میشوند علاقه دارید، میتواند در دوره های ماشین لرنینگ مهندس مصطفایی شرکت کنید. پیش نیاز ماشین لرنینگ آشنایی باز زبان پایتون میباشد:

روش دیگری برای ساخت دیپ فیک از چیزی استفاده می کند که شبکه generative adversarial یا Gan نامیده می شود. این شبکه دو الگوریتم هوش مصنوعی را در برابر یکدیگر قرار می دهد. اولین الگوریتم که به عنوان ژنراتور(سازنده) شناخته می شود، تصاویر نا مفهوم رندومی را دریافت می کند و آن را به تصاویر تبدیل می کند. این تصاویر مصنوعی سپس به جریانی از تصاویر واقعی - مثلاً از افراد مشهور - اضافه می‌شود و به دست الگوریتم دوم، معروف به تشخیص‌دهنده، داده میشود. در ابتدا، این تصاویر مصنوعی هیچ شباهتی به صورت انسان ندارند. اما این فرآیند را بارها بر اساس بازخوردی که دریافت میشود تکرار میشود و تشخصی دهنده و ژنراتور هر دو پیشرفت میکنند. اگر این فرایند به اندازه کافی و با بازخورد مناسب تکرار شود، مولد شروع به ایجاد چهره‌های کاملاً واقعی از افراد مشهور خیالی خواهد کرد!

چه کسی میتواند دیپ فیک را بسازد؟

همه! از محققان دانشگاهی و صنعتی گرفته تا علاقمندان تازه کار، استودیوهای جلوه های بصری و ... برای مثال، دولت‌ها ممکن است به عنوان بخشی از استراتژی‌های آنلاین خود برای برهم زدن گروه‌های افراطی یا برقراری تماس با افراد مورد نظر، به این فناوری دست بزنند.

به چه تکنولوژی نیاز است؟

ساختن یک دیپ فیک خوب روی یک کامپیوتر معمولی سخت است. بیشتر آنها روی دسکتاپ‌های پیشرفته با کارت‌های گرافیکی قدرتمند یا در یک روش بهتر با قدرت محاسباتی در فضای ابری ایجاد می‌شوند. این امر زمان پردازش را از روزها و هفته ها به ساعت ها کاهش می دهد. اما برای کاهش سوسو زدن و سایر نقایص بصری، به تخصص نیاز است. گفتنی است که اکنون ابزارهای زیادی برای کمک به افراد در ساخت دیپ فیک در دسترس است. حتی شرکت هایی هستند که یان کار را برای مردم انجام میدهند و تمام پردازش ها را در فضای ابری انجام می دهند. یک برنامه تلفن همراه به نام Zao وجود دارد که به کاربران امکان می دهد چهره خود را به لیستی از شخصیت های تلویزیونی و فیلم هایی که موجود است اضافه کنند.

آیا راهی برای تشخیص دیپ فیک وجود دارد؟

با پیشرفت تکنولوژی، تشخیص دیپ فیک ها نیز سخت تر می شود. در سال 2018، محققان آمریکایی کشف کردند که چهره های دیپ فیک به طور طبیعی پلک نمی زنند. جای تعجب نیست: اکثر تصاویر افراد را با چشمان باز نشان می دهند، بنابراین الگوریتم ها هرگز درباره پلک زدن یاد نمی گیرند. در ابتدا، برای تشخیص محتوای فیک مانند یک راه نجات به نظر می رسید. اما به محض اینکه این تحقیق منتشر شد، دیپ فیک هایی با قابلیت چشمک زدن ظاهر شدند. ماهیت این بازی چنین است: به محض اینکه نقطه ضعفی آشکار شد، برطرف می شود. و در گذر زمان نقطه ضعفی باقی نخواهد ماند.

دیپ‌فیک‌های بی‌کیفیت راحت‌تر شناسایی می‌شوند. ممکن است همگام سازی لب بد باشد یا رنگ پوست تکه تکه شود. یا در اطراف لبه های صورت سوسو بزند. پیاده سازی جزئیات ظریف، مانند مو، برای دیپ فیک ها سخت است. به خصوص در جایی که تارهای مو روی حاشیه قابل مشاهده هستند. جواهرات و دندان‌هایی که به درستی طراحی نشده‌اند نیز می‌توانند یک دیپ فیک را لو بدهند یا نورپردازی‌های عجیب، مانند نور ناسازگار و انعکاس روی عنبیه.

دولت‌ها، دانشگاه‌ها و شرکت‌های فناوری همگی در حال تامین بودجه تحقیقاتی برای شناسایی دیپ‌فیک هستند. ماه گذشته، اولین چالش تشخیص Deepfake با حمایت مایکروسافت، فیس بوک و آمازون آغاز شد. این شامل تیم های تحقیقاتی در سرتاسر جهان خواهد بود که برای برتری در بازی تشخیص دیپ فیک رقابت می کردند.

فیس‌بوک انتشار ویدیوهای دیپ‌فیکی که احتمال دارد بینندگان را گمراه کند تا فکر کنند کسی «حرف‌هایی گفته است که واقعاً نگفته‌اند» را در آستانه انتخابات 2020 آمریکا ممنوع کرد.

آیا دیپ فیک ها باعث هرج و مرج خواهند شد؟

باید انتظار دیپ‌فیک‌هایی که باعث آزار، ارعاب، تحقیر، تضعیف و بی‌ثباتی می‌شوند را بیشتری داشته باشیم. اما آیا دیپ فیک جرقه ای برای حوادث بزرگ بین المللی خواهد شد؟ در اینجا وضعیت کمتر روشن است. دیپ فیک از یک رهبر جهان که اعلام جنگ میکند نمیتواند باعث ایجاد درگیری شود. همچنین تصاویر ماهواره‌ای دیپ فیک از نیروهای دشمن که در مرز جمع می‌شوند، دردسر زیادی ایجاد نخواهد کرد: بیشتر کشورها سیستم‌های تصویربرداری امنیتی قابل اعتماد خود را دارند.

با این حال، هنوز جای زیادی برای شیطنت وجود دارد. سال گذشته، ویدیویی از ایلان ماسک در یک نمایش زنده اینترنتی منتشر شد که او را در حال مصرف گراس نشان میداد! که در نتیجه آن سهام شرکت تسلا سقوط کرد. در ماه دسامبر، دونالد ترامپ در پرواز برگشت زودهنگام از نشست ناتو بود که تصاویری از دیگر رهبران جهان به دست او رسید که ظاهرا در حال تمسخر او بودند. آیا دیپ فیک ها قیمت سهام را تغییر می دهند، در انتخابات رای دهندگان را تحت تاثیر قرار می دهند و تنش های مذهبی را تحریک می کنند؟ به نظر با احتمال بالایی میتواند گفت بله.

آیا دیپ فیک باعث از بین رفتن اعتماد خواهد شد؟

تأثیر عمیق تری که دیپ‌فیک‌ها، همراه با سایر رسانه‌های مصنوعی و اخبار جعلی، خواهند گذاشت، ایجاد جامعه‌ای بدون اعتماد است، جایی که مردم نمی‌توانند، -یا دیگر اهمیتی ندارد- که برای تشخیص حقیقت از دروغ تلاش کنند. و هنگامی که اعتماد از بین برود، ایجاد شک و تردید در مورد رویدادهای دیگر آسان تر است.

سال گذشته، وزیر ارتباطات کشور کامرون، ویدئویی را که سازمان عفو بین‌الملل معتقد است سربازان کامرونی را در حال اعدام غیرنظامیان نشان می‌دهد، به عنوان اخبار جعلی رد کرد.

از آنجایی که این فناوری در دسترس تر می شود، دیپ فیک می تواند برای دادگاه ها دردسر ایجاد کند، به ویژه در نبردهای حضانت کودک و دادگاه های استخدام، جایی که رویدادهای جعلی می توانند به عنوان مدرک ارائه شوند. اما آنها همچنین یک خطر امنیتی شخصی دارند: دیپ‌فیک‌ها می‌توانند داده‌های بیومتریک را تقلید کنند و پتانسیلی دارند که میتواند سیستم‌هایی که به تشخیص چهره، صدا یا راه رفتن متکی هستند را فریب دهند. پتانسیل کلاهبرداری واضح است. اگه با شما کسی تماس بگیرید و از او درخواست کنید، بعید است که به یک حساب بانکی ناشناس پول منتقل کند. اما اگر «مادر» یا «خواهر» شما یک تماس ویدیویی در واتس اپ برقرار کند و همان درخواست را بکند، چه؟

راه حل چیست؟

از قضا، مجددا هوش مصنوعی ممکن است راه حل باشد. هوش مصنوعی در حال حاضر به شناسایی ویدیوهای جعلی کمک می کند، اما بسیاری از سیستم های تشخیص دیپ فیک موجود، یک ضعف جدی دارند: بهترین کارایی آنها برای افراد مشهور است، زیرا ساعت ها فیلم آزادانه در دسترس دارند که میتوانند از آنها الگو برداری کنند. شرکت‌های فناوری اکنون روی سیستم‌های شناسایی کار می‌کنند که هدف آن شناسایی دیپ فیک ها است، هر زمان که پیدا می‌شوند. استراتژی دیگر متمرکز شدن بر منشأ فیلم ها است.

آیا دیپ فیک ها همیشه مخرب هستند؟

اصلا. بسیاری از آنها سرگرم کننده و برخی مفید هستند. دیپ‌فیک‌های شبیه‌سازی صدا می‌توانند صدای افراد را هنگامی که به دلیل بیماری از دست می‌دهند بازیابی کنند. ویدیوهای دیپ فیک می توانند گالری ها و موزه ها را زنده کنند. در فلوریدا، موزه دالی، یک دیپ فیک از یکی از نقاش های سوررئالیست دارد، که هنر خود را معرفی می کند و با بازدیدکنندگان سلفی می گیرد. برای صنعت سرگرمی، می توان از فناوری برای بهبود دوبله فیلم های خارجی استفاده کرد، و بحث برانگیزتر و جالب تر از همه، زنده کردن بازیگران مرده. برای مثال، جیمز دین قرار است در فیلم Finding Jack، یک فیلم درباره جنگ ویتنام بازی کند!