دیپ‌فیک چیست و چطور بشناسیمش
جواب کوتاه
دیپ‌فیک، یا جعل عمیق، یعنی عکس، ویدیو یا صدایی که با هوش مصنوعی ساخته یا دست‌کاری شده، طوری که یه آدم واقعی کاری رو کرده یا حرفی رو زده که هیچ‌وقت نکرده و نزده. برای شناختنش چند تا نشونه هست، مثل پلک زدن عجیب، نور ناجور و لبی که با صدا جور نیست. ولی این نشونه‌ها روز به روز کمتر می‌شن؛ برای همین مهم‌تر از نشونه‌ها اینه که بپرسید کی منتشرش کرده و از یه راه دیگه چکش کنید.
خیمه‌شب‌بازی
خیمه‌شب‌بازی دیدید؟ یه عروسک روی صحنه حرف می‌زنه و تکون می‌خوره، ولی همه‌ی کارها رو یکی پشت پرده می‌کنه. حالا فرض کنید اون عروسک دقیقا چهره‌ی یه آدم واقعی رو داشته باشه:
دیپ‌فیک همینه. عکس، ویدیو یا صدایی که با هوش مصنوعی ساخته یا دست‌کاری شده، طوری که یه آدم واقعی کاری رو کرده یا حرفی رو زده که هیچ‌وقت نکرده و نزده. اسمش از دو تا کلمه‌ی انگلیسی اومده: «یادگیری عمیق» و «تقلبی». فارسی‌ش رو بعضی‌ها «جعل عمیق» می‌گن.
سه جور دیپ‌فیک
جور سوم رو توی درس ساخت عکس، درس ساخت ویدیو و درس هوش مصنوعی صوتی دیدیم. اینجا دیگه حرف از یه آدم واقعیه.
چطور ساخته می‌شه
یکی از روش‌های مهمش، دو تا شبکه‌ی عصبی داره که با هم رقابت می‌کنن. مثل یه نفر که اسکناس تقلبی می‌سازه و یه کارمند بانک که باید بفهمه کدوم تقلبیه:
سازنده یه عکس می‌سازه. منتقد که عکس‌های واقعی زیادی دیده، می‌گه «تقلبیه». سازنده یاد می‌گیره بهترش کنه. این کار اون‌قدر تکرار می‌شه که منتقد دیگه نتونه فرق بذاره. اون موقع، چشم ما هم به‌سختی می‌تونه.
برای چی می‌سازنش
همه‌ی دیپ‌فیک‌ها بد نیستن. توی سینما برای جلوه‌های ویژه به کار می‌ره، مثلا وقتی یه بازیگر باید توی یه صحنه جوون‌تر دیده بشه. بعضی‌ها هم برای سرگرمی یا یاد دادن خود همین موضوع می‌سازنش.
ولی کاربرد بدش هم کم نیست: کلاه‌برداری با چهره یا صدای یه آدم معروف یا حتی یه آدم معمولی، خبر دروغ، و آزار دادن و آبرو بردن. یه نمونه‌ی صوتی‌ش، یعنی زنگ با صدای آشنا که پول می‌خواد، رو توی درس هوش مصنوعی صوتی دیدیم.
تبلیغ با چهره‌ی آدم معروف
یکی از رایج‌ترین‌هاش اینه: یه ویدیو توی شبکه‌های اجتماعی، که یه آدم معروف داره یه چیزی رو تعریف می‌کنه و یه دکمه‌ی خرید هم زیرشه:
این‌جور تبلیغ‌ها با اینکه خود شبکه‌های اجتماعی باهاشون مخالفن، باز هم دیده می‌شن. قانون ساده: اگه یه آدم معروف چیزی رو «معجزه‌گر» معرفی کرد، اول برید ببینید خودش، توی صفحه‌ی رسمی خودش، چنین حرفی زده یا نه.
نشونه‌ها
این پنج جا رو توی عکس یا ویدیوی مشکوک نگاه کنید:
- چشم‌ها: پلک زدن عجیب؛ خیلی کم، خیلی زیاد یا نامنظم.
- نور: نور و سایه‌ی صورت با بقیه‌ی صحنه جور نیست.
- لب و صدا: حرکت لب‌ها با صدا هم‌زمان نیست.
- لبه‌ی صورت: دور صورت و موها عجیبه یا می‌لرزه.
- حالت بدن: سر و بدن با هم جور حرکت نمی‌کنن.
ولی یه چیزی رو باید بدونید: این نشونه‌ها روز به روز کمتر می‌شن، چون ابزارها بهتر می‌شن. اگه هیچ کدوم رو ندیدید، دلیل نمی‌شه که واقعیه. نشونه‌های عکس و ویدیوی ساختگی رو توی درس ساخت ویدیو هم دیدیم.
چهار سوال، مهم‌تر از نشونه‌ها
چون چشم همیشه نمی‌تونه، این چهار تا سوال رو بپرسید. اینا با بهتر شدن ابزارها کهنه نمی‌شن:
- کی منتشرش کرده؟ یه صفحه‌ی شناخته‌شده، یا یه صفحه‌ی ناشناس که دیروز ساخته شده؟
- جای معتبر دیگه‌ای هم گفته؟ اگه یه خبر بزرگه، فقط یه جا نمیاد.
- می‌خواد عصبانی یا هیجان‌زده‌تون کنه؟ خیلی از دروغ‌ها برای همین ساخته می‌شن که تند واکنش نشون بدید.
- پول یا اطلاعات می‌خواد؟ پس از یه راه دیگه چکش کنید؛ مثلا خودتون به شماره‌ای که از قبل دارید زنگ بزنید.
از قرن نوزدهم تا امروز
- قرن نوزدهمدست‌کاری عکس، خیلی پیش از کامپیوتر.
- دهه‌ی ۱۹۹۰اولین کارهای دانشگاهی روی ویدیوی ساختگی.
- نیمه‌ی دهه‌ی ۲۰۱۰سازنده و منتقد؛ عکس‌ها و ویدیوهای ساختگی خیلی واقعی‌تر شدن.
- ۲۰۱۷اسم «دیپ‌فیک» از یه کاربر توی یه انجمن اینترنتی اومد.
- امروزبعضی برنامه‌ها با فقط یه عکس، چهره رو روی فیلم می‌ذارن.
جمع‌بندی. آنچه از این درس با خودتان می‌برید.
- دیپ‌فیک: آدم واقعی، کار یا حرفی که هیچ‌وقت نکرده.
- سه جور: چهره‌ی جابه‌جا، لب با صدای دیگه، از صفر ساخته.
- سازنده و منتقد اون‌قدر با هم کار می‌کنن تا تقلبی واقعی به نظر بیاد.
- نشونه‌ها: پلک، نور، لب و صدا، لبه‌ی صورت، حالت بدن.
- مهم‌تر از نشونه: کی منتشرش کرده؟ از یه راه دیگه چک کنید.
خودتون رو بسنجید
۱۵ پرسش، هر بار تازه از میان ۳۰ پرسش این درس. آخرش فقط کارنامه رو می‌بینید: چند تا درست، چند تا نادرست.