تولید محتوای مستهجن در تلگرام با یک ربات

مجازیست–صنعت ویدیوهای پورن جعلی (Pornogheraphic Deepfakes) در مقیاس نگران کننده ای مسلح شده است. این مقیاس نگران کننده آنقدر است که حداقل ۱۰۴ هزار زن را هدف حمله یک ربات قرار می دهد و از ماه ژوئیه در برنامه پیام رسان تلگرام فعالیت می کند. هر ماه هزاران نفر از این ربات استفاده می کنند که از آن برای ایجاد تصاویر برهنه از دوستان و اعضای خانواده استفاده می کنند، به نظر می رسد برخی از آنها زیر ۱۸ سال هستند. این محتواها توسط یک ربات دیپ فیک پورن تلگرام تولید شده اند.

تصاویر زنان برهنه با استفاده از هوش مصنوعی ایجاد می شود که لباس ها را از یک عکس غیر برهنه «پاک می کند». هر روز ربات گالری تصاویر جدید را به یک کانال تلگرامی ارسال می کند که تقریبا ۲۵۰۰۰ مشترک دارد. مجموعه تصاویر به طور مشخص حدود ۳۰۰۰ بار مشاهده می شوند. یک کانال تلگرامی جداگانه که ربات را تبلیغ می کند، بیش از ۵۰،۰۰۰ مشترک دارد.

برخی از تصاویر تولید شده توسط ربات گنگ هستند اما بسیاری از آنها می توانند برای تصاویر اصلی برهنه استفاده شوند. جورجیو پاتریینی، مدیرعامل و دانشمند ارشد شرکت تشخیص دیپ فیک به نام Sensity که تحقیق را انجام داده، می گوید:

این شرکت یافته های خود را در تلاش برای تحت فشار قرار دادن سرویس هایی که میزبان این محتوا هستند استفاده می کند تا تبلیغات را حذف کند اما به طور علنی از کانال های تلگرامی درگیر، نام نمی برد.

تعداد واقعی زنان هدف این ربات deepfake احتمالا بیش از ۱۰۴،۰۰۰ نفر است. Sensity تنها قادر به شمردن تصاویر به اشتراک گذاشته شده به صورت عمومی بود و ربات به مردم این امکان را می دهد تا به صورت خصوصی عکس تولید کنند. پاترینی می گوید:

بیشترین علاقه به حمله به افراد خاص ( اطرافیان کاربران) است.اکثریت عظیم آن برای افرادی است که ما حتی نمی توانیم آنها را بشناسیم.

در نتیجه، احتمالا تعداد بسیار کمی از زنانی که مورد هدف قرار گرفته اند می دانند که تصاویر وجود دارد. ربات و تعدادی از کانال های تلگرامی متصل به آن در درجه اول روسی هستند اما ترجمه های انگلیسی زبان را نیز ارائه می دهند. Sensity اضافه می کند، در تعدادی از موارد، تصاویر ایجاد شده حاوی دخترانی است که زیر ۱۸ سال هستند، و می گوید هیچ راهی برای تأیید این مسئله وجود ندارد اما مراتب قانونی را از وجود آنها آگاه کرده است.

ایجاد این تصاویر به هیچ دانش فنی احتیاج ندارد

برخلاف سایر فیلم های DeepFake بدون اجازه، که میلیون ها بازدید را در وب سایت های پورنو جمع کرده است، ایجاد این تصاویر به هیچ دانش فنی احتیاج ندارد. این فرایند به صورت خودکار انجام می شود و هر کسی می تواند از آن استفاده کند. این کار به راحتی آپلود تصویر در هر سرویس پیام رسانی است.

این تصاویر برهنه به طور خودکار ایجاد می شوند هنگامی که افراد تصویری پوشیده از قربانی را از طریق تلفن یا دسکتاپ خود در ربات تلگرام آپلود می کنند. تحلیل Sensity می گوید این فناوری فقط روی تصاویر زنان کار می کند. استفاده از ربات رایگان است اگرچه افراد را به ده تصویر در روز محدود می کند و برای حذف واترمارک سفید از تصاویر باید پرداخت شود. Sensity می گوید که نسخه پریمیوم آن برای ۱۱۲ تصویر حدود ۸ دلار قیمت دارد.

ماری آن فرانک، استاد حقوق دانشگاه میامی می گوید:

• این یک مدرک تأییدکننده است برای تمام ترس هایی که در ابتدا کسانی که در مورد این فناوری شنیدند، ایجاد کردند.

فرانکس پیش از انتشار درباره Sensity بازخورد داد، اما در یافته های نهایی گزارش دخیل نبود.

اکنون این واقعیت وحشتناک تر نیز وجود دارد که مهم نیست که شما هرگز به کسی عکس برهنه داده اید یا نداده اید و یا هر نوع داده صمیمی را با کسی به اشتراک گذاشته یا نگذاشته اید، تمام آنچه که آنها نیاز دارند تصویر چهره شما است.

اعتقاد بر این است که ربات تلگرام توسط نسخه ای از نرم افزار DeepNude طراحی شده است. Vice برای اولین بار در ژوئن ۲۰۱۹ از DeepNude خبر داد. سازنده اصلی برنامه را به دلیل ترس از نحوه استفاده از آن متوقف، اما قبل از اینکه فقط در چند روز به ۹۵۰۰۰ دانلود برسد.

به سرعت از نسخه پشتیبان تهیه و کپی شد. نرم افزار DeepNude با استفاده از یادگیری عمیق، آنچه که بدن قربانیان به نظر می رسد را تولید می کند. هوش مصنوعی بر روی مجموعه ای از تصاویر زنان با لباس و برهنه آموزش دیده است و قادر است اعضای بدن را در تصاویر نهایی ترکیب کند.

Patrini می گوید:

• این اکنون چیزی است که جامعه در یک برنامه پلتفرم پیام رسانی تعبیه کرده است و بنابراین آنها قابلیت استفاده و سهولت دسترسی به این نوع فن آوری را به جلو سوق داده اند. ربات تلگرام توسط سرورهای خارجی تأمین می شود، به این معنی که مانع های ورود شما را کاهش می دهد. به نوعی، این به معنای واقعی کلمه، این یک Deepfake به عنوان یک سرویس است.

/ترنجی/