انتشار عکس‌های مستهجنی که موجب مرگ می‌شوند
پیشرفت ابزار‌های هوش مصنوعی، مسائلی اخلاقی را در فضای اینترنت با مشکلات تازه ای روبرو کرده است. بحران اخلاقی که به آن تکثیر تصاویر برهنه مصنوعی شبیه افراد واقعی.
روزنامه هم میهن در گزارشی نوشت: قربانیان این موضوع بیشتر سلبریتی‌هایی هستند که هر روز شاهد عکس‌های جعلی مستهجنی از خود هستند که روح‌شان از آن خبر ندارد، اما در دنیای مجازی دست‌به‌دست می‌شود. براساس گزارشی که گاردین منتشر کرده، بیش از ۲۵۰ سلبریتی بریتانیایی در میان هزاران چهره‌ی مشهوری هستند که قربانیان عکس‌های مستهجن دیپ‌فیک شده‌اند.
همچنین در تحقیقاتی که روی پنج وب‌سایت پربازدید دیپ‌فیک در این کشور صورت گرفته بود، اعلام شد که تقریباً چهار هزار فرد مشهور در فهرست قربانیان عکس‌های مستهجن دیپ‌فیک قرار دارند، از هنرپیشه‌های زن گرفته تا ستاره‌های تلویزیونی، یوتیوبر‌ها که عکس‌های صورت‌شان را برداشته‌اند و با هوش مصنوعی روی تصویر برهنه‌ای گذاشته‌اند. تیلور سوئیف، اوپرا وینفری، پیرز مورگان، گل گدوت، اما واتسون، کیتی پری، ریحانا و بسیاری دیگر، از چهره‌های سرشناسی بودند که قربانی عکس‌های مستهجن دیپ‌فیک شدند.
معضل بزرگ کره‌جنوبی
ازقضا این وب‌سایت‌ها بینندگان زیادی هم دارند و براساس مطالعات صورت‌گرفته توسط کانال چهار بریتانیا، این پنج سایت طی بازه‌ی زمانی سه‌ماه بیش از ۱۰۰میلیون بازدید داشته‌اند. از ۳۱ ژانویه براساس قانون امنیت آنلاین، اشتراک‌گذاری چنین تصاویری بدون رضایت در بریتانیا غیرقانونی است، اما ایجاد محتوا غیرقانونی نیست. این قانون در واکنش به گسترش عکس‌های مستهجن دیپ‌فیک ایجاد شده توسط هوش مصنوعی و اپلیکیشن‌ها تصویب شد.
محققان در سال ۲۰۱۶ یک ویدئوی آنلاین مستهجن دیپ‌فیک را شناسایی کردند، اما ۹ ماه اول سال ۲۰۲۳، در ۴۰ وب‌سایت مستهجن دیپ‌فیک که بیش از همه بازدید می‌شوند بیش از ۱۴۳ هزار و ۷۳۳ ویدئوی مستهجن دیپ‌فیک، بارگذاری شد و در ۲۰۲۴ این رقم چندین برابر شده و امروز به یکی از معضلاتی تبدیل شده که گریبان بسیاری از آدم‌های مشهور و غیرمشهور را گرفته است.