پیشرفت ابزارهای مولد هوش مصنوعی مشکل جدیدی را برای اینترنت ایجاد کرده است: تکثیر تصاویر برهنه مصنوعی شبیه افراد واقعی. روز پنجشنبه، مایکروسافت گام بزرگی برداشت تا به قربانیان پورن انتقام جویانه ابزاری بدهد تا موتور جستجوی بینگ خود را از بازگرداندن این تصاویر باز دارد.

مایکروسافت اعلام کرد با StopNCII، سازمانی که به قربانیان پورن انتقام‌جویانه اجازه می‌دهد اثر انگشت دیجیتالی از این تصاویر صریح، واقعی یا غیر واقعی، روی دستگاه خود ایجاد کنند، همکاری می‌کند. سپس شرکای StopNCII از آن اثر انگشت دیجیتال یا همان طور که از نظر فنی شناخته می‌شود «هش» برای پاک کردن تصویر از پلتفرم‌های خود استفاده می‌کنند. بینگ مایکروسافت به فیس‌بوک، اینستاگرام، Threads، TikTok، Snapchat، Reddit، PornHub و OnlyFans در شراکت با StopNCII می‌پیوندد و از اثر انگشت دیجیتال خود برای جلوگیری از گسترش پورن انتقام‌جویانه استفاده می‌کند.

در یک پست وبلاگی، مایکروسافت او میگوید که قبلاً روی 268000 تصویر صریح که از طریق جستجوی تصویر بینگ در آزمایشی تا پایان ماه اوت با پایگاه داده StopNCII بازگردانده شده‌اند، اقدام کرده است. پیش از این، مایکروسافت یک ابزار گزارش دهی مستقیم ارائه می کرد، اما این شرکت می گوید که ثابت شده است که کافی نیست.

مایکروسافت در پست وبلاگ خود در روز پنجشنبه گفت: «ما نگرانی‌هایی را از جانب قربانیان، کارشناسان و سایر ذینفعان شنیده‌ایم که گزارش‌های کاربر به تنهایی ممکن است به‌طور مؤثری برای تأثیرگذاری مقیاس‌پذیر نباشد یا به اندازه کافی خطر دسترسی به تصاویر از طریق جستجو را برطرف نکند».

می توانید تصور کنید که این مشکل چقدر بدتر از یک موتور جستجوی بسیار محبوب تر است: Google.

Google Search ابزارهای خود را برای گزارش و حذف تصاویر واضح از نتایج جستجوی خود ارائه می دهد، اما طبق تحقیقات Wired، با انتقاد کارمندان و قربانیان سابق به دلیل عدم همکاری با StopNCII مواجه شده است. Wired گزارش داد که از سال 2020، کاربران گوگل در کره جنوبی 170000 لینک جستجو و یوتیوب را برای محتوای جنسی ناخواسته گزارش کرده اند.

مشکل برهنگی دیپ فیک هوش مصنوعی در حال حاضر گسترده است. ابزارهای StopNCII فقط برای افراد بالای 18 سال کار می‌کنند، اما سایت‌های "لخت کردن" مشکلاتی را برای دانش‌آموزان دبیرستانی در سراسر کشور ایجاد کرده‌اند. متأسفانه، ایالات متحده یک قانون پورنو عمیق جعلی هوش مصنوعی برای پاسخگویی به کسی ندارد، پس این کشور برای رسیدگی به این موضوع به رویکردی پیچیده از قوانین ایالتی و محلی متکی است.

دادستان های سانفرانسیسکو در ماه آگوست شکایتی را برای حذف 16 سایت از "لخت کننده ترین" سایت ها اعلام کردند. بر اساس یک ردیاب برای قوانین پورنو دیپ فیک که توسط Wired ایجاد شده است، 23 ایالت آمریکا قوانینی را برای رسیدگی به دیپ فیک های غیر توافقی تصویب کرده اند، در حالی که 9 ایالت پیشنهادات را رد کرده اند.

خبرکاو