متا اعلام کرده است که ویژگی های جدیدی را در اینستاگرام آزمایش می کند که به منظور محافظت از جوانان در برابر برهنگی ناخواسته یا کلاهبرداری های جنایتکارانه کمک می کند. این شامل ویژگی به نام محافظت از برهنگی در DM است که به طور خودکار تصاویر شناسایی شده حاوی برهنگی را محو می کند.

این غول فناوری همچنین با ارائه اخطاری که آنها را تشویق می کند تا در مورد اشتراک گذاری تصاویر صمیمی دو بار فکر کنند، آنها را تشویق می کند تا از خود محافظت کنند. متا او میگوید امیدوار است این امر محافظت در برابر کلاهبردارانی را که ممکن است تصاویر برهنه ارسال کنند تا افراد را فریب دهند تا در ازای ارسال تصاویر خود را فریب دهند، افزایش دهد.

همچنین تغییراتی ایجاد می کند که نشان می دهد یافتن و تعامل با نوجوانان را برای کلاهبرداران و مجرمان بالقوه دشوارتر می کند. متا او میگوید در حال توسعه فناوری جدیدی برای شناسایی حساب‌هایی است که «به طور بالقوه» درگیر کلاهبرداری‌های جنسی هستند و محدودیت‌هایی را برای نحوه تعامل این حساب‌های مشکوک با سایر کاربران اعمال می‌کند.

در گام دیگری که روز پنجشنبه اعلام شد، متا بيان کرد که داده‌هایی را که با برنامه چند پلتفرمی آنلاین ایمنی کودکان Lantern به اشتراک می‌گذارد افزایش داده است - تا «سیگنال‌های خاص اخاذی» را در بر بگیرد.

این غول شبکه‌های اجتماعی سیاست‌های دیرینه‌ای برای ممنوعیت ارسال عکس‌های برهنه ناخواسته یا به دنبال وادار کردن سایر کاربران به ارسال تصاویر محرمانه دارد. با این حال، این مانع از شیوع این مشکلات در فضای مجازی نمی شود - و باعث بدبختی تعداد زیادی از نوجوانان و جوانان می شود که گاهی اوقات نتایج بسیار غم انگیزی به همراه دارد.

ما آخرین برش تغییرات را با جزئیات بیشتر در زیر گردآوری کرده‌ایم.

صفحه نمایش برهنگی

هدف محافظت از برهنگی در DMs محافظت از کاربران نوجوان اینستاگرام در برابر فلش سایبری با قرار دادن تصاویر برهنه در پشت صفحه ایمنی است. سپس کاربران می توانند انتخاب کنند که آیا آن را مشاهده کنند یا خیر.

متا گفت: "ما همچنین به آنها پیامی را نشان خواهیم داد که آنها را تشویق می کند تا برای پاسخگویی تحت فشار نباشند، با گزینه ای برای مسدود کردن فرستنده و گزارش چت."

صفحه ایمنی برهنگی به طور پیش‌فرض برای افراد زیر 18 سال در سراسر جهان روشن می‌شود. کاربران مسن‌تر اعلانی را مشاهده می‌کنند که آنها را تشویق می‌کند آن را روشن کنند.

زمانی که محافظت از برهنگی روشن است، افرادی که تصاویر حاوی برهنگی را ارسال می‌کنند، پیامی را مشاهده می‌کنند که به آنها یادآوری می‌کند هنگام ارسال عکس‌های حساس محتاط باشند و اگر نظر خود را تغییر دادند، می‌توانند این عکس‌ها را ارسال نکنند.

هرکسی که بخواهد یک تصویر برهنه را فوروارد کند، همان اخطاری را خواهد دید که آنها را تشویق می‌کند در این مورد تجدید نظر کنند.

این ویژگی با یادگیری ماشینی روی دستگاه پشتیبانی می‌شود، پس متا بيان کرد که در چت‌های رمزگذاری شده سرتاسر کار می‌کند زیرا تجزیه و تحلیل تصویر در دستگاه خود کاربر انجام می‌شود.

نکات ایمنی

در یک اقدام حفاظتی دیگر، کاربران اینستاگرام که عکس‌های برهنه را ارسال یا دریافت می‌کنند به نکات ایمنی - همراه با اطلاعات در مورد خطرات احتمالی مرتبط - هدایت می‌شوند که متا بيان کرد که با راهنمایی کارشناسان تهیه شده است.

این نکات شامل یادآوری می‌شود که افراد ممکن است بدون اطلاع شما از تصاویر اسکرین‌شات بگیرند یا آن‌ها را ارسال کنند، اینکه رابطه شما با آن شخص ممکن است در آینده تغییر کند، و اینکه اگر نمایه‌ها آنطور که می‌گویند نیستند، باید به دقت تحلیل کنید. . آنها همچنین به طیف وسیعی از منابع، از جمله مرکز ایمنی متا، خطوط پشتیبانی، StopNCII.org برای افراد بالای 18 سال و Take It Down برای افراد زیر 18 سال پیوند می‌دهند.

همچنین در حال آزمایش پیام‌های پاپ آپ برای افرادی است که ممکن است با حسابی که متا حذف کرده است به دلیل اجحافی در تعامل باشند که آنها را به منابع متخصص مربوطه هدایت می‌کند.

ما همچنین خطوط کمکی جدید ایمنی کودک را از سراسر جهان به جریان های گزارش درون برنامه ای خود اضافه می کنیم. این بدان معناست که وقتی نوجوانان مسائل مربوطه را گزارش می‌کنند - مانند برهنگی، تهدید به اشتراک‌گذاری تصاویر خصوصی یا استثمار یا درخواست جنسی - ما آنها را در صورت وجود به خطوط کمکی ایمنی کودکان محلی راهنمایی می‌کنیم.»

فن آوری برای تشخیص جنایتکاران

در حالی که متا او میگوید وقتی از آنها آگاه می‌شود حساب‌های بدجنس‌گرایان را حذف می‌کند، ابتدا باید بازیگران بد را شناسایی کند تا آنها را ببندد. پس متا تلاش می‌کند تا فراتر از این پیش برود: او میگوید در حال توسعه فناوری برای کمک به شناسایی مکان‌هایی است که حساب‌ها ممکن است به طور بالقوه درگیر کلاهبرداری‌های اخاذی باشند، بر اساس طیف وسیعی از سیگنال‌هایی که می‌تواند نشان دهنده رفتار اجباری باشد.

وی ادامه می‌دهد: «در حالی که این سیگنال‌ها لزوماً شواهدی نیستند که حسابی قوانین ما را زیر پا گذاشته است، ما اقدامات احتیاطی را برای جلوگیری از یافتن و تعامل این حساب‌ها با حساب‌های نوجوان انجام می‌دهیم. در حال حاضر برای جلوگیری از یافتن و تعامل سایر اکانت های مشکوک با نوجوانان انجام دهید."

دقیقاً مشخص نیست متا از چه فناوری برای این کار استفاده می کند، و نه اینکه کدام سیگنال ممکن است نشان دهنده یک جنایتکار بالقوه باشد (ما بیشتر درخواست کرده ایم) - اما احتمالاً ممکن است الگوهای ارتباطی را برای شناسایی بازیگران بد تجزیه و تحلیل کند.

حساب‌هایی که توسط متا به‌عنوان بدجنس‌گرای بالقوه پرچم‌گذاری می‌شوند، با محدودیت‌هایی در نحوه ارسال پیام یا تعامل با سایر کاربران مواجه خواهند شد.

در این بیانیه آمده است: «هر پیامی که حساب‌های جنجالی احتمالی بخواهند ارسال کنند مستقیماً به پوشه درخواست‌های پنهان گیرنده می‌رود، به این معنی که از پیام مطلع نمی‌شوند و هرگز مجبور به دیدن آن نمی‌شوند».

کاربرانی که قبلاً در حال چت کردن با حساب‌های کلاهبرداری یا اخاذی احتمالی هستند، چت‌هایشان بسته نمی‌شود، اما به آنها «اعلامیه‌های ایمنی» نشان داده می‌شود که «آن‌ها را تشویق می‌کند تا هرگونه تهدیدی را برای اشتراک‌گذاری تصاویر خصوصی‌شان گزارش کنند، و به آنها یادآوری می‌کند که می‌توانند به هر چیزی که باعث می‌شود نه بگویند. آنها احساس ناراحتی می کنند.» در متا.

کاربران نوجوان قبلاً از دریافت DM از بزرگسالانی که در اینستاگرام به آنها متصل نیستند (و همچنین در برخی موارد از سایر نوجوانان) محافظت می شوند. اما متا در حال برداشتن یک گام دیگر برای نشان ندادن دکمه «پیام» در نمایه یک نوجوان به حساب‌های سوءاستفاده احتمالی است، یعنی حتی اگر آنها متصل باشند.

وی گفت : «ما همچنین در حال آزمایش پنهان کردن نوجوانان از این حساب‌ها در فهرست‌های فالوور، فالوور و لایک افراد هستیم و یافتن حساب‌های نوجوان در نتایج جستجو را برای آنها سخت‌تر می‌کنیم.

شایان ذکر است که این شرکت در اروپا به دلیل خطرات ایمنی کودکان در اینستاگرام تحت نظارت فزاینده‌ای قرار دارد و مجریان از زمان اجرایی شدن قانون خدمات دیجیتال (DSA) در تابستان گذشته سؤالاتی در مورد رویکرد آن می‌پرسند.

یک خزش طولانی و آهسته به سمت ایمنی

متا قبلاً اقداماتی را برای مبارزه با سوءاستفاده جنسی اعلام کرده بود - آخرین مورد در فوریه که دسترسی به Take It Down را گسترش داد.

ابزار شخص ثالث به افراد این امکان را می‌دهد تا یک هش از یک تصویر صمیمی را به صورت محلی در دستگاه خود تولید کنند و آن را با مرکز ملی کودکان گمشده و مورد بهره‌کشی به اشتراک بگذارند - مخزنی از هش‌های تصویر بدون توافق ایجاد می‌کند که شرکت‌ها می‌توانند از آن برای جستجو و حذف انتقام استفاده کنند. پورن

رویکردهای قبلی متا مورد انتقاد قرار گرفته بود زیرا از جوانان خواسته بود تا عکس های برهنه خود را آپلود کنند. در غیاب قوانین سختی که تنظیم می‌کند شبکه‌های اجتماعی چگونه باید از کودکان محافظت کنند، متا برای سال‌ها به خودتنظیمی رها شد - با نتایج ناهموار.

با این حال، با وجود برخی الزامات در پلتفرم‌ها در سال‌های اخیر، مانند قوانین کودکان بریتانیا، که در سال 2021 به اجرا درآمد - و اخیراً، DSA اتحادیه اروپا - غول‌های فناوری مانند متا در نهایت باید توجه بیشتری به محافظت از کودکان خردسال داشته باشند.

به عنوان مثال، در ژوئیه 2021، متا پیش‌فرض حساب‌های اینستاگرام جوانان را به صورت خصوصی درست پیش از مهلت اجرای قوانین بریتانیا تغییر داد. در نوامبر 2022، تنظیمات حریم خصوصی سخت‌تر برای نوجوانان در اینستاگرام و فیسبوک دنبال شد.

ماه ژانویه متا همچنین اعلام کرد که به طور پیش‌فرض، نوجوانان را در فیس‌بوک و اینستاگرام وارد تنظیمات سخت‌گیرانه‌تر پیام می‌کند و همچنان محدودیت‌هایی برای پیام‌رسانی نوجوانان به نوجوانانی که قبلاً به آن‌ها متصل نبوده‌اند، اندکی قبل از مهلت انطباق کامل برای DSA در فوریه آغاز می‌کند.

خزش آهسته و تکرار شونده متا در مورد اقدامات محافظتی برای کاربران جوان، سؤالاتی را در مورد اینکه چه چیزی طول کشید تا استفاده از پادمان‌های قوی‌تر طول بکشد، ایجاد می‌کند - نشان می‌دهد که برای مدیریت تأثیر بر استفاده و اولویت دادن به تعامل، حداقلی بدبینانه در حفاظت را انتخاب کرده است. ایمنی (این دقیقاً همان چیزی است که افشاگر متا، فرانسیس هاگن، بارها کارفرمای سابق خود را به خاطر آن محکوم کرد. )

یکی از سخنگویان متا در پاسخ به این سوال که چرا آخرین محافظت‌های اعلام شده برای کاربران اینستاگرام را در فیس‌بوک نیز ارائه نمی‌کند، به TechCrunch گفت: «ما می‌خواهیم به جایی که بیشترین نیاز و ارتباط را می‌بینیم پاسخ دهیم - وقتی صحبت از برهنگی و آموزش ناخواسته می‌شود. نوجوانان در مورد خطرات اشتراک‌گذاری تصاویر حساس هستند – ما فکر می‌کنیم در پیام‌های پیامکی اینستاگرام است، پس اینجاست که ما ابتدا تمرکز می‌کنیم.»

خبرکاو