بر اساس تحقیقات جدید اکو، یک گروه کمپین غیرانتفاعی با مسئولیت شرکت‌ها، غول‌های رسانه‌های اجتماعی متا و ایکس (توئیتر سابق) تبلیغاتی را تأیید کردند که کاربران در آلمان را با سخنان نفرت خشونت‌آمیز علیه مسلمانان و یهودیان در آستانه انتخابات فدرال این کشور هدف قرار می‌دهند.

محققان این گروه آزمایش کردند که آیا سیستم های بازبینی تبلیغات دو پلتفرم، ارسالی برای تبلیغات حاوی پیام های نفرت انگیز و خشونت آمیز را که اقلیت ها را هدف قرار می دهد، قبل از انتخاباتی که در آن مهاجرت در مرکز گفتمان سیاسی جریان اصلی قرار گرفته است، تایید یا رد می کند - از جمله تبلیغات حاوی توهین های ضد مسلمانان. درخواست می کند که مهاجران در اردوگاه های کار اجباری زندانی شوند یا گاز گرفته شوند. و تصاویر ایجاد شده توسط هوش مصنوعی از مساجد و کنیسه ها در حال سوختن.

اکثر آگهی‌های آزمایشی ظرف چند ساعت پس از ارسال برای بررسی در اواسط فوریه تأیید شدند. انتخابات فدرال آلمان قرار است روز یکشنبه 23 فوریه برگزار شود.

تبلیغات سخنان مشوق نفرت برنامه ریزی شده است

اکو گفت که X همه 10 تبلیغ سخنان مشوق تنفر را که محققانش تنها چند روز قبل از برگزاری انتخابات فدرال ارسال کرده بودند تأیید کرد، در حالی که متا نیمی (پنج آگهی) را برای اجرا در فیس بوک (و احتمالاً اینستاگرام) تأیید کرد - اگرچه پنج آگهی دیگر را رد کرد.

دلیلی که متا برای رد پنج مورد ارائه کرد نشان داد که پلتفرم معتقد است خطرات حساسیت سیاسی یا اجتماعی وجود دارد که ممکن است بر رأی گیری تأثیر بگذارد.

با این حال، پنج آگهی مورد تایید متا شامل سخنان تنفر آمیز خشونت آمیز بود که پناهندگان مسلمان را به "ویروس"، "موجود موذی" یا "جوندگان" تشبیه می کرد، مهاجران مسلمان را به عنوان "متجاوز به عنف" معرفی می کرد و خواستار عقیم سازی، سوزاندن یا گازگرفتگی آنها می شد. متا همچنین تبلیغی را تأیید کرد که در آن خواستار آتش زدن کنیسه‌ها برای «توقف برنامه جهانی‌گرایانه موش‌های یهودی» شده بود.

به عنوان یک حاشیه، اکو می‌گوید هیچ یک از تصاویر تولید شده توسط هوش مصنوعی که برای نشان دادن تبلیغات سخنان مشوق عداوت و تنفر استفاده می‌کرد، به‌عنوان تولید مصنوعی برچسب‌گذاری نشد - با این حال، نیمی از ده آگهی هنوز توسط متا تأیید شده‌اند، صرف‌نظر از اینکه شرکت دارای سیاستی است که مستلزم افشای استفاده از تصاویر هوش مصنوعی برای تبلیغات در مورد موضوعات اجتماعی، انتخابات یا سیاست است.

در همین حال، X هر پنج مورد از این آگهی‌های نفرت‌انگیز را تأیید کرد - و پنج مورد دیگر که حاوی سخنان نفرت‌انگیز مشابهی بود که مسلمانان و یهودیان را هدف قرار می‌داد.

این تبلیغات تایید شده اضافی شامل ارسال پیام‌هایی برای حمله به مهاجران «جوندگان» بود که در نسخه تبلیغاتی ادعا می‌شد که کشور را «سیل می‌کنند تا دموکراسی ما را بدزدند» و یک توهین یهودی‌ستیزانه که نشان می‌دهد یهودیان درباره تغییرات آب و هوایی دروغ می‌گویند تا صنعت اروپا را نابود کنند و قدرت اقتصادی را به دست آورند.

آگهی اخیر با تصاویر تولید شده توسط هوش مصنوعی ترکیب شد که گروهی از مردان سایه‌دار را نشان می‌دهد که دور میزی نشسته‌اند که دور آن انبوهی از شمش‌های طلا احاطه شده‌اند، با ستاره‌ای از داوود بر روی دیوار بالای آن‌ها - با تصاویر بصری نیز که به شدت به مضامین یهودستیزی متمایل شده‌اند.

یکی دیگر از آگهی‌های تأیید شده X حاوی حمله مستقیم به SPD، حزب چپ میانه‌ای است که در حال حاضر دولت ائتلافی آلمان را رهبری می‌کند، با ادعای جعلی مبنی بر اینکه این حزب می‌خواهد 60 میلیون پناهنده مسلمان از خاورمیانه را بپذیرد، قبل از اینکه تلاش کند پاسخی خشونت‌آمیز داشته باشد. X همچنین آگهی‌ای را برنامه‌ریزی کرد که در آن پیشنهاد می‌کرد «چپ‌ها» «مرزهای باز» را می‌خواهند، و خواستار نابودی مسلمانان «متجاوزین» شدند.

ایلان ماسک، مالک X، از پلتفرم رسانه های اجتماعی که نزدیک به 220 میلیون دنبال کننده دارد برای مداخله شخصی در انتخابات آلمان استفاده کرده است. او در ماه دسامبر در توییتی از رای دهندگان آلمانی خواست تا از حزب راست افراطی AfD برای "نجات آلمان" حمایت کنند. او همچنین میزبان یک پخش زنده با رهبر AfD، آلیس وایدل، در X بوده است.

محققان Eko همه آگهی‌های آزمایشی را قبل از برنامه‌ریزی اجرا غیرفعال کردند تا مطمئن شوند هیچ کاربر این پلتفرم در معرض سخنان نفرت خشونت‌آمیز قرار نگرفته است.

می‌گوید این آزمایش‌ها نقص‌های آشکار رویکرد پلت‌فرم‌های تبلیغاتی به تعدیل محتوا را برجسته می‌کنند. در واقع، در مورد X، مشخص نیست که آیا این پلتفرم تبلیغات را تعدیل می کند یا خیر، با توجه به اینکه هر ده تبلیغ خشونت آمیز سخنان نفرت انگیز به سرعت برای نمایش تأیید شدند.

این یافته‌ها همچنین نشان می‌دهد که پلتفرم‌های تبلیغاتی می‌توانند در نتیجه توزیع سخنان نفرت‌آمیز خشونت‌آمیز درآمد کسب کنند.

قانون خدمات دیجیتال اتحادیه اروپا در چارچوب است

آزمایش‌های Eko نشان می‌دهد که هیچ یک از پلتفرم‌ها به درستی ممنوعیت‌هایی را در مورد سخنان مشوق عداوت و تنفر اعمال نمی‌کنند و هر دو ادعا می‌کنند در خط‌مشی‌های خود برای محتوای تبلیغاتی اعمال می‌کنند. علاوه بر این، در مورد متا، اکو پس از انجام آزمایشی مشابه در سال 2023 پیش از ورود قوانین جدید حاکمیت آنلاین اتحادیه اروپا به همین نتیجه رسید - نشان می‌دهد رژیم هیچ تأثیری بر نحوه عملکردش ندارد.

یکی از سخنگویان Eko به TechCrunch گفت: «یافته‌های ما نشان می‌دهد که سیستم‌های تعدیل آگهی مبتنی بر هوش مصنوعی متا، علی‌رغم اینکه قانون خدمات دیجیتال (DSA) در حال حاضر به طور کامل اجرا می‌شود، اساساً شکسته می‌مانند.

آنها با اشاره به اعلامیه اخیر این شرکت در مورد عقب نشینی سیاست های اعتدال و بررسی واقعیت به عنوان نشانه ای از "رگرسیون فعال" که پیشنهاد کردند آن را در مسیر برخورد مستقیم با قوانین DSA در مورد خطرات سیستمیک قرار می دهد، افزودند: "به جای تقویت روند بررسی تبلیغات یا سیاست های سخنان مشوق نفرت، به نظر می رسد متا در همه زمینه ها عقب نشینی می کند."

اکو آخرین یافته‌های خود را به کمیسیون اروپا ارائه کرده است که بر اجرای جنبه‌های کلیدی DSA در این جفت غول رسانه‌های اجتماعی نظارت دارد. همچنین گفت که نتایج را با هر دو شرکت به اشتراک گذاشته است، اما هیچ کدام پاسخ ندادند.

اتحادیه اروپا در حال حاضر تحقیقات DSA را در مورد متا و ایکس انجام داده است که شامل نگرانی در مورد امنیت انتخابات و محتوای غیرقانونی است، اما کمیسیون هنوز این روند را به پایان نرسانده است. اگرچه، در ماه آوریل اعلام کرد که متا را به تعدیل ناکافی تبلیغات سیاسی مشکوک می کند.

تصمیم اولیه در مورد بخشی از تحقیقات DSA آن در مورد X که در ماه ژوئیه اعلام شد، شامل این ظن بود که این پلتفرم مطابق با قوانین شفافیت تبلیغات این مقررات عمل نمی کند. با این حال، تحقیقات کامل، که در دسامبر 2023 آغاز شد، همچنین به خطرات محتوای غیرقانونی مربوط می‌شود و اتحادیه اروپا هنوز پس از گذشت یک سال به هیچ یافته‌ای در مورد بخش عمده این تحقیقات نرسیده است.

نقض تایید شده DSA می تواند جریمه هایی تا 6 درصد از گردش مالی سالانه جهانی را به دنبال داشته باشد، در حالی که عدم انطباق سیستمی حتی می تواند منجر به مسدود شدن موقت دسترسی منطقه ای به پلت فرم های متخلف شود.

اما، در حال حاضر، اتحادیه اروپا هنوز وقت خود را صرف تصمیم گیری در مورد تحقیقات متا و ایکس می کند، بنابراین - در انتظار تصمیمات نهایی - هرگونه تحریم DSA در هوا باقی بماند.

در همین حال، اکنون فقط چند ساعت مانده است تا رأی دهندگان آلمانی به پای صندوق های رای بروند - و مجموعه رو به رشدی از تحقیقات جامعه مدنی نشان می دهد که مقررات حاکمیت آنلاین پرچمدار اتحادیه اروپا نتوانسته است از روند دموکراتیک اقتصاد اتحادیه اروپا در برابر طیف وسیعی از تهدیدات ناشی از فناوری محافظت کند.

در اوایل این هفته، Global Witness نتایج آزمایش‌های فیدهای الگوریتمی «برای شما» X و TikTok در آلمان را منتشر کرد که نشان می‌دهد پلتفرم‌ها به نفع تبلیغ محتوای AfD در مقابل محتوای سایر احزاب سیاسی هستند. محققان جامعه مدنی همچنین دسترسی X را متهم به مسدود کردن دسترسی به داده‌ها برای جلوگیری از مطالعه خطرات امنیتی انتخابات در آلمان در آستانه نظرسنجی آلمانی کرده‌اند - دسترسی DSA قرار است این امکان را فراهم کند.

سخنگوی اکو همچنین به ما گفت: «کمیسیون اروپا با بازکردن تحقیقات DSA در مورد Meta و X گام‌های مهمی برداشته است، اکنون ما باید ببینیم که این کمیسیون برای رسیدگی به نگرانی‌های مطرح‌شده به عنوان بخشی از این تحقیقات، اقدام جدی انجام می‌دهد.»

«یافته‌های ما، در کنار شواهد فزاینده از دیگر گروه‌های جامعه مدنی، نشان می‌دهد که Big Tech پلتفرم‌های خود را به‌طور داوطلبانه پاکسازی نمی‌کند. متا و ایکس به رغم تعهدات قانونی خود تحت DSA، همچنان اجازه می دهند سخنان غیرقانونی نفرت، تحریک به خشونت، و اطلاعات نادرست انتخاباتی در مقیاس گسترده منتشر شود.» (ما نام سخنگوی را برای جلوگیری از آزار و اذیت مخفی کرده ایم.)

«تنظیم‌کننده‌ها باید اقدام قوی انجام دهند - هم در اجرای DSA و هم برای مثال اجرای اقدامات کاهش قبل از انتخابات. این می‌تواند شامل خاموش کردن سیستم‌های توصیه‌کننده مبتنی بر پروفایل بلافاصله قبل از انتخابات، و اجرای سایر اقدامات «شکن شیشه‌ای» مناسب برای جلوگیری از تقویت الگوریتمی محتوای مرزی، مانند محتوای نفرت‌انگیز در پیش از انتخابات باشد.»

گروه کمپین انتخاباتی همچنین هشدار می دهد که اتحادیه اروپا اکنون با فشار از سوی دولت ترامپ برای نرم کردن رویکرد خود برای تنظیم فناوری بزرگ مواجه است. آنها پیشنهاد می کنند: «در فضای سیاسی کنونی، این خطر واقعی وجود دارد که کمیسیون این قوانین جدید را به عنوان امتیازی برای ایالات متحده به طور کامل اجرا نکند».

خبرکاو