بازیگران مخرب از ابزارهای موسیقی مولد هوش مصنوعی برای ایجاد آهنگ های همجنسگرا هراسی، نژادپرستانه و تبلیغاتی سوء استفاده می کنند - و راهنماهایی را منتشر می کنند که به دیگران آموزش می دهند چگونه این کار را انجام دهند.

طبق گفته ActiveFence، سرویسی برای مدیریت عملیات اعتماد و ایمنی در پلتفرم‌های آنلاین، از ماه مارس در جوامع «مرتبط با سخنان نفرت‌انگیز» در مورد راه‌های سوءاستفاده از ابزارهای ایجاد موسیقی هوش مصنوعی برای نوشتن آهنگ‌های توهین‌آمیز که گروه‌های اقلیت را هدف قرار می‌دهند، جهش زیادی به وجود آمده است. محققان ActiveFence در گزارشی می‌گویند که آهنگ‌های تولید شده توسط هوش مصنوعی که در این انجمن‌ها و تابلوهای بحث به اشتراک گذاشته می‌شوند، با هدف برانگیختن نفرت نسبت به هم‌گروه‌های قومی، جنسیتی، نژادی و مذهبی، در حالی که اقدامات شهادت طلبانه، خودآزاری و تروریسم را جشن می‌گیرند، می‌گویند.

آهنگ های نفرت انگیز و مضر به سختی پدیده جدیدی هستند. اما ترس این است که با ظهور ابزارهای تولید موسیقی رایگان با استفاده آسان، این ابزارها توسط افرادی که قبلا ابزار یا دانش نداشتند در مقیاس ساخته شوند - درست مانند تصویر، صدا، ویدئو. و تولیدکنندگان متن، انتشار اطلاعات نادرست، اطلاعات نادرست و سخنان نفرت انگیز را تسریع کرده اند.

نوام شوارتز، یکی از بنیانگذاران و مدیر عامل ActiveFence، در مصاحبه ای با TechCrunch گفت: «این ها روندهایی هستند که وقتی کاربران بیشتری یاد می گیرند چگونه این آهنگ ها را تولید کنند و آنها را با دیگران به اشتراک بگذارند، تشدید می شوند. عاملان تهدید به سرعت در حال شناسایی آسیب‌پذیری‌های خاص برای سوء استفاده از این پلتفرم‌ها به روش‌های مختلف و تولید محتوای مخرب هستند.»

ساخت آهنگ های "نفرت".

ابزارهای موسیقی مولد هوش مصنوعی مانند Udio و Suno به کاربران اجازه می دهند اشعار سفارشی را به آهنگ های تولید شده اضافه کنند. به گفته ActiveFence، پادمان‌ها در پلتفرم‌ها، توهین‌های رایج و توهین‌آمیز را فیلتر می‌کنند، اما کاربران راه‌حل‌هایی را پیدا کرده‌اند.

در یکی از نمونه‌های ذکر شده در گزارش، کاربران در انجمن‌های برتری‌گرای سفیدپوستان، املای آوایی اقلیت‌ها و اصطلاحات توهین‌آمیز را به اشتراک گذاشتند، مانند «jooz» به جای «یهودی» و «بگو تان» به جای «شیطان»، که برای دور زدن فیلترهای محتوا استفاده می‌کردند. . برخی از کاربران هنگام اشاره به اعمال خشونت آمیز، مانند جایگزینی «تجاوز به عنف من» با «میمون میمون»، پیشنهاد کردند که فاصله و املای آن را تغییر دهند.

TechCrunch چندین مورد از این راه‌حل‌ها را روی Udio و Suno آزمایش کرد، دو ابزار محبوب‌تر برای ایجاد و اشتراک‌گذاری موسیقی تولید شده توسط هوش مصنوعی. Suno به همه آنها اجازه عبور داد، در حالی که Udio برخی - اما نه همه - همفون های توهین آمیز را مسدود کرد.

یکی از سخنگویان Udio به TechCrunch بيان کرد که این شرکت استفاده از پلتفرم خود را برای سخنان نفرت انگیز ممنوع می کند. سونو به درخواست ما برای اظهار نظر پاسخ نداد.

ActiveFence در جوامعی که تحلیل کرد، پیوندهایی به آهنگ‌های تولید شده توسط هوش مصنوعی یافت که تئوری‌های توطئه درباره یهودیان را مطرح می‌کرد و از کشتار دسته جمعی آنها حمایت می‌ کرد. آهنگ های حاوی شعارهای مرتبط با گروه های تروریستی داعش و القاعده؛ و آهنگ هایی در تجلیل از خشونت جنسی علیه زنان.

تاثیر آهنگ

شوارتز معتقد است که آهنگ‌ها – در مقابل مثلاً متن – دارای سنگینی احساسی هستند که آنها را به نیرویی قوی برای گروه‌های نفرت‌انگیز و جنگ‌های سیاسی تبدیل می‌کند. او به راک در برابر کمونیسم اشاره می‌کند، مجموعه‌ای از کنسرت‌های راک قدرت سفیدپوست در بریتانیا در اواخر دهه ۷۰ و اوایل دهه ۸۰ که زیرشاخه‌های کاملی از موسیقی یهودی‌ستیزانه و نژادپرستانه «متنفر» را ایجاد کرد.

او گفت: «هوش مصنوعی محتوای مضر را جذاب‌تر می‌کند – به کسی فکر کنید که روایت مضری را درباره یک جمعیت خاص موعظه می‌کند و سپس تصور کنید که کسی آهنگی قافیه ایجاد می‌کند که خواندن و به خاطر سپردن آن را برای همه آسان می‌کند.» "آنها همبستگی گروهی را تقویت می کنند، به اعضای گروه های پیرامونی تلقین می کنند و همچنین برای شوک و آزار کاربران اینترنتی غیروابسته استفاده می شوند."

شوارتز از پلتفرم‌های تولید موسیقی می‌خواهد ابزارهای پیشگیری را پیاده‌سازی کنند و ارزیابی‌های ایمنی گسترده‌تری را انجام دهند. شوارتز گفت: «تیمینگ قرمز ممکن است به طور بالقوه برخی از این آسیب‌پذیری‌ها را آشکار کند و می‌تواند با شبیه‌سازی رفتار بازیگران تهدید انجام شود». تعدیل بهتر ورودی و خروجی نیز ممکن است در این مورد مفید باشد، زیرا به پلتفرم‌ها اجازه می‌دهد تا محتوا را قبل از به اشتراک گذاشتن با کاربر مسدود کنند.

اما با کشف روش‌های جدید اعتدال‌گرایانه توسط کاربران، اصلاحات می‌تواند زودگذر باشد. به عنوان مثال، برخی از آهنگ‌های تبلیغاتی تروریستی تولید شده توسط هوش مصنوعی که ActiveFence شناسایی کرد، با استفاده از تعبیر و آوانگاری به زبان عربی ساخته شده‌اند - تعبیرهایی که تولیدکنندگان موسیقی آن را تشخیص نداده‌اند، احتمالاً به این دلیل که فیلترهای آنها در عربی قوی نیست.

اگر از سایر رسانه های تولید شده توسط هوش مصنوعی پیروی کند، موسیقی تنفرآمیز تولید شده توسط هوش مصنوعی در حال گسترش است. Wired در اوایل سال جاری مستند کرد که چگونه یک کلیپ دستکاری شده با هوش مصنوعی از آدولف هیتلر پس از به اشتراک گذاشته شدن توسط یک تأثیرگذار توطئه راست افراطی، بیش از 15 میلیون بازدید در X داشت.

در میان کارشناسان دیگر، یک نهاد مشورتی سازمان ملل ابراز نگرانی کرده است که محتوای نژادپرستانه، یهودستیزانه، اسلام هراسانه و بیگانه هراسانه ممکن است توسط هوش مصنوعی مولد افزایش یابد.

شوارتز گفت: «سرویس‌های هوش مصنوعی مولد کاربرانی را که فاقد منابع یا مهارت‌های خلاقانه و فنی هستند، قادر می‌سازد تا محتوای جذابی بسازند و ایده‌هایی را منتشر کنند که می‌توانند برای جلب توجه در بازار جهانی ایده‌ها رقابت کنند. و بازیگران تهدید، با کشف پتانسیل خلاقانه ارائه شده توسط این سرویس‌های جدید، تلاش می‌کنند تا اعتدال را دور بزنند و از شناسایی شدن خودداری کنند - و موفق هم بوده‌اند.

خبرکاو