بر اساس یک پست وبلاگی در روز جمعه، OpenAI مجموعه‌ای از حساب‌های ChatGPT مرتبط با عملیات نفوذ ایران را که در حال تولید محتوا در مورد انتخابات ریاست‌جمهوری آمریکا بود، ممنوع کرده است. این شرکت او میگوید این عملیات مقالات و پست‌های رسانه‌های اجتماعی تولید شده توسط هوش مصنوعی را ایجاد کرد، اگرچه به نظر نمی‌رسد که مخاطبان زیادی را جذب کند.

این اولین بار نیست که OpenAI حساب‌های مرتبط با بازیگران دولتی را که از ChatGPT استفاده می‌کنند، ممنوع می‌کند. در ماه مه، این شرکت پنج کمپین را با استفاده از ChatGPT برای دستکاری افکار عمومی مختل کرد.

این اپیزودها یادآور فعالیت بازیگران دولتی است که از پلتفرم های رسانه های اجتماعی مانند فیس بوک و توییتر برای تأثیرگذاری بر دوره های قبلی انتخابات استفاده می کنند. اکنون گروه های مشابه (یا شاید همان ها) از هوش مصنوعی مولد برای پر کردن کانال های اجتماعی با اطلاعات نادرست استفاده می کنند. مشابه شرکت‌های رسانه‌های اجتماعی، به نظر می‌رسد OpenAI رویکردی را اتخاذ می‌کند و حساب‌های مرتبط با این تلاش‌ها را به محض ظهور ممنوع می‌کند.

OpenAI او میگوید که تحقیقاتش در مورد این دسته از حساب‌ها از گزارش Microsoft Threat Intelligence که هفته گذشته منتشر شد، بهره می‌برد که این گروه (که آن را Storm-2035 می‌نامد) به عنوان بخشی از یک کمپین گسترده‌تر برای تأثیرگذاری بر انتخابات ایالات متحده که از سال 2020 فعالیت می‌کنند، شناسایی کرد.

مایکروسافت بيان کرد طوفان-2035 یک شبکه ایرانی با سایت‌های متعددی است که از رسانه‌های خبری تقلید می‌کنند و «به طور فعال با گروه‌های رأی‌دهندگان آمریکایی در مخالفان طیف سیاسی با پیام‌های قطبی در مورد موضوعاتی مانند نامزدهای ریاست‌جمهوری آمریکا، حقوق دگرباشان جنسی، و درگیری اسرائیل و حماس درگیر می‌شوند. " کتاب بازی، همانطور که در سایر عملیات ها ثابت کرده است، لزوماً برای ترویج این یا آن سیاست نیست، بلکه کاشت مخالفت و درگیری است.

OpenAI پنج جبهه وب‌سایت را برای Storm-2035 شناسایی کرد که به عنوان رسانه‌های خبری مترقی و محافظه‌کار با نام‌های دامنه قانع‌کننده مانند «evenpolitics.com» معرفی شدند. این گروه از ChatGPT برای پیش‌نویس چندین مقاله طولانی استفاده کرد، از جمله مقاله‌ای که ادعا می‌کرد «X توئیت‌های ترامپ را سانسور می‌کند»، که پلتفرم ایلان ماسک مطمئناً انجام نداده است (اگر چیزی باشد، ماسک رئیس‌جمهور سابق دونالد ترامپ را تشویق می‌کند تا در X بیشتر مشارکت کند).

در رسانه های اجتماعی، OpenAI دوازده حساب X و یک حساب اینستاگرام را شناسایی کرد که توسط این عملیات کنترل می شد. این شرکت می گوید از ChatGPT برای بازنویسی نظرات مختلف سیاسی استفاده شده است که سپس در این پلتفرم ها ارسال می شد. یکی از این توییت‌ها به اشتباه و به‌طور گیج‌کننده، ادعا می‌کرد که کامالا هریس «افزایش هزینه‌های مهاجرت» را به تغییرات آب‌وهوایی و به دنبال آن «#DumpKamala» نسبت می‌دهد.

OpenAI او میگوید شواهدی را ندیده است که مقالات Storm-2035 به طور گسترده به اشتراک گذاشته شده است، و خاطرنشان می‌کند که اکثر پست‌های رسانه‌های اجتماعی آن لایک، اشتراک‌گذاری یا نظر کمی دریافت کرده‌اند. این اغلب در مورد این عملیات است، که چرخش سریع و ارزان با استفاده از ابزارهای هوش مصنوعی مانند ChatGPT انجام می شود. با نزدیک شدن به انتخابات و تشدید نزاع‌های حزبی در فضای مجازی، انتظار داریم که چنین اعلامیه‌های بیشتری را مشاهده کنید.

خبرکاو