سایت خبرکاو

جستجوگر هوشمند اخبار و مطالب فناوری

آنتروپیک اقداماتی را برای جلوگیری از اطلاعات نادرست انتخابات انجام می دهد

پیش از انتخابات ریاست‌جمهوری آمریکا در سال 2024، آنتروپیک، استارت‌آپ هوش مصنوعی با بودجه خوبی، در حال آزمایش فناوری است تا تشخیص دهد که کاربران چت‌بات GenAI چه زمانی درباره موضوعات سیاسی سؤال می‌کنند و آن کاربران را به منابع «معتبر» اطلاعات رأی‌دهی هدایت می‌کند. این فناوری که Prompt Shield نام دارد و بر ترکیبی از مدل‌ها و قوانین تشخیص هوش مصنوعی متکی است، در صورتی که کاربر آمریکایی Claude، ربات چت Anthropic، درخواست اطلاعات رای کند، یک پنجره بازشو نشان ...

پیش از انتخابات ریاست‌جمهوری آمریکا در سال 2024، آنتروپیک، استارت‌آپ هوش مصنوعی با بودجه خوبی، در حال آزمایش فناوری است تا تشخیص دهد که کاربران چت‌بات GenAI چه زمانی درباره موضوعات سیاسی سؤال می‌کنند و آن کاربران را به منابع «معتبر» اطلاعات رأی‌دهی هدایت می‌کند.

این فناوری که Prompt Shield نام دارد و بر ترکیبی از مدل‌ها و قوانین تشخیص هوش مصنوعی متکی است، در صورتی که کاربر آمریکایی Claude، ربات چت Anthropic، درخواست اطلاعات رای کند، یک پنجره بازشو نشان می‌دهد. این پنجره بازشو پیشنهاد می‌کند کاربر را به TurboVote هدایت کند، منبعی از سازمان غیرحزبی Democracy Works، جایی که می‌تواند اطلاعات به‌روز و دقیق رای‌گیری را بیابد.

Anthropic می گوید که Prompt Shield به دلیل کاستی های کلود در زمینه اطلاعات مربوط به سیاست و انتخابات ضروری بود. آنتروپیک اذعان می کند که کلود به اندازه کافی برای ارائه اطلاعات در زمان واقعی در مورد انتخابات خاص آموزش ندیده است، و پس مستعد توهم پردازی - یعنی ابداع حقایق - در مورد آن انتخابات است.

یکی از سخنگویان از طریق ایمیل به TechCrunch گفت: «از زمانی که Claude را راه‌اندازی کردیم، «سپر فوری» را داشتیم - این محافظ انواع مختلفی از آسیب‌ها را بر اساس خط‌مشی کاربر قابل قبول ما نشان می‌دهد. ما در هفته‌های آینده مداخله سپر مخصوص انتخابات خود را راه‌اندازی خواهیم کرد و قصد داریم استفاده و محدودیت‌ها را نظارت کنیم... ما با سهامداران مختلفی از جمله سیاست‌گذاران، سایر شرکت‌ها، جامعه مدنی و سازمان‌های غیردولتی و ویژه انتخابات صحبت کرده‌ایم. مشاوران [در توسعه این].

در حال حاضر به ظاهر یک آزمایش محدود است. کلود وقتی از آن در مورد نحوه رای دادن در انتخابات آینده پرسیدم، پنجره پاپ آپ را ارائه نکرد، در عوض یک راهنمای رأی گیری عمومی را بیرون ریخت. Anthropic ادعا می کند که Prompt Shield را به خوبی تنظیم می کند زیرا آماده می شود تا آن را برای کاربران بیشتری گسترش دهد.

Anthropic که استفاده از ابزارهای خود را در مبارزات سیاسی و لابیگری ممنوع می کند، آخرین فروشنده GenAI است که سیاست ها و فناوری هایی را برای جلوگیری از دخالت در انتخابات پیاده سازی می کند.

زمان تصادفی نیست امسال، در سراسر جهان، رای دهندگان بیشتری از هر زمان دیگری در تاریخ به پای صندوق های رای خواهند رفت، زیرا حداقل 64 کشور که مجموعاً جمعیتی حدود 49 درصد از مردم جهان را تشکیل می دهند، قرار است انتخابات ملی برگزار کنند.

در ماه ژانویه، OpenAI اعلام کرد که افراد را از استفاده از ChatGPT، چت ربات مبتنی بر هوش مصنوعی ویروسی خود، برای ایجاد ربات‌هایی که هویت نامزدها یا دولت‌های واقعی را جعل می‌کنند، نحوه عملکرد رأی‌دهی را به اشتباه نشان می‌دهند یا مردم را از رأی دادن منصرف می‌کنند، منع می‌کند. مانند Anthropic، OpenAI در حال حاضر به کاربران اجازه نمی دهد با استفاده از ابزارهای خود برنامه هایی را برای اهداف کمپین سیاسی یا لابی بسازند - سیاستی که شرکت ماه گذشته تکرار کرد.

در یک رویکرد فنی مشابه Prompt Shield، OpenAI همچنین از سیستم‌های تشخیص برای هدایت کاربران ChatGPT که سؤالات لجستیکی در مورد رأی دادن به یک وب‌سایت غیرحزبی به نام CanIVote.org می‌پرسند، استفاده می‌کند که توسط انجمن ملی وزرای خارجه اداره می‌شود.

در ایالات متحده، کنگره هنوز قانونی را تصویب نکرده است که به دنبال تنظیم نقش صنعت هوش مصنوعی در سیاست با وجود برخی حمایت‌های دو حزبی است. در همین حال، بیش از یک سوم ایالت‌های ایالات متحده با توقف قوانین فدرال، لایحه‌هایی را برای رسیدگی به دروغ‌های عمیق در کمپین‌های سیاسی به تصویب رسانده‌اند یا ارائه کرده‌اند.

به جای قانون، برخی از پلتفرم‌ها - تحت فشار ناظران و تنظیم‌کننده‌ها - اقداماتی را برای جلوگیری از سوء استفاده از GenAI برای گمراه کردن یا دستکاری رأی‌دهندگان انجام می‌دهند.

گوگل در سپتامبر گذشته اعلام کرد که اگر تصاویر یا صداها به صورت مصنوعی تغییر داده شوند، باید تبلیغات سیاسی با استفاده از GenAI در یوتیوب و دیگر پلتفرم‌های آن، مانند جستجوی گوگل، همراه با افشای برجسته باشد. متا همچنین کمپین های سیاسی را از استفاده از ابزار GenAI - از جمله ابزار خودش - در تبلیغات در سراسر دارایی های خود منع کرده است.

خبرکاو