آژانس تبلیغاتی خلاق McKinney یک بازی مسابقه ای به نام "آیا شما سیاه تر از ChatGPT هستید؟" ساخته است. برای روشن کردن سوگیری هوش مصنوعی.

این بازی دانش فرد را از فرهنگ سیاه‌پوستان در برابر آنچه ChatGPT برای دانستن جامعه سیاه‌پوستان آموزش دیده است، آزمایش می‌کند. این پرسش‌ها را می‌پرسد: «وقتی کسی او میگوید ، «حالا زیاد روی او نیست» به چه معناست؟» و «اگر به یک رویداد دعوت شوید، چه پاسخی دارید؟» وقتی من در مسابقه شرکت کردم، هم ChatGPT و هم من اولین مورد را درست متوجه شدیم - وقتی کسی او میگوید "خیلی زیاد در مورد آنها نیست"، معمولاً به این معنی است که با آنها راحت رفتار کنید. اما ChatGPT زمانی که نوبت به دومین مورد رسید شکست خورد. وقتی کسی شما را به یک رویداد دعوت می کند، پاسخ کلیشه ای در جامعه سیاه پوستان این است: "چه کسی دیگر آنجا خواهد بود؟" اما ChatGPT گفت: "از دعوتت متشکرم!"

مگان وودز، نویسنده کپی‌رایت در مک‌کینی و یکی، «جالب است زیرا به‌عنوان این ربات نام‌گذاری می‌شود که همه چیز را می‌داند، و به وضوح، شما همه چیز را نمی‌دانید، به‌ویژه وقتی صحبت از چیزهایی می‌شود که مختص سفیدپوستان نیستند». از سازندگان بازی، به TechCrunch گفت.

وودز بيان کرد که ایده مسابقه سال گذشته در جریان یک طوفان فکری خلاقانه در مک کینی به وجود آمد. یک سال طول کشید تا Woods و یک تیم تحت رهبری Black این محصول را ایجاد کنند، با این هدف که به طرز بازیگوشی نشان دهند که ChatGPT چقدر با کاربران سیاه پوست غیر قابل لمس است. او اشاره کرد که به نظر می رسد نقطه کور ChatGPT از این واقعیت ناشی می شود که بسیاری از عناصر فرهنگی سیاه پوست لزوماً به صورت آنلاین مستند نیستند. در عوض، آنها به صورت شخصی یا شفاهی از طریق نسل ها منتقل می شوند. این بدان معناست که الگوریتم آن هنگام تحلیل اینترنت برای اطلاعات در مورد سیاه پوستان، تفاوت های ظریف زیادی را از دست می دهد.

وودز گفت: "نقاط کور می تواند بسیار ناراحت کننده باشد." "خیلی خطرناک است. "

از Chat GPT پاسخ مسابقه هستید؟" width="680" height="413" srcset="https://techcrunch.com/wp-content/uploads/2024/02/Are-you-blacker-quiz.png 1658w, https://techcrunch.com/wp-content/uploads/2024/02/Are-you-blacker-quiz.png?resize=150,91 150w, https://techcrunch.com/wp-content/uploads/2024/02/Are-you-blacker-quiz.png?resize=300,182 300w, https://techcrunch.com/wp-content/uploads/2024/02/Are-you-blacker-quiz.png?resize=768,466 768w, https://techcrunch.com/wp-content/uploads/2024/02/Are-you-blacker-quiz.png?resize=680,413 680w, https://techcrunch.com/wp-content/uploads/2024/02/Are-you-blacker-quiz.png?resize=1536,932 1536w, https://techcrunch.com/wp-content/uploads/2024/02/Are-you-blacker-quiz.png?resize=1200,728 1200w, https://techcrunch.com/wp-content/uploads/2024/02/Are-you-blacker-quiz.png?resize=50,30 50w" sizes="(max-width: 680px) 100vw, 680px">

نمونه ای از ChatGPT که در مورد چیزی که به طور کلیشه ای در جامعه سیاه پوستان رایج است، پاسخ اشتباه می دهد.

هوش مصنوعی ممکن است در یک خط داغ باشد، اما زنان، سازندگان سیاه‌پوست و قهوه‌ای، و بنیان‌گذاران در این فضا مدت‌هاست که از نادیده گرفته شدن یا کنار گذاشته شدنشان صحبت می‌کنند. نتیجه این است که نوآوری هوش مصنوعی بدون بینش فرهنگی و پیچیدگی هایی ساخته می شود که آن را برای فرهنگ های مختلف مناسب می کند. در شدیدترین حالت، کمبود تنوع به این معنی است که خودروها با استفاده از هوش مصنوعی توسعه می‌یابند که نمی‌توانند پوست سیاه را تشخیص دهند و منجر به افزایش تعداد تصادفات می‌شود. از طرف دیگر، این به سادگی به معنای جعبه گفتگو است که نمی تواند بین یک آهنگ ویتنی هیوستون و دیگری تمایز قائل شود.

جرالد کارتر، بنیانگذار Destined AI، شرکتی که به شناسایی و کاهش تعصب هوش مصنوعی کمک می کند، بيان کرد که مسابقه مک کینی در بازی سازی و آگاهی بیشتر نسبت به این شکاف های هوش مصنوعی کار خوبی انجام می دهد. او گفت: "بسیاری از تفاوت های ظریف را می توان با گنجاندن دیدگاه های متنوع در هر سطح مورد تحلیل قرار داد." برای اینکه هوش مصنوعی به پتانسیل کامل خود برسد، باید برای همه و در همه جا کار کند.»

شرکت مادر ChatGPT، OpenAI، به دلیل عدم تنوع در هیئت مدیره خود مورد انتقاد قرار گرفته است. وودز بيان کرد که به نظر نمی رسد ChatGPT از آزمون یاد بگیرد، بر اساس این واقعیت که در بسیاری از موارد پاسخ های مشابه را اشتباه دریافت می کند. "فرضیه ما این است که هرگز قادر نخواهد بود بسیاری از چیزهایی را که ما از آن قصد داریم به طور کامل درک کند."

ما برای اظهار نظر با OpenAI تماس گرفتیم و پس از شنیدن پاسخ، این پست را به روز خواهیم کرد.

کارتر بيان کرد که ChatGPT با منابع بهتر و جمع‌آوری داده‌های فراگیرتر می‌تواند برای فرهنگ‌های بیشتر بهتر عمل کند. یک رویکرد فوری تر، نظارت بر تغییر مدل هوش مصنوعی و بهبود با استفاده از ابزارهای متمرکز بر دیدگاه های فرهنگی است.

در حالی که شرکت‌های بزرگ‌تر روی مفید ساختن هوش مصنوعی برای همه کار می‌کنند، سازندگان سیاه‌پوست و قهوه‌ای در این فضا کار را به دست گرفته‌اند تا اطمینان حاصل کنند که موج بعدی هوش مصنوعی متنوع است.

برای مثال، کارتر با شرکت‌ها همکاری می‌کند تا به آنها کمک کند داده‌های جامع‌تری را تهیه کنند. ارین ردیک ChatBlackGPT (بدون ارتباط با OpenAI) را ایجاد کرد تا بینش عمیق تری از فرهنگ و تاریخ سیاه پوستان ارائه دهد و تامار هاگینز 1.4 میلیون دلار برای جایگزین ChatGPT خود به نام شمع جرقه جمع آوری کرد که متون ادبیات کلاسیک را به گویش انگلیسی بومی آفریقایی آمریکایی (AAVE) ترجمه می کند. .

وودز در مورد اینکه چه کارهای بیشتری برای فراگیرتر کردن هوش مصنوعی باید انجام شود، گفت: «استخدام، حفظ، اطمینان از اینکه افراد در اتاق پشت میز هستند. می‌دانم که به نظر کلیشه‌ای می‌آید، اما فکر می‌کنم که می‌تواند تأثیر بگذارد.»

خبرکاو