OpenAI امیدوار است با مشارکت با سازمان هایی که برای به حداقل رساندن آسیب های فناوری و رسانه برای کودکان، نوجوانان و نوجوانان تلاش می کنند، اعتماد والدین - و سیاست گذاران را جلب کند.

به عنوان مثال، OpenAI امروز همکاری خود را با Common Sense Media، سازمان غیرانتفاعی که مناسب بودن رسانه‌ها و فناوری‌های مختلف برای کودکان را تحلیل و رتبه‌بندی می‌کند، برای همکاری در دستورالعمل‌های هوش مصنوعی و مواد آموزشی برای والدین، مربیان و بزرگسالان جوان اعلام کرد.

به عنوان بخشی از این مشارکت، OpenAI با Common Sense Media کار خواهد کرد تا GPT های «مناسب خانواده» - برنامه های چت ربات مجهز به مدل های GenAI OpenAI - در فروشگاه GPT، بازار GPT OpenAI، بر اساس استانداردهای رتبه بندی و ارزیابی Common Sense، OpenAI، کار کند. مدیر عامل سام آلتمن می گوید.

آلتمن در بیانیه‌ای اعلام کرد: «هوش مصنوعی مزایای باورنکردنی را برای خانواده‌ها و نوجوانان ارائه می‌دهد و مشارکت ما با Common Sense کار ایمنی ما را بیشتر تقویت می‌کند و تضمین می‌کند که خانواده‌ها و نوجوانان می‌توانند با اطمینان از ابزار ما استفاده کنند».

راه اندازی این مشارکت پس از آن صورت می گیرد که OpenAI بيان کرد که در چارچوب جدید Common Sense که در ماه سپتامبر راه اندازی شد، برای رتبه بندی و تحلیل هایی که برای ارزیابی ایمنی، شفافیت، استفاده اخلاقی و تاثیر محصولات هوش مصنوعی طراحی شده است، شرکت خواهد کرد. به گفته جیمز استیر، یکی از بنیانگذاران و مدیر عامل شرکت Common Sense، چارچوب Common Sense با هدف ایجاد "برچسب تغذیه" برای برنامه های مبتنی بر هوش مصنوعی، به منظور روشن کردن زمینه هایی که در آن برنامه ها استفاده می شود و برجسته کردن مناطق بالقوه فرصت ها و آسیب ها است. مجموعه ای از اصول "عقل سلیم".

لوگوی OpenAI بر روی صفحه نمایش گوشی هوشمند در مقابل صفحه کامپیوتر با آرم ChatGPT نمایش داده می شود. اعتبار تصویر: دیدم منته/ خبرگزاری آنادولو / گتی ایماژ

در یک بیانیه مطبوعاتی، Steyer به این واقعیت اشاره کرد که والدین امروزی عموماً نسبت به نسل‌های جوان‌تر اطلاعات کمتری در مورد ابزارهای GenAI دارند - برای مثال، چت ربات ویروسی مبتنی بر هوش مصنوعی OpenAI ChatGPT. یک نظرسنجی Impact Research که توسط Common Sense Media در اواخر سال گذشته انجام شد، نشان داد که 58٪ از دانش آموزان 12 تا 18 ساله از ChatGPT استفاده کرده اند در مقایسه با 30٪ از والدین کودکان در سن مدرسه.

Steyer در بیانیه ای ایمیلی گفت: "معقول و OpenAI با هم کار خواهند کرد تا مطمئن شوند که هوش مصنوعی تأثیر مثبتی بر همه نوجوانان و خانواده ها دارد." راهنماها و سرپرستی ما برای آموزش خانواده ها و مربیان در مورد استفاده ایمن و مسئولانه از [ابزارهای OpenAI مانند] ChatGPT طراحی خواهد شد تا بتوانیم به طور جمعی از هرگونه عواقب ناخواسته این فناوری در حال ظهور جلوگیری کنیم.

OpenAI تحت فشار تنظیم‌کننده‌ها قرار دارد تا نشان دهد که برنامه‌های مجهز به GenAI، از جمله ChatGPT، یک موهبت کلی برای جامعه است – نه آسیبی برای آن. همین تابستان گذشته، کمیسیون تجارت فدرال ایالات متحده تحقیقاتی را در مورد OpenAI در مورد اینکه آیا ChatGPT از طریق جمع آوری داده ها و انتشار اظهارات نادرست در مورد افراد به مصرف کنندگان آسیب رسانده است، آغاز کرد. مقامات داده اروپا نیز نسبت به مدیریت اطلاعات خصوصی OpenAI ابراز نگرانی کرده اند.

ابزارهای OpenAI، مانند همه ابزارهای GenAI، تمایل دارند با اطمینان همه چیز را درست کنند و حقایق اساسی را اشتباه بگیرند. و آنها مغرضانه هستند - بازتابی از داده هایی که برای آموزش آنها استفاده شده است.

کودکان و نوجوانان که از محدودیت‌های ابزار آگاه هستند یا نه، به طور فزاینده‌ای برای کمک نه تنها در مورد تکالیف مدرسه بلکه برای مسائل شخصی به آنها مراجعه می‌کنند. بر اساس یک نظرسنجی از مرکز دموکراسی و فناوری، 29٪ از بچه ها گزارش داده اند که از ChatGPT برای مقابله با اضطراب یا مسائل مربوط به سلامت روان، 22٪ برای مسائل با دوستان و 16٪ برای درگیری های خانوادگی استفاده کرده اند.

خبرکاو