سایت خبرکاو

جستجوگر هوشمند اخبار و مطالب فناوری

زنان در هوش مصنوعی: ایرنه سلیمان، رئیس سیاست جهانی در Hugging Face

TechCrunch برای اینکه به زنان دانشگاهی و سایرین که با تمرکز بر هوش مصنوعی تمرکز دارند، زمان شایسته و دیررس آنها را در کانون توجه قرار دهد، مجموعه‌ای از مصاحبه‌ها را با تمرکز بر زنان برجسته‌ای که در انقلاب هوش مصنوعی مشارکت داشته‌اند، راه‌اندازی می‌کند. با ادامه رونق هوش مصنوعی، چندین قطعه را در طول سال منتشر خواهیم کرد و کارهای کلیدی را که اغلب ناشناخته می‌مانند برجسته می‌کنیم. پروفایل های بیشتر را اینجا بخوانید. ایرنه سلیمان کار خود ...

TechCrunch برای اینکه به زنان دانشگاهی و سایرین که با تمرکز بر هوش مصنوعی تمرکز دارند، زمان شایسته و دیررس آنها را در کانون توجه قرار دهد، مجموعه‌ای از مصاحبه‌ها را با تمرکز بر زنان برجسته‌ای که در انقلاب هوش مصنوعی مشارکت داشته‌اند، راه‌اندازی می‌کند. با ادامه رونق هوش مصنوعی، چندین قطعه را در طول سال منتشر خواهیم کرد و کارهای کلیدی را که اغلب ناشناخته می‌مانند برجسته می‌کنیم. پروفایل های بیشتر را اینجا بخوانید.

ایرنه سلیمان کار خود را در هوش مصنوعی به عنوان یک محقق و مدیر سیاست عمومی در OpenAI آغاز کرد، جایی که او رویکرد جدیدی را برای انتشار GPT-2، سلف ChatGPT، رهبری کرد. پس از نزدیک به یک سال خدمت به عنوان مدیر خط مشی هوش مصنوعی در Zillow، او به عنوان رئیس سیاست جهانی به Hugging Face پیوست. مسئولیت های او در آنجا از ساخت و خط مشی هوش مصنوعی شرکت پیشرو در سطح جهانی تا انجام تحقیقات اجتماعی و فنی را شامل می شود.

سلیمان همچنین به مؤسسه مهندسین برق و الکترونیک (IEEE)، انجمن حرفه‌ای مهندسی الکترونیک، در مورد مسائل هوش مصنوعی مشاوره می‌دهد و یک کارشناس شناخته‌شده هوش مصنوعی در سازمان بین‌دولتی برای همکاری اقتصادی و توسعه (OECD) است.

ایرنه سلیمان، رئیس سیاست جهانی در Hugging Face

به طور خلاصه، چگونه شروع به هوش مصنوعی کردید؟ چه چیزی شما را به این رشته جذب کرد؟

یک مسیر شغلی کاملا غیرخطی در هوش مصنوعی رایج است. علاقه نوپای من به همان روشی شروع شد که بسیاری از نوجوانان با مهارت های اجتماعی نامناسب اشتیاق خود را پیدا می کنند: از طریق رسانه های علمی تخیلی. من ابتدا سیاست حقوق بشر را مطالعه کردم و سپس در دوره های علوم کامپیوتر شرکت کردم، زیرا هوش مصنوعی را وسیله ای برای کار روی حقوق بشر و ساختن آینده ای بهتر می دانستم. توانایی انجام تحقیقات فنی و هدایت خط مشی در زمینه ای با سوالات بی پاسخ و مسیرهای پیموده نشده، کار من را هیجان انگیز نگه می دارد.

به چه کاری بیشتر افتخار می کنید (در زمینه هوش مصنوعی)؟

زمانی که تخصص من در میان افراد در زمینه هوش مصنوعی طنین انداز می شود، بسیار افتخار می کنم، به ویژه نوشته هایم در مورد ملاحظات انتشار در چشم انداز پیچیده انتشار و باز بودن سیستم هوش مصنوعی. مشاهده مقاله من در مورد استقرار فنی چارچوب AI Release Gradient، بحث‌های فوری بین دانشمندان و استفاده از آن در گزارش‌های دولتی تأییدکننده است - و نشانه خوبی است که من در جهت درست کار می‌کنم! شخصاً، برخی از کارهایی که من بیشتر از همه با آن انگیزه دارم، روی همسویی ارزش فرهنگی است، که به اطمینان از اینکه سیستم‌ها برای فرهنگ‌هایی که در آن مستقر شده‌اند بهترین کارکرد را اختصاص داده است. با همکاری باورنکردنی و دوست عزیزم، کریستی دنیسون، کار بر روی فرآیندی برای تطبیق مدل‌های زبان با جامعه، یک پروژه کلی (و ساعت‌های رفع اشکال بسیاری) بود که امروزه کار ایمنی و همسویی را شکل داده است.

چگونه چالش‌های صنعت فناوری مردانه و در نتیجه صنعت هوش مصنوعی مردانه را پشت سر می‌گذارید؟

من افرادم را پیدا کرده‌ام و هنوز هم دارم پیدا می‌کنم - از کار با رهبری شرکتی باورنکردنی که عمیقاً به همان موضوعاتی که من در اولویت‌شان قرار می‌دهم اهمیت می‌دهند تا همکاران پژوهشی بزرگی که می‌توانم هر جلسه کاری را با یک جلسه مینی‌درمانی شروع کنم. گروه های وابسته در ایجاد جامعه و به اشتراک گذاری نکات بسیار مفید هستند. متقاطع بودن مهم است که در اینجا برجسته شود. جوامع مسلمان و محققین BIPOC من به طور مداوم الهام بخش هستند.

چه توصیه ای به زنانی که به دنبال ورود به حوزه هوش مصنوعی هستند می دهید؟

یک گروه پشتیبانی داشته باشید که موفقیت آن موفقیت شم است. از نظر جوانی، من معتقدم که این یک "دختر دختر" است. همان زنان و متحدانی که با آنها وارد این عرصه شدم، قرارهای قهوه مورد علاقه من و تماس های وحشت زده آخر شب قبل از ضرب الاجل هستند. یکی از بهترین توصیه‌های شغلی که خوانده‌ام از سوی آرویند نارایان در پلتفرمی که قبلاً به عنوان توییتر شناخته می‌شد، بود که «اصل لیام نیسون» را ایجاد کرد که از همه آنها باهوش‌تر نباشید، اما مجموعه‌ای از مهارت‌ها را داشته باشید.

برخی از مهم ترین مسائلی که هوش مصنوعی در حال تکامل با آن مواجه است چیست؟

مبرم ترین مسائل خود تکامل می یابند، پس پاسخ متا این است: هماهنگی بین المللی برای سیستم های ایمن تر برای همه مردم. افرادی که از سیستم‌ها استفاده می‌کنند و تحت تأثیر آن‌ها قرار می‌گیرند، حتی در همان کشور، ترجیحات و ایده‌های متفاوتی در مورد اینکه چه چیزی برای خودشان امن‌تر است، دارند. و مسائلی که پیش می‌آیند نه تنها به چگونگی تکامل هوش مصنوعی، بلکه به محیطی که در آن مستقر شده‌اند بستگی دارد. اولویت‌های ایمنی و تعاریف ما از قابلیت‌ها در منطقه متفاوت است، مانند تهدید حملات سایبری به زیرساخت‌های حیاتی در اقتصادهای دیجیتالی‌تر.

برخی از مسائلی که کاربران هوش مصنوعی باید از آن آگاه باشند چیست؟

راه‌حل‌های فنی به ندرت خطرات و آسیب‌ها را به‌طور کلی تحلیل می‌کنند. اگرچه اقداماتی وجود دارد که کاربران می‌توانند برای افزایش سواد هوش مصنوعی خود بردارند، سرمایه‌گذاری روی بسیاری از محافظ‌ها برای ریسک‌ها در حین تکامل، مهم است. به عنوان مثال، من در مورد تحقیقات بیشتر در مورد واترمارکینگ به عنوان یک ابزار فنی هیجان زده هستم، و همچنین به راهنمایی هماهنگ سیاست گذار در مورد توزیع محتوای تولید شده، به ویژه در پلتفرم های رسانه های اجتماعی نیاز داریم.

بهترین راه برای ساختن مسئولانه هوش مصنوعی چیست؟

با مردمی که تحت تأثیر قرار گرفته اند و دائماً روش های ما برای ارزیابی و اجرای تکنیک های ایمنی را دوباره ارزیابی می کنند. هم کاربردهای مفید و هم مضرات بالقوه به طور مداوم در حال تکامل هستند و نیاز به بازخورد تکراری دارند. ابزارهایی که از طریق آن ایمنی هوش مصنوعی را بهبود می‌بخشیم باید به‌طور جمعی به عنوان یک زمینه مورد تحلیل قرار گیرد. محبوب‌ترین ارزیابی‌ها برای مدل‌ها در سال 2024 بسیار قوی‌تر از ارزیابی‌هایی است که من در سال 2019 اجرا می‌کردم. امروز، من نسبت به ارزیابی‌های فنی بسیار خوش‌بین‌تر از تیم قرمز هستم. من ارزیابی های انسانی را بسیار مفید می دانم، اما با به دست آمدن شواهد بیشتر در مورد بار ذهنی و هزینه های متفاوت بازخورد انسانی، من به طور فزاینده ای نسبت به استانداردسازی ارزیابی ها خوش بین هستم.

چگونه سرمایه گذاران بهتر می توانند برای هوش مصنوعی مسئولانه فشار بیاورند؟

آنها در حال حاضر هستند! خوشحالم که بسیاری از سرمایه‌گذاران و شرکت‌های سرمایه‌گذاری خطرپذیر را می‌بینم که فعالانه در گفتگوهای ایمنی و سیاست‌گذاری، از جمله از طریق نامه‌های سرگشاده و شهادت‌های کنگره شرکت می‌کنند. من مشتاقم بیشتر از تخصص سرمایه گذاران در مورد آنچه باعث تحریک کسب و کارهای کوچک در سراسر بخش ها می شود، بشنوم، به خصوص که ما شاهد استفاده بیشتر از هوش مصنوعی در زمینه های خارج از صنایع اصلی فناوری هستیم.

خبرکاو