پیش از آغاز نشست ایمنی هوش مصنوعی در سئول، کره جنوبی در اواخر این هفته، میزبان مشترک آن، بریتانیا، در حال گسترش تلاش های خود در این زمینه است. مؤسسه ایمنی هوش مصنوعی - یک نهاد بریتانیایی که در نوامبر 2023 با هدف بلندپروازانه ارزیابی و رسیدگی به خطرات در پلتفرم‌های هوش مصنوعی تأسیس شد - بيان کرد که مکان دومی را در سانفرانسیسکو افتتاح خواهد کرد.

ایده نزدیک‌تر شدن به آنچه در حال حاضر مرکز توسعه هوش مصنوعی است، با منطقه خلیج که محل سکونت OpenAI، Anthropic، Google و Meta است، در میان سایر موارد، فناوری پایه هوش مصنوعی را ایجاد می‌کند.

مدل‌های بنیادی بلوک‌های سازنده خدمات هوش مصنوعی و سایر برنامه‌های کاربردی هستند، و جالب است که اگر چه بریتانیا تفاهم‌نامه‌ای را با ایالات متحده امضا کرده است تا دو کشور در طرح‌های ایمنی هوش مصنوعی با هم همکاری کنند، بریتانیا همچنان در حال سرمایه‌گذاری برای ایجاد یک حضور مستقیم خود در ایالات متحده برای مقابله با این موضوع.

میشل دونلان، وزیر امور علم، نوآوری و فناوری بریتانیا در مصاحبه ای با TechCrunch گفت: «با حضور افراد در سانفرانسیسکو، این امر به آنها امکان دسترسی به مقر بسیاری از این شرکت های هوش مصنوعی را می دهد. تعدادی از آنها در اینجا در بریتانیا پایگاه دارند، اما ما فکر می کنیم که داشتن پایگاهی در آنجا نیز بسیار مفید خواهد بود، و به مجموعه ای از استعدادهای بیشتر دسترسی داشت و می توانست حتی بیشتر با هم همکاری کند و دست به دست هم بدهد. با ایالات متحده.»

بخشی از دلیل آن این است که، برای بریتانیا، نزدیک‌تر بودن به آن مرکز نه تنها برای درک آنچه در حال ساخت است مفید است، بلکه به این دلیل که به بریتانیا دید بیشتری را با این شرکت‌ها می‌دهد - مهم است، از آنجایی که هوش مصنوعی و فناوری به طور کلی توسط این شرکت‌ها دیده می‌شود. بریتانیا به عنوان یک فرصت بزرگ برای رشد اقتصادی و سرمایه گذاری.

و با توجه به آخرین درام در OpenAI در اطراف تیم Superalignment، به نظر می رسد که یک لحظه خاص برای حضور در آنجا است.

موسسه ایمنی هوش مصنوعی، که در نوامبر 2023 راه اندازی شد، در حال حاضر یک کار نسبتا متوسط ​​ است. این سازمان امروز فقط 32 نفر در آن کار می کنند، یک دیوید واقعی به جالوت فناوری هوش مصنوعی، وقتی میلیاردها دلار سرمایه گذاری را در نظر بگیرید که بر روی شرکت هایی که مدل های هوش مصنوعی می سازند، و پس انگیزه های اقتصادی خود را برای دستیابی به فناوری هایشان در نظر بگیرید. از در و به دست کاربران پولی.

یکی از برجسته‌ترین پیشرفت‌های مؤسسه ایمنی هوش مصنوعی انتشار اولین مجموعه ابزارهای Inspect در اوایل ماه جاری برای آزمایش ایمنی مدل‌های پایه هوش مصنوعی بود.

Donelan امروز از آن انتشار به عنوان تلاش "فاز اول" یاد کرد. نه تنها تا به امروز ثابت شده است که مدل‌های معیار چالش برانگیز است، بلکه در حال حاضر تعامل بسیار گزینه‌ای انتخابی و ناسازگار است. همانطور که یک منبع ارشد در یک تنظیم کننده بریتانیا اشاره کرد، شرکت ها هیچ تعهد قانونی برای تحلیل مدل های خود در این مرحله ندارند. و هر شرکتی مایل به تحلیل مدل های پیش از انتشار نیست. این می تواند به این معنی باشد که در مواردی که ممکن است خطر شناسایی شود، اسب ممکن است قبلاً پیچ شده باشد.

دونلان بيان کرد که موسسه ایمنی هوش مصنوعی همچنان در حال توسعه بهترین روش برای تعامل با شرکت های هوش مصنوعی برای ارزیابی آنها است. او گفت: «فرایند ارزیابی ما به خودی خود یک علم در حال ظهور است. " پس با هر ارزیابی، ما روند را توسعه خواهیم داد و آن را حتی بیشتر دقیق خواهیم کرد. "

دونلان بيان کرد که یکی از هدف‌ها در سئول ارائه Inspect به تنظیم‌کننده‌هایی است که در این اجلاس تشکیل می‌شوند تا آنها نیز آن را به تصویب برسانند.

اکنون ما یک سیستم ارزیابی داریم. فاز دوم همچنین باید در مورد ایمن سازی هوش مصنوعی در کل جامعه باشد.

در درازمدت، دونلان بر این باور است که بریتانیا قوانین بیشتری در زمینه هوش مصنوعی ایجاد خواهد کرد، اگرچه، با تکرار آنچه که نخست وزیر ریشی سوناک در مورد این موضوع گفته است، تا زمانی که دامنه خطرات هوش مصنوعی را بهتر درک نکند، در برابر این کار مقاومت خواهد کرد.

او با اشاره به اینکه گزارش اخیر ایمنی هوش مصنوعی بین‌المللی که توسط این موسسه منتشر شده است، در درجه اول بر تلاش برای به دست آوردن تصویری جامع از تحقیقات تا به امروز متمرکز شده است، گفت: «ما قبل از درک درست و کامل به قانون‌گذاری اعتقاد نداریم.» این که شکاف های بزرگی وجود ندارد و ما باید به تحقیقات بیشتر در سطح جهانی انگیزه و تشویق کنیم.

و همچنین قانون گذاری در بریتانیا حدود یک سال طول می کشد. و اگر به‌جای [سازماندهی] نشست ایمنی هوش مصنوعی [که در نوامبر سال گذشته برگزار شد] قانون‌گذاری را آغاز کرده بودیم، اکنون هم در حال قانون‌گذاری بودیم و در واقع چیزی برای نشان دادن آن نداشتیم.»

ایان هوگارت، رئیس موسسه، گفت: «از روز اول تأسیس مؤسسه، ما اهمیت اتخاذ یک رویکرد بین‌المللی برای ایمنی هوش مصنوعی، اشتراک‌گذاری تحقیقات، و همکاری مشترک با سایر کشورها برای آزمایش مدل‌ها و پیش‌بینی خطرات هوش مصنوعی مرزی را روشن کرده‌ایم.» موسسه ایمنی هوش مصنوعی "امروز یک لحظه مهم است که به ما امکان می دهد تا این دستور کار را بیشتر پیش ببریم، و ما مفتخریم که عملیات خود را در منطقه ای پر از استعدادهای فناوری گسترش می دهیم و به تخصص باورنکردنی که کارکنان ما در لندن از همان ابتدا به ارمغان آورده اند می افزاییم."

خبرکاو