یان لیک، محقق برجسته هوش مصنوعی که در اوایل این ماه قبل از انتقاد علنی از رویکرد این شرکت به ایمنی هوش مصنوعی از OpenAI استعفا داد، به رقیب OpenAI، Anthropic پیوست تا یک تیم جدید "super alignment" را رهبری کند.

لیک در پستی در X بيان کرد که تیم او در Anthropic بر جنبه‌های مختلف ایمنی و امنیت هوش مصنوعی، به‌ویژه «نظارت مقیاس‌پذیر»، «تعمیم ضعیف به قوی» و تحقیقات هم‌ترازی خودکار تمرکز خواهد کرد.

یک منبع آگاه به TechCrunch می گوید که Leike مستقیماً به جرد کاپلان، مدیر ارشد علمی Anthropic گزارش می دهد و محققان Anthropic که در حال حاضر روی نظارت مقیاس پذیر کار می کنند - تکنیک هایی برای کنترل رفتار هوش مصنوعی در مقیاس بزرگ به روش های قابل پیش بینی و مطلوب - به سمت گزارش حرکت می کنند. به Leike در حالی که تیم Leike می چرخد.

از بسیاری جهات، تیم Leike از نظر ماموریت شبیه به تیم Superalignment اخیرا منحل شده OpenAI است. تیم Superalignment که لیک رهبری آن را برعهده داشت، هدف بلندپروازانه حل چالش‌های فنی اصلی کنترل هوش مصنوعی فوق‌هوشمند در چهار سال آینده را داشت، اما اغلب خود را با رهبری OpenAI مواجه می‌ کرد.

Anthropic اغلب سعی کرده است خود را بیشتر از OpenAI بر ایمنی متمرکز کند.

مدیر عامل آنتروپیک، داریو آمودی، زمانی معاون تحقیقات OpenAI بود و بنابر گزارش ها پس از اختلاف نظر بر سر مسیر شرکت - یعنی تمرکز تجاری رو به رشد OpenAI، از OpenAI جدا شد. آمودی تعدادی از کارمندان سابق OpenAI را برای راه اندازی Anthropic با خود آورد، از جمله جک کلارک، رهبر سابق سیاست OpenAI.

خبرکاو