Ilya Sutskever، یکی از بنیانگذاران OpenAI، تنها یک ماه پس از ترک رسمی OpenAI، یک شرکت جدید به نام Safe Superintelligence Inc. (SSI) راه اندازی کرده است.

Sutskever که دانشمند ارشد قدیمی OpenAI بود، SSI را با شریک سابق Y Combinator دانیل گراس و مهندس سابق OpenAI دانیل لوی تأسیس کرد.

در OpenAI، Sutskever در تلاش‌های شرکت برای بهبود ایمنی هوش مصنوعی با ظهور سیستم‌های هوش مصنوعی «فوق‌هوشمند» یکپارچه بود، حوزه‌ای که او در کنار Jan Leike، که سرپرست تیم Superalignment OpenAI بود، کار کرد. با این حال، هم Sutskever و هم Leike در ماه مه پس از درگیری شدید با رهبری OpenAI در مورد نحوه نزدیک شدن به ایمنی هوش مصنوعی، شرکت را ترک کردند. لیک اکنون سرپرست تیمی در فروشگاه رقیب هوش مصنوعی Anthropic است.

Sutskever مدت‌هاست که به جنبه‌های حساس‌تر ایمنی هوش مصنوعی توجه کرده است. در یک پست وبلاگی که در سال 2023 منتشر شد، Sutskever که با Leike می نویسد، پیش بینی کرد که هوش مصنوعی با هوش برتر از انسان می تواند در طی یک دهه به دست بیاید – و زمانی که چنین شد، لزوما خیرخواهانه نخواهد بود، و نیاز به تحقیق در مورد روش هایی برای کنترل و محدود کردن است. آی تی.

او به وضوح مثل همیشه به هدف امروز متعهد است. بعد از ظهر چهارشنبه، توییتی که تشکیل شرکت جدید Sutskever را اعلام می‌کند، بیان می‌کند: «SSI مأموریت، نام ما و کل نقشه راه محصول ما است، زیرا تنها تمرکز ما بر آن است. تیم، سرمایه‌گذاران و مدل کسب‌وکار ما همگی برای دستیابی به SSI هماهنگ هستند. ما به ایمنی و قابلیت‌ها به عنوان مشکلات فنی که باید از طریق مهندسی انقلابی و پیشرفت‌های علمی حل شوند، در کنار هم نگاه می‌کنیم.»

ما قصد داریم قابلیت‌ها را در سریع‌ترین زمان ممکن پیش ببریم و در عین حال مطمئن شویم که ایمنی ما همیشه در پیش است. به این ترتیب، ما می توانیم در آرامش مقیاس کنیم. تمرکز منحصر به فرد ما به معنای عدم حواس پرتی توسط سربار مدیریت یا چرخه محصول است، و مدل کسب و کار ما به این معنی است که ایمنی، امنیت و پیشرفت همگی از فشارهای تجاری کوتاه مدت مصون هستند.

Sutskever با بلومبرگ در مورد شرکت جدید با جزئیات بیشتر صحبت کرد، اگرچه او از بحث در مورد وضعیت بودجه یا ارزیابی آن خودداری کرد.

واضح تر این است که برخلاف OpenAI - که در ابتدا به عنوان یک سازمان غیرانتفاعی در سال 2015 راه اندازی شد، سپس زمانی که مبالغ هنگفت پول مورد نیاز برای قدرت محاسباتی آن آشکارتر شد، خود را بازسازی کرد - SSI از ابتدا به عنوان یک سازمان انتفاعی طراحی شده است. وجود، موجودیت. با توجه به علاقه به هوش مصنوعی و به طور خاص اعتبار تیم، ممکن است خیلی زود در سرمایه غرق شود. گراس به بلومبرگ او میگوید : «از بین همه مشکلاتی که با آن مواجه هستیم، افزایش سرمایه یکی از آنها نخواهد بود.»

SSI دفاتری در پالو آلتو و تل آویو دارد که در حال حاضر در حال جذب استعدادهای فنی است.

خبرکاو