دفعه بعد که از یک ابزار هوش مصنوعی استفاده می کنید، چیز جالبی وجود دارد که باید در نظر بگیرید. بیشتر افرادی که درگیر هوش مصنوعی هستند فکر می کنند که این می تواند به بشریت پایان دهد. این خبر بد است. خبر خوب این است که بسته به اینکه به چه کسی گوش می دهید، احتمال وقوع آن بسیار متفاوت است.
p(doom) "احتمال عذاب" یا شانس هایی است که هوش مصنوعی سیاره زمین را تصاحب می کند یا کاری برای نابودی ما انجام می دهد، مانند ایجاد یک سلاح بیولوژیکی یا شروع یک جنگ هسته ای. در شادترین نقطه مقیاس p(doom)، یان لکون، یکی از «سه پدرخوانده هوش مصنوعی» که در حال حاضر در متا کار می‌کند، این شانس را کمتر از 0.01 درصد می‌داند یا کمتر از یک سیارک که ما را از بین می‌برد.
متأسفانه، هیچ کس حتی نزدیک به این خوشبین نیست. جف هینتون، یکی از سه پدرخوانده دیگر هوش مصنوعی، او میگوید به احتمال 10 درصد هوش مصنوعی ما را در 20 سال آینده محو خواهد کرد و یوشوا بنجیو، سومین پدرخوانده هوش مصنوعی، این رقم را به 20 درصد افزایش می‌دهد.
99.999999% شانس
در بدبینانه ترین نقطه این مقیاس، رومن یامپولسکی، دانشمند ایمنی هوش مصنوعی و مدیر آزمایشگاه امنیت سایبری در دانشگاه لوئیزویل قرار دارد. او معتقد است که این اتفاق تقریباً تضمین شده است. او احتمال دارد که هوش مصنوعی بشریت را از بین ببرد 99.999999%.
ایلان ماسک، در یک سمینار "بحث بزرگ هوش مصنوعی" در نشست چهار روزه فراوانی در اوایل ماه جاری، گفت: "فکر می‌کنم احتمالی وجود دارد که به بشریت پایان دهد. احتمالاً با جف هینتون موافقم که حدود 10٪ یا 20 است. ٪ یا چیزی شبیه به آن، قبل از اضافه کردن، "من فکر می کنم که سناریوی مثبت احتمالی بیشتر از سناریوی منفی است. "
در پاسخ، یامپولسکی به Business Insider بيان کرد که فکر می‌کند ماسک در حدس خود «کمی بیش از حد محافظه‌کار» است و ما باید توسعه این فناوری را اکنون کنار بگذاریم، زیرا پس از پیشرفته‌تر شدن هوش مصنوعی، کنترل آن تقریبا غیرممکن خواهد بود.
یامپلوسکی گفت: «نمی‌دانم چرا فکر می‌کند به هر حال دنبال کردن این فناوری ایده خوبی است. "اگر او [ماسک] نگران است که رقبا در ابتدا به آنجا برسند، مهم نیست که ابرهوش کنترل نشده به همان اندازه بد است، مهم نیست که چه کسی آن را به وجود می آورد."
ماسک در اجلاس سران راه حلی برای جلوگیری از نابودی بشر توسط هوش مصنوعی داشت. ماسک گفت: آن را مجبور به دروغ گفتن نکنید، حتی اگر حقیقت ناخوشایند باشد. "این خیلی مهم است. هوش مصنوعی را دروغ نگویید."
اگر متعجب هستید که سایر محققان و پیش‌بینی‌کنندگان هوش مصنوعی در حال حاضر در مقیاس p(doom) کجا قرار دارند، می‌توانید فهرست را در اینجا تحلیل کنید.
ارسال نظر