مدیر عامل آنتروپیک به فناوری 15000 کلمه ای کاملاً خوش بینانه به هوش مصنوعی می پردازد.
داریو آمودی، مدیر عامل آنتروپیک، از شما میخواهد که بدانید او یک "قطع کننده" هوش مصنوعی نیست.
حداقل، این چیزی است که من از «افت میکروفون» مقالهای 15000 کلمهای آمودی در اواخر جمعه در وبلاگش منتشر کردهام. (سعی کردم از چت ربات کلود آنتروپیک بپرسم که آیا موافق است یا خیر، اما افسوس که پست از حد مجاز طرح رایگان فراتر رفت.)
Amodei به طور کلی تصویری از دنیایی ترسیم میکند که در آن تمام خطرات هوش مصنوعی کاهش مییابد و این فناوری تا به حال رفاه، ارتقای اجتماعی و فراوانی را به ارمغان میآورد. او ادعا می کند که این برای به حداقل رساندن جنبه های منفی هوش مصنوعی نیست - در ابتدا، Amodei شرکت های هوش مصنوعی (بدون نام بردن) را هدف قرار می دهد که فروش بیش از حد و به طور کلی قابلیت های فناوری خود را تبلیغ می کنند. اما میتوان استدلال کرد - و این نویسنده هم چنین میکند - که این مقاله بیش از حد به سمت و سوی تکنو اتوپیانیستی گرایش دارد و ادعاهایی را مطرح میکند که توسط واقعیت پشتیبانی نمیشوند.
آمودی معتقد است که "هوش مصنوعی قدرتمند" به زودی در سال 2026 وارد می شود. (منظور او از هوش مصنوعی قدرتمند ، هوش مصنوعی است که در زمینه هایی مانند زیست شناسی و مهندسی "باهوش تر از یک برنده جایزه نوبل" است و می تواند کارهایی مانند اثبات قضایای حل نشده ریاضی و نوشتن را انجام دهد. آمودی او میگوید : این هوش مصنوعی میتواند هر نرمافزار یا سختافزار قابل تصور، از جمله ماشینآلات صنعتی را کنترل کند و اساساً اکثر کارهایی را که امروزه انسانها انجام میدهند، انجام میدهد – اما بهتر.
آمودی مینویسد: «[این هوش مصنوعی] میتواند در هر گونه اقدام، ارتباط یا عملیات از راه دور ... از جمله انجام اقدامات در اینترنت، گرفتن یا دادن مسیر به انسان، سفارش مواد، هدایت آزمایشها، تماشای ویدیو، ساخت فیلم و غیره شرکت کند». . "این تجسم فیزیکی (به غیر از زندگی بر روی صفحه نمایش کامپیوتر) ندارد، اما می تواند ابزارهای فیزیکی، ربات ها یا تجهیزات آزمایشگاهی موجود را از طریق کامپیوتر کنترل کند. در تئوری حتی میتواند رباتها یا تجهیزاتی را برای خود طراحی کند تا از آنها استفاده کند."
برای رسیدن به آن نقطه باید اتفاقات زیادی بیفتد.
حتی بهترین هوش مصنوعی امروزی نمی تواند به روشی که ما آن را می فهمیم «فکر کند». مدلها به اندازه الگوهای تکراری که در دادههای آموزشی خود مشاهده کردهاند، استدلال نمیکنند.
با فرض هدف استدلال آمودی مبنی بر اینکه صنعت هوش مصنوعی به زودی فکر انسانمانند را «حل» میکند، آیا روباتیک میتواند به هوش مصنوعی آینده اجازه انجام آزمایشهای آزمایشگاهی، ساخت ابزارهای خود و غیره را بدهد؟ شکنندگی رباتهای امروزی حاکی از آن است که یک شات طولانی است.
با این حال Amodei خوش بین است - بسیار خوش بین.
او معتقد است که هوش مصنوعی میتواند در 7 تا 12 سال آینده به درمان تقریباً همه بیماریهای عفونی، از بین بردن بیشتر سرطانها، درمان اختلالات ژنتیکی و توقف آلزایمر در مراحل اولیه کمک کند. در 5 تا 10 سال آینده، آمودی فکر میکند که شرایطی مانند PTSD، افسردگی، اسکیزوفرنی و اعتیاد با داروهای ساختگی هوش مصنوعی درمان میشوند یا از طریق غربالگری جنین از نظر ژنتیکی پیشگیری میشوند (یک نظر بحثبرانگیز) - و داروهای توسعهیافته توسط هوش مصنوعی نیز میشوند. وجود دارد که "عملکرد شناختی و حالت عاطفی" را تنظیم می کند تا "مغز ما را کمی بهتر رفتار کند و تجربه روز به روز رضایت بخش تری داشته باشد."
اگر این اتفاق بیفتد، آمودی انتظار دارد میانگین طول عمر انسان دو برابر شود و به 150 برسد.
او مینویسد: «پیشبینی اساسی من این است که زیستشناسی و پزشکی مبتنی بر هوش مصنوعی به ما این امکان را میدهد تا پیشرفتی را که زیستشناسان بشری طی 50 تا 100 سال آینده به دست میآوردند، به 5 تا 10 سال تبدیل کنیم.» من از این به عنوان «قرن 21 فشرده» یاد خواهم کرد: این ایده که پس از توسعه هوش مصنوعی قدرتمند، ما طی چند سال آینده تمام پیشرفتهایی را در زیستشناسی و پزشکی خواهیم داشت که در کل قرن بیست و یکم میتوانستیم داشته باشیم.»
از آنجایی که هوش مصنوعی هنوز پزشکی را به طور بنیادی تغییر نداده است - و ممکن است برای مدتی طولانی یا هرگز این کار را انجام ندهد. حتی اگر هوش مصنوعی کار و هزینهای را که برای وارد کردن دارو به آزمایشهای پیش بالینی انجام میشود کاهش دهد، ممکن است در مراحل بعدی شکست بخورد، درست مانند داروهای طراحیشده توسط انسان. در نظر بگیرید که نشان داده شده است که هوش مصنوعی که امروزه در مراقبتهای بهداشتی به کار میرود، از جهات مختلفی مغرضانه و خطرناک است، یا اجرای آن در محیطهای بالینی و آزمایشگاهی بسیار دشوار است. در یک کلام، پیشنهاد همه این مسائل و موارد دیگر تقریباً در یک دهه حل خواهد شد، خوب... آرزویی است .
اما آمودی به همین جا ختم نمی شود.
او ادعا می کند که هوش مصنوعی می تواند گرسنگی جهان را حل کند. این می تواند تغییر آب و هوا را تغییر دهد. و می تواند اقتصاد اکثر کشورهای در حال توسعه را متحول کند. آمودی معتقد است که هوش مصنوعی می تواند تولید ناخالص داخلی سرانه آفریقای جنوب صحرا (1701 دلار تا سال 2022) را به تولید ناخالص داخلی سرانه چین (12720 دلار در سال 2022) طی 5 تا 10 سال برساند.
به بیان ملایم، اینها جملات جسورانهای هستند – اگرچه احتمالاً برای هر کسی که به شاگردان جنبش «تکینگی» گوش داده است، که انتظار نتایج مشابهی را دارد، آشن است. به اعتبار آمودی، او اذعان میکند که آنها به «تلاش عظیمی در سلامت جهانی، بشردوستی، [و] حمایت سیاسی» نیاز دارند، که به نظر او به این دلیل که به نفع اقتصادی جهان است، رخ خواهد داد.
با این حال، به این نکته اشاره میکنم که از نظر تاریخی از یک جنبه مهم اینطور نبوده است. بسیاری از کارگرانی که مسئول برچسب گذاری مجموعه داده های مورد استفاده برای آموزش هوش مصنوعی هستند، حقوق بسیار کمتری از حداقل دستمزد دریافت می کنند در حالی که کارفرمایان آنها ده ها میلیون یا صدها میلیون سرمایه از نتایج بدست می آورند.
آمودی به طور خلاصه به خطرات هوش مصنوعی برای جامعه مدنی اشاره می کند و پیشنهاد می کند که ائتلافی از دموکراسی ها زنجیره تامین هوش مصنوعی را ایمن کنند و مخالفانی را که قصد استفاده از هوش مصنوعی را برای اهداف مضر از ابزارهای تولید قدرتمند هوش مصنوعی (نیمه هادی ها و غیره) دارند، مسدود کنند. در همین راستا، او پیشنهاد میکند که هوش مصنوعی – در دستان درست – میتواند برای «تضعیف دولتهای سرکوبگر» و حتی کاهش تعصب در سیستم قانونی مورد استفاده قرار گیرد. (هوش مصنوعی به طور تاریخی سوگیری ها را در سیستم حقوقی تشدید کرده است. )
Amodei می نویسد: «یک پیاده سازی واقعاً بالغ و موفق هوش مصنوعی این پتانسیل را دارد که تعصبات را کاهش دهد و برای همه منصفانه تر باشد.
پس ، اگر هوش مصنوعی هر شغل قابل تصوری را به عهده بگیرد و آن را بهتر و سریعتر انجام دهد، آیا این امر انسانها را از نظر اقتصادی دچار مشکل نمیکند؟ آمودی اعتراف می کند که، بله، چنین خواهد شد – و در آن نقطه، جامعه باید در مورد «چگونگی سازماندهی اقتصاد» گفتگو کند.
اما او هیچ راه حلی ارائه نمی دهد.
«مردم خواهان احساس موفقیت هستند، حتی احساس رقابت، و در دنیای پس از هوش مصنوعی، کاملاً ممکن است که سالها برای انجام یک کار بسیار دشوار با یک استراتژی پیچیده، مشابه آنچه که مردم امروز انجام میدهند، بگذرانند. پروژه های تحقیقاتی، سعی کنید به بازیگران هالیوود تبدیل شوید یا شرکت هایی را پیدا کنید. این واقعیت که (الف) یک هوش مصنوعی در جایی اصولاً میتواند این وظیفه را بهتر انجام دهد، و (ب) این وظیفه دیگر یک عنصر اقتصادی برای اقتصاد جهانی نیست، به نظر من خیلی مهم نیست.
آمودی در جمع بندی این مفهوم را پیش می برد که هوش مصنوعی صرفاً یک شتاب دهنده فناوری است – که انسان ها به طور طبیعی به سمت «حاکمیت قانون، دموکراسی و ارزش های روشنگری» گرایش دارند. اما با این کار، هزینه های فراوان هوش مصنوعی را نادیده می گیرد. پیشبینی میشود که هوش مصنوعی تأثیرات زیستمحیطی عظیمی داشته باشد - و قبلا هم داشته است. و باعث ایجاد نابرابری می شود. جوزف استیگلیتز، اقتصاددان برنده جایزه نوبل و دیگران بيان کرد ه اند که اختلالات کاری ناشی از هوش مصنوعی می تواند ثروت را بیشتر در دستان شرکت ها متمرکز کند و کارگران را بیش از هر زمان دیگری ناتوان کند.
این شرکت ها عبارتند از Anthropic، همانقدر که آمودی اعتراف به آن نفرت دارد. (او تنها شش بار در تمام مقاله از آنتروپیک نام می برد.) به هر حال آنتروپیک یک تجارت است - بنا بر گزارش ها، ارزشی نزدیک به 40 میلیارد دلار دارد. و کسانی که از فناوری هوش مصنوعی آن سود می برند، به طور کلی، شرکت هایی هستند که تنها مسئولیت آنها افزایش سود سهامداران است - نه انسانیت بهتر.
از آنجایی که گفته میشود آنتروپیک در حال جمعآوری میلیاردها دلار از صندوقهای مخاطرهآمیز است، این مقاله بدبینانه به نظر میرسد. سام آلتمن، مدیر عامل OpenAI، یک مانیفست فنآورانه مشابه را کمی قبل از بسته شدن دور سرمایهگذاری 6.5 میلیارد دلاری OpenAI منتشر کرد. شاید یک تصادف باشد!
پس دوباره، آمودی یک انسان دوست نیست. او، مانند هر مدیر عاملی، محصولی برای عرضه دارد. اتفاقاً محصول او قرار است «جهان را نجات دهد» - و کسانی که فکر میکنند در غیر این صورت در خطر رها شدن هستند (یا او میخواهد شما باور کنید).
ارسال نظر