سایت خبرکاو

جستجوگر هوشمند اخبار و مطالب فناوری

یک هیروشیمای دیگر در راه است؟/ تهدید بزرگ هوش فرا انسانی در جهان!

به گزارش اقتصادنیوز ،هیچ‌یک از جنبه‌های هوش مصنوعی بیش از AGI یا هوش مصنوعی عمومی اجلاس داووس 2024 را تحت تاثیر خود قرار نداد. این جنبه از هوش مصنوعی و پیشرفت‌هایی که در آینده خواهد داشت، موضوعی است که بسیاری از کارشناسان را کنجکاو و البته متحیر کرده است. لیلا ابراهیم، ...

به گزارش اقتصادنیوز ،هیچ‌یک از جنبه‌های هوش مصنوعی بیش از AGI یا هوش مصنوعی عمومی اجلاس داووس 2024 را تحت تاثیر خود قرار نداد. این جنبه از هوش مصنوعی و پیشرفت‌هایی که در آینده خواهد داشت، موضوعی است که بسیاری از کارشناسان را کنجکاو و البته متحیر کرده است. لیلا ابراهیم، مدیرعامل آزمایشگاه هوش مصنوعی DeepMind گوگل در یکی از پنل‌های مجمع جهانی اقتصاد تاکید کرد که «هیچ‌کس به صورت واقعی نمی‌داند چه نوع هوش مصنوعی واجد برخورداری از شرایط هوش عمومی است. »

34

او در عین با اینکه بر توسعه ایمن این فناوری تاکید کرد، به این نکته هم اشاره کرد که «هیچ‌کس نمی‌داند AGI چه زمانی به مرحله اجرایی می‌رسد؛ اما به نظر می‌رسد که کارشناسان هوش مصنوعی توانسته‌اند این جنبه از فناوری را در صنایع مختلف و همچنین سازمان‌های با ماهیت‌های متفاوت مورد آزمایش قرار دهند و از آن نتایج قابل تاملی به دست آورند». به گفته لیلا ابراهیم، «هوش مصنوعی می‌تواند درک انسان‌ها را گسترش دهد؛ انسان‌ها هیچ‌گاه نمی‌توانسته‌اند به تنهایی به چنین سطحی از درک دست یابند، اما با کمک هوش مصنوعی توانسته‌اند موضوعاتی را درک کنند که تا پیش از این امکان‌پذیر نبوده است؛ پس ، هوش مصنوعی عمومی در مشارکت با انسان، به یک ابزار تبدیل می‌شود و می‌تواند مشکلات بزرگ را از سر راه انسان‌ها بردارد».

مارک بنیوف، مدیرعامل شرکت نرم‌افزار سازمانی Salesforce هم در پنلی که با همراهی سم آلتمن، مدیرعامل اوپن ای‌آی برگزار شد، با اطمینان اعلام کرد که دنیای فناوری در حال تحلیل راهکارهایی است که سبب می‌شود توسعه هوش مصنوعی هیچ‌گاه به «لحظه هیروشیما» منتهی نشود. لحظه هیروشیما کنایه از انفجار بزرگ و غیرقابل اجتنابی است که سبب می‌شود بخش زیادی از مردم و زیرساخت‌های شهری با آسیب روبه‌رو شوند و بازسازی آنها زمان زیادی را به خود اختصاص دهد.

این صحبت بنیوف در حالی مطرح شد که بسیاری از رهبران حوزه فناوری هشدار داده‌اند هوش مصنوعی می‌تواند به یک رویداد «منقرض‌کننده» منجر شود که در آن ماشین‌ها به اندازه‌ای قدرتمند می‌شوند که از کنترل خارج خواهند شد و بشریت را از بین خواهند برد.

بر اساس همین هشدار، رهبران کسب‌وکارهای مختلف جهان مانند ایلان ماسک، استیو وزنیاک و اندرو یانگ که در حوزه هوش مصنوعی و فناوری فعالیت می‌کنند، خواستار توقف پیشرفت هوش مصنوعی شده‌اند و گفته‌اند، توقفی شش‌ماهه در روندهای توسعه هوش مصنوعی می‌تواند همگان را به این نتیجه برساند که آیا لازم است از هوش مصنوعی در سطح پیشرفته استفاده شود یا خیر؟

به گزارش تجارت فردا،جفری هینتون، یکی از پیشگامان هوش مصنوعی که «پدرخوانده هوش مصنوعی» نیز نامیده می‌شود، پیش از این هشدار داده بود که برنامه‌های پیشرفته «ممکن است با نوشتن کد رایانه‌ای خوداصلاح‌شونده، از کنترل خارج شوند و رخدادهای تلخی را رقم بزنند».

ادغام بلاک‌چین و هوش مصنوعی/ کشفی مهم‌تر <a href= از آتش؟" width="400" height="400">
ادغام بلاک‌چین و هوش مصنوعی/ کشفی مهم‌تر از آتش؟

اقتصادنیوز: تابه‌حال فناوری‌های مختلف بسیاری با یکدیگر ترکیب شده‌اند و یا زمینهٔ رشد هم را فراهم کرده‌اند؛ اما ترکیبی که بتواند زندگی انسان را آن‌چنان دچار تغییر کند که آتش با انسان نخستین کرد، در موارد کمتری به چشم می‌خورد. این یادداشت به تحلیل محصولات و راه‌حل‌های بالقوه‌ای از که ترکیب بلاک‌چین و هوش مصنوعی به وجود می‌آید می‌پردازد.

مارک بنیوف، مدیرعامل شرکت نرم‌افزار سازمانی Salesforce در پاسخ به همه این موارد تاکید کرد که «رهبران و کارشناسان صنعت فناوری باید اطمینان یابند هوش مصنوعی از برخی مشکلاتی که در یک دهه گذشته حوزه وب را زیر فشار قرار داده است، جلوگیری می‌کند؛ و این موضوع، موارد مهمی مانند تاثیرگذاری بر باورها و رفتارها از طریق الگوریتم‌های توصیه‌ای در طول دوره‌های مختلف و همچنین نقض حریم خصوصی را شامل می‌شود». جک هیداری مدیرعامل SandboxAQ نیز از جمله افرادی است که اعتقاد دارد هوش عمومی مصنوعی هنوز راه زیادی در پیش دارد و باید به آزمون و خطاهای بسیاری بپردازد تا به مرحله خطر برای بشریت برسد.

او این نظر خود را در داووس 2024 مطرح کرد و بيان کرد «سیستم‌های مبتنی بر هوش مصنوعی هنوز مشکلات زیادی دارند که باید از میان برداشته شوند؛ پس هنوز زود است که درباره آسیب‌پذیری انسان‌ها از هوش مصنوعی عمومی سخن بگوییم». او گفت: «روبات‌های چت مبتنی بر هوش مصنوعی مانند چت جی‌پی‌تی آزمون تورینگ را گذرانده‌اند.»

آزمون تورینگ روشی برای سنجش میزان هوشمندی ماشین است و به این صورت انجام می‌گیرد که یک شخص به عنوان آزمایشگر، با یک ماشین و یک انسان به صحبت می‌نشیند، و سعی در تشخیص ماشین از انسان دارد. جک هیداری با استناد به این آزمون تاکید کرد که هنوز «عقل سلیم» در هوش مصنوعی کارایی خود را پیدا نکرده، پس نباید نگران این بود که هوش مصنوعی، زندگی انسان‌ها را با خطر روبه‌رو کند: «هوش مصنوعی به اندازه‌ای قدرتمند شده که می‌تواند برای دانشجویان دانشگاه‌ها، مقاله‌های علمی بنویسد و یک موضوع را به خوبی اثبات کند؛ اما همان هوش مصنوعی نمی‌تواند تشخیص دهد که چگونه مانند یک انسان از خیابان عبور کند؛ یا حتی گاهی نمی‌تواند تشخیص دهد که خط عابر پیاده چیست؟ این موضوع مشخص می‌کند هوش مصنوعی هنوز با مشکلاتی روبه‌رو است که با استفاده از فرآیندهای عقل سلیم قابل رهگیری و اثبات است و الگوریتم‌ها برای آن جواب نمی‌دهند.»

وضعیت عجیب مردم آینده زمین <a href= از دید هوش مصنوعی+عکس" width="400" height="400">

هیداری البته یک پیش‌بینی بزرگ نیز برای چگونگی تکامل فناوری هوش مصنوعی در سال 2024 داشت که شرکت‌کنندگان در داووس را به وجد آورد: «امسال، برای نخستین‌بار نرم‌افزار ارتباطی پیشرفته هوش مصنوعی در یک روبات انسان‌نما بارگذاری می‌شود؛ در این اقدام، از چت جی‌پی‌تی برای کنش و واکنش‌های کلامی میان روبات و جهان پیرامونش استفاده خواهیم کرد و در سال 2025 نیز آن را توسعه خواهیم داد.» به گفته هیداری در حال حاضر علاوه بر شرکت‌های مطرحی مانند تسلا، 20 شرکت دیگر برای ساخت روبات‌های انسان‌نما سرمایه‌گذاری کرده‌اند و بر همین اساس به نظر می‌رسد سال 2024 سال تحول در تولید روبات‌های انسان‌نما با تمرکز بر عملکرد مبتنی بر هوش مصنوعی باشد.

 

خبرکاو