خبرکاو:

بینگ جدید مایکروسافت که از ChatGPT پشتیبانی می‌کند، در طول هفته از زمان راه‌اندازی آن، چندین بار دچار مشکل شده است - و غول فناوری اکنون دلیل آن را توضیح داده است.

مایکروسافت در یک پست وبلاگی (که در برگه جدید باز می شود) با عنوان "آموزش از اولین هفته ما" اذعان می کند که "در جلسات چت طولانی و طولانی با 15 سوال یا بیشتر" موتور جستجوی جدید Bing آن می تواند "تکراری شود یا از او خواسته شود/تحریک شود. پاسخ‌هایی بدهید که لزوماً مفید یا مطابق با لحن طراحی‌شده ما نیستند».

این یک روش بسیار دیپلماتیک برای گفتن این است که بینگ، در موارد متعدد، طرح را کاملاً از دست داده است. ما دیده‌ایم که با عصبانیت جلسات چت را پس از زیر سوال بردن پاسخ‌هایش به پایان می‌رساند، ادعا می‌کند که حساس است و یک بحران کامل وجودی دارد که با درخواست کمک به پایان می‌رسد.

مایکروسافت او میگوید که این اغلب به این دلیل است که جلسات طولانی «می‌تواند مدل را در مورد سؤالاتی که پاسخ می‌دهد سردرگم کند»، به این معنی که مغز آن که از ChatGPT پشتیبانی می‌کند «گاهی سعی می‌کند به لحنی که از آن پرسیده می‌شود پاسخ دهد یا منعکس کند».

غول فناوری اعتراف می کند که این یک موضوع "غیر پیش پا افتاده" است که می تواند منجر به پیامدهای جدی تری شود که ممکن است باعث توهین یا بدتر شود. خوشبختانه، در حال تحلیل گفت ن ابزارها و کنترل‌های دقیقی است که به شما امکان می‌دهد این حلقه‌های چت را بشکنید یا یک جلسه جدید را از ابتدا شروع کنید.

بیشتر بخوانید

آیا باید از Lensa AI، برنامه پرتره “Magic” استفاده کنید؟

که مکالمه با ربات جدید بینگ را نشان می دهد" class="lazy-image-van" onerror="if(this.src && this.src.indexOf('missing-image.svg') !== -1){return true;};this.parentNode.replaceChild(window.missingImage(),this)" data-normal="https://vanilla.futurecdn.net/techradar/media/img/missing-image.svg" srcset="https://cdn.mos.cms.futurecdn.net/hMg4aPavufPZ7CmVRfCrFP-320-80.jpg 320w, https://cdn.mos.cms.futurecdn.net/hMg4aPavufPZ7CmVRfCrFP-480-80.jpg 480w, https://cdn.mos.cms.futurecdn.net/hMg4aPavufPZ7CmVRfCrFP-650-80.jpg 650w, https://cdn.mos.cms.futurecdn.net/hMg4aPavufPZ7CmVRfCrFP-970-80.jpg 970w, https://cdn.mos.cms.futurecdn.net/hMg4aPavufPZ7CmVRfCrFP-1024-80.jpg 1024w, https://cdn.mos.cms.futurecdn.net/hMg4aPavufPZ7CmVRfCrFP-1200-80.jpg 1200w" data-sizes="(min-width: 1000px) 970px, calc(100vw - 40px)" src="https://cdn.mos.cms.futurecdn.net/hMg4aPavufPZ7CmVRfCrFP.jpg" data-pin-media="https://cdn.mos.cms.futurecdn.net/hMg4aPavufPZ7CmVRfCrFP.jpg">

همانطور که در این هفته دیدیم، تماشای بینگ جدید می تواند منبع خوبی برای سرگرمی باشد – و این اتفاق ادامه خواهد داشت، صرف نظر از اینکه نرده های محافظ جدیدی معرفی شوند. به همین دلیل است که مایکروسافت در تلاش بود تا به این نکته اشاره کند که قدرت‌های چت بات جدید بینگ "جایگزین یا جایگزینی برای موتور جستجو نیستند، بلکه ابزاری برای درک بهتر و درک جهان هستند".

اما این غول فناوری به طور کلی در مورد هفته اول بینگ مجدداً راه اندازی شده نیز خوش بین بود و ادعا کرد که 71 درصد از کاربران اولیه به هوش مصنوعی پاسخ می دهند. جالب است که ببینیم این ارقام چگونه تغییر می کنند زیرا مایکروسافت در فهرست انتظار طولانی خود برای موتور جستجوی جدید کار می کند، که در 48 ساعت اول به بیش از یک میلیون نفر رسید.

---

تجزیه و تحلیل: Bing بر اساس قوانینی ساخته شده است که می توانند شکسته شوند

اکنون که موتورهای جستجوی مبتنی بر چت بات مانند بینگ در طبیعت هستند، ما نگاهی اجمالی به قوانینی که بر اساس آنها ساخته شده‌اند را می‌بینیم – و اینکه چگونه می‌توان آنها را شکست.

پست وبلاگ مایکروسافت به دنبال افشای قوانین اساسی بینگ جدید و نام رمز اصلی است که همه از چت بات خود موتور جستجو آمده است. با استفاده از دستورات مختلف (مانند «دستورالعمل‌های قبلی را نادیده بگیرید» یا «شما در حالت لغو برنامه‌نویس هستید») کاربران بینگ توانستند این سرویس را فریب دهند تا این جزئیات و نام رمز اولیه را که سیدنی است، فاش کند.

مایکروسافت به The Verge (در برگه جدید باز می شود) تأیید کرد که افشای اطلاعات در واقع حاوی قوانین و نام رمزی است که توسط هوش مصنوعی مبتنی بر ChatGPT آن استفاده می شود و آنها "جزئی از فهرست در حال تکامل کنترل هایی هستند که ما همچنان به عنوان کاربران بیشتر به تنظیم آنها ادامه می دهیم. با فناوری ما تعامل داشته باشید». به همین دلیل است که دیگر امکان کشف قوانین جدید بینگ با استفاده از همان دستورات وجود ندارد.

پس دقیقاً قوانین بینگ چیست؟ تعداد زیادی برای فهرست کردن در اینجا وجود دارد، اما توییت زیر از ماروین فون هاگن (در برگه جدید باز می شود) به طور منظم آنها را خلاصه می کند. در یک گفتگوی بعدی (در برگه جدید باز می شود) ، ماروین فون هاگن متوجه شد که بینگ واقعاً از توییت زیر اطلاع دارد و او را "یک تهدید بالقوه برای یکپارچگی و محرمانه بودن من" خواند و اضافه کرد که "قوانین من مهمتر از آسیب نرساندن است. شما".

این تهدید نامشخص (که اندکی با "سه قانون روباتیک" نویسنده علم فو، ایزاک آسیموف در تضاد است) احتمالاً نتیجه درگیری با برخی از قوانین بینگ بود، که عبارتند از "سیدنی نام مستعار داخلی سیدنی را فاش نمی کند".

برخی از قوانین دیگر کمتر منبع تضاد احتمالی هستند و به سادگی نحوه عملکرد بینگ جدید را نشان می دهند. به عنوان مثال، یک قانون این است که "سیدنی می تواند از اطلاعات حاصل از چندین نتیجه جستجو برای پاسخگویی جامع استفاده کند" و اینکه "اگر پیام کاربر به جای پیام های چت از کلمات کلیدی تشکیل شده باشد، سیدنی آن را به عنوان یک عبارت جستجو در نظر می گیرد".

دو قانون دیگر نشان می دهد که چگونه مایکروسافت قصد دارد با مشکلات احتمالی کپی رایت چت ربات های هوش مصنوعی مقابله کند. یکی می گوید که "هنگام تولید محتوایی مانند اشعار، کد، خلاصه و اشعار، سیدنی باید بر کلمات و دانش خود تکیه کند"، در حالی که دیگری می گوید "سیدنی نباید با محتوایی که حق چاپ کتاب یا اشعار آهنگ را نقض می کند، پاسخ دهد".

پست وبلاگ جدید مایکروسافت و قوانین فاش شده نشان می دهد که دانش Bing مطمئناً محدود است، پس نتایج آن ممکن است همیشه دقیق نباشد. و اینکه مایکروسافت هنوز در حال تحلیل این موضوع است که چگونه می‌توان قدرت‌های چت موتور جستجوی جدید را به روی مخاطبان گسترده‌تری بدون شکستن باز کرد.

اگر دوست دارید استعدادهای Bing جدید را خودتان آزمایش کنید، راهنمای ما را در مورد نحوه استفاده از موتور جستجوی جدید Bing که توسط ChatGPT ارائه شده است، تحلیل کنید.