بر اساس گزارش آسوشیتدپرس، مهندسان نرم‌افزار، توسعه‌دهندگان و محققان دانشگاهی نگرانی‌های جدی در مورد رونویسی از Whisper OpenAI دارند.

در حالی که هیچ بحثی در مورد تمایل هوش مصنوعی مولد به توهم وجود ندارد - اساساً برای ساختن چیزها - کمی تعجب آور است که این یک مشکل در رونویسی است، جایی که انتظار دارید رونوشت از نزدیک صدای در حال رونویسی را دنبال کند.

در عوض، محققان به آسوشیتدپرس گفتند که Whisper همه چیز را از تفسیر نژادی گرفته تا درمان‌های پزشکی خیالی را در رونوشت‌ها معرفی کرده است. و این می تواند به ویژه فاجعه بار باشد زیرا Whisper در بیمارستان ها و سایر زمینه های پزشکی به کار گرفته می شود.

محققی از دانشگاه میشیگان که جلسات عمومی را مطالعه می کرد، در هشت مورد از هر 10 رونویسی صوتی، توهم یافت. یک مهندس یادگیری ماشین بیش از 100 ساعت رونویسی Whisper را مطالعه کرد و در بیش از نیمی از آنها توهم یافت. و یک توسعه دهنده گزارش داد که تقریباً در تمام 26000 رونویسی که با Whisper ایجاد کرد، توهم پیدا کرده است.

یکی از سخنگویان OpenAI بيان کرد که این شرکت "مستمر برای بهبود دقت مدل‌های ما، از جمله کاهش توهم‌ها" کار می‌کند و بيان کرد که سیاست‌های استفاده آن استفاده از Whisper را "در زمینه‌های خاص تصمیم‌گیری با ریسک بالا" ممنوع می‌کند.

آنها گفتند: "ما از محققان برای به اشتراک گذاشتن یافته های خود تشکر می کنیم."

خبرکاو