میرا موراتی، مدیر ارشد فناوری OpenAI ، اخیراً با وال استریت ژورنال به گفتگو نشسته است تا جزئیات جالبی را در مورد تولیدکننده متن به ویدیو آینده خود یعنی Sora فاش کند.

این مصاحبه طیف گسترده ای از موضوعات را از نوع محتوایی که موتور هوش مصنوعی تولید می کند تا اقدامات امنیتی در حال اجرا را پوشش می دهد. مبارزه با اطلاعات نادرست برای شرکت یک مشکل است. موراتی بیان می‌کند که سورا برای اطمینان از عدم استفاده نادرست از فناوری، چندین نرده محافظ خواهد داشت. او می گوید که تیم از انتشار چیزی که "ممکن است بر انتخابات جهانی تاثیر بگذارد" احساس راحتی نمی کند. بر اساس این مقاله ، Sora از همان سیاست های سریع Dall-E پیروی می کند، به این معنی که از ایجاد «تصاویر از شخصیت های عمومی» مانند رئیس جمهور ایالات متحده خودداری می کند.

واترمارک نیز قرار است اضافه شود. یک لوگوی شفاف OpenAI در گوشه پایین سمت راست دیده می‌شود که نشان می‌دهد فیلم‌های هوش مصنوعی است. موراتی اضافه می کند که آنها همچنین ممکن است منشأ محتوا را به عنوان شاخص دیگری انتخاب کنند. این از فراداده برای ارائه اطلاعات در مورد منشأ رسانه های دیجیتال استفاده می کند. این همه خوب و خوب است، اما ممکن است کافی نباشد. سال گذشته، گروهی از محققان موفق به شکستن "حفاظت های واترمارک تصویر فعلی" از جمله موارد متعلق به OpenAI شدند. انشالله که چیز سخت تری به ذهنشان برسد.

ویژگی های تولیدی

وقتی آنها شروع به صحبت در مورد آینده سورا می کنند، همه چیز جالب می شود. اول از همه، توسعه‌دهندگان برنامه‌هایی دارند تا «در نهایت» صدا را به ویدیوها اضافه کنند تا آنها را واقعی‌تر کنند. ابزارهای ویرایش نیز در برنامه سفر قرار دارند و به سازندگان آنلاین راهی برای رفع بسیاری از اشتباهات هوش مصنوعی می دهند.

به همان اندازه که سورا پیشرفته است، خطاهای زیادی دارد. یکی از نمونه‌های برجسته در این قطعه حول یک درخواست ویدیویی می‌چرخد که از موتور می‌خواهد ویدیویی تولید کند که در آن یک ربات دوربین یک زن را می‌دزدد. در عوض، این کلیپ نشان می دهد که زن تا حدی تبدیل به یک ربات می شود. موراتی اذعان می‌کند که فضایی برای بهبود وجود دارد و بیان می‌کند که هوش مصنوعی «در تداوم بسیار خوب است، [اما] بی‌نقص نیست».

برهنگی روی میز نیست. موراتی او میگوید OpenAI با «هنرمندان…» کار می‌کند تا بفهمد چه نوع محتوای برهنه‌ای مجاز خواهد بود. به نظر می‌رسد که تیم با اجازه دادن برهنگی «هنری» در حالی که چیزهایی مانند جعلی‌های عمیق غیر توافقی را ممنوع می‌کند، مشکلی ندارد. به طور طبیعی، OpenAI مایل است از قرار گرفتن در مرکز یک بحث احتمالی اجتناب کند، اگرچه می‌خواهد محصولشان به عنوان یک پلتفرم پرورش خلاقیت دیده شود.

آزمایشات در حال انجام

وقتی از موراتی در مورد داده های مورد استفاده برای آموزش سورا پرسیده شد، کمی طفره رفت.

او با این ادعا شروع کرد که نمی‌دانست از چه چیزی برای آموزش هوش مصنوعی استفاده می‌شود، جز اینکه «اطلاعات در دسترس عموم یا مجوزها» است. علاوه بر این، موراتی مطمئن نبود که آیا ویدیوهای یوتیوب ، فیس بوک یا اینستاگرام بخشی از آموزش هستند یا خیر. با این حال او بعداً اعتراف کرد که واقعاً از رسانه های شاتر استاک استفاده شده است. این دو شرکت، اگر اطلاع ندارید، شراکتی دارند که می تواند توضیح دهد که چرا موراتی مایل بود آن را به عنوان منبع تأیید کند.

موراتی بیان می کند که سورا "قطعا" تا پایان سال راه اندازی خواهد شد. او تاریخ دقیقی را اعلام نکرد، اگرچه ممکن است در ماه‌های آینده این اتفاق بیفتد. در حال حاضر، توسعه دهندگان در حال تست ایمنی موتور هستند و به دنبال هرگونه آسیب پذیری، سوگیری و سایر نتایج مضر هستند.

اگر به این فکر می کنید که روزی سورا را امتحان کنید، پیشنهاد می کنیم نحوه استفاده از نرم افزارهای ویرایش را یاد بگیرید. به یاد داشته باشید، خطاهای زیادی ایجاد می کند و ممکن است در هنگام راه اندازی به انجام آن ادامه دهد. برای توصیه‌ها، بهترین نرم‌افزار ویرایش ویدیو TechRadar برای سال 2024 را تحلیل کنید.

شما هم ممکن است دوست داشته باشید