سایت خبرکاو

جستجوگر هوشمند اخبار و مطالب فناوری

OpenAI برای تشخیص محتواهای ساختگی، به تصاویر DALL-E 3 واترمارک اضافه می‌کند

شرکت OpenAI هوش مصنوعی DALL-E 3 را روزبه‌روز قدرتمندتر می‌کند. این شرکت قصد دارد با آپشن های مختلف، آینده محتواهای دیجیتال این سرویس را در مسیر شفافیت و اعتماد قرار دهد. یکی از این ویژگی‌ها، قراردادن واترمارک در تصاویر DALL-E 3 است. در دورانی که تمایز بین محتوای هوش مصنوعی و واقعی هر روز سخت‌تر می‌شود، این خصوصیت گامی مهم درجهت ایجاد این تمایز است. به‌گزارش «گیزموچاینا»، این ویژگی شامل جاسازی ...

شرکت OpenAI هوش مصنوعی DALL-E 3 را روزبه‌روز قدرتمندتر می‌کند. این شرکت قصد دارد با آپشن های مختلف، آینده محتواهای دیجیتال این سرویس را در مسیر شفافیت و اعتماد قرار دهد. یکی از این ویژگی‌ها، قراردادن واترمارک در تصاویر DALL-E 3 است. در دورانی که تمایز بین محتوای هوش مصنوعی و واقعی هر روز سخت‌تر می‌شود، این خصوصیت گامی مهم درجهت ایجاد این تمایز است.

به‌گزارش «گیزموچاینا»، این ویژگی شامل جاسازی واترمارک در عکس‌های تولیدشده توسط Dall-E 3 است. پیاده‌سازی این علامت‌ها برای این است که تشخیص منشأ تصاویر دیجیتال آسان‌تر شود؛ به‌طوری که کاربران بتوانند بفهمند که یک تصویر توسط انسان ساخته شده است یا هوش مصنوعی. این واترمارک به دو شکل بر روی تصویر قرار می‌گیرد: یک متادیتای غیرقابل رؤیت و یک نماد CR قابل رؤیت در بالای سمت چپ تصویر. این استراتژی توسط ائتلاف اصالت و اثبات محتوا (C2PA) حمایت می‌شود.

این ویژگی پیش‌تر برای ChatGPT منتشر شده و حالا به API هوش مصنوعی DALL-E 3 نسخه تحت وب رسیده است. همچنین احتمالاً به‌زودی در دسترس کاربران موبایل DALL-E 3 نیز قرار خواهد گرفت. البته با وجود ویژگی واترمارک، برخی کاربران نگران این موضوع‌اند که کیفیت تصاویر افت پیدا کند و زمان پردازش آن‌ها افزایش یابد. البته OpenAI قول داده که چنین اتفاقاتی رخ نخواهد داد.

DALL-E 3

ویژگی واترمارک هوش مصنوعی DALL-E 3 در راستای قوانین C2PA

احتمالاً پشت این اقدام OpenAI، ائتلاف C2PA قرار دارد. این ائتلاف از طریق نشان‌های اعتبار محتوا (Content Credentials)، اصالت محتواهای دیجیتال را ترویج می‌کند. این اقدام نه‌تنها شفافیت و اعتبار محتوا را بالا می‌برد، بلکه اکوسیستم محتوای دیجیتال مصنوعی و واقعی را از یکدیگر جدا می‌کند. پس قابلیت اعتماد کاربران به محتواهای آنلاین را افزایش می‌دهد.

البته چالش‌هایی هم وجود دارد؛ مانند اینکه از کدام متادیتا برای این کار استفاده شود یا اینکه شاید متادیتاها به‌صورت عمدی یا تصادفی توسط کاربران حذف شوند. این آسیب‌پذیری نشان می‌دهد که مبارزه مداوم با محتواهای دیجیتال جعلی، فرایند پیچیده‌ای دارد.

خبرکاو