گوگل اعلام کرده است که شروع به ارائه یک ویژگی جدید خواهد کرد تا به کاربران کمک کند "بهتر درک کنند که چگونه یک محتوای خاص ایجاد و اصلاح شده است".
این امر پس از پیوستن این شرکت به ائتلاف برای منشأ و اعتبار محتوا (C2PA) - گروهی از برندهای بزرگ که در تلاش برای مبارزه با انتشار اطلاعات گمراه‌کننده آنلاین هستند - و به توسعه آخرین استاندارد اعتبار محتوا کمک کرد. آمازون ، ادوبی و مایکروسافت نیز اعضای کمیته هستند.
گوگل که قرار است در ماه‌های آینده منتشر شود، او میگوید از دستورالعمل‌های اعتبارنامه محتوای فعلی - با نام فراداده تصویر - در پارامترهای جستجوی خود برای اضافه کردن برچسب به تصاویری که توسط هوش مصنوعی تولید یا ویرایش شده‌اند استفاده می‌کند و شفافیت بیشتری را برای کاربران فراهم می‌کند. این ابرداده شامل اطلاعاتی مانند منشاء تصویر و همچنین زمان، مکان و نحوه ایجاد آن است.
با این حال، استاندارد C2PA، که به کاربران امکان ردیابی منشاء انواع رسانه‌های مختلف را می‌دهد، توسط بسیاری از توسعه‌دهندگان هوش مصنوعی مانند Black Forrest Labs - شرکتی که مدل Flux را پشت سر می‌گذارد و Grok X (توئیتر سابق) برای تولید تصویر استفاده می‌کند، رد شده است.
این پرچم‌گذاری هوش مصنوعی از طریق پنجره «درباره این تصویر» فعلی گوگل پیاده‌سازی می‌شود، به این معنی که از طریق لنز Google و ویژگی «دایره به جستجو» اندروید نیز در دسترس کاربران قرار خواهد گرفت. در زمان پخش زنده، کاربران می‌توانند روی سه نقطه بالای یک تصویر کلیک کرده و «درباره این تصویر» را انتخاب کنند تا تحلیل کنند که آیا این تصویر توسط هوش مصنوعی تولید شده است یا خیر – پس آن‌طور که انتظار داشتیم واضح نباشد.
آیا این کافی است؟
در حالی که گوگل در نتایج جستجوی خود نیاز به انجام کاری در مورد تصاویر هوش مصنوعی داشت، این سوال باقی می ماند که آیا یک برچسب پنهان کافی است یا خیر. اگر این ویژگی همانطور که گفته شد کار کند، کاربران باید مراحل بیشتری را برای تحلیل اینکه آیا تصویری با استفاده از هوش مصنوعی ایجاد شده است، قبل از تایید گوگل انجام دهند. کسانی که قبلاً از وجود ویژگی About This Image اطلاعی ندارند، ممکن است حتی متوجه نباشند که ابزار جدیدی برای آنها در دسترس است.
در حالی که دیپ‌فیک‌های ویدیویی مواردی مانند اوایل سال جاری را مشاهده کرده‌اند که در آن یک کارمند مالی برای پرداخت ۲۵ میلیون دلار به گروهی که خود را به عنوان مدیر مالی وی معرفی می‌کردند کلاهبرداری کردند ، تصاویر تولید شده توسط هوش مصنوعی تقریباً مشکل‌ساز هستند. دونالد ترامپ اخیراً تصاویر رندر دیجیتالی تیلور سوئیفت و طرفدارانش را منتشر کرد که به دروغ از کمپین او برای ریاست جمهوری حمایت می کنند و سوئیفت خود را قربانی آزار جنسی مبتنی بر تصویر دید که تصاویر برهنه او توسط هوش مصنوعی در فضای مجازی منتشر شد .
در حالی که به راحتی می توان شکایت کرد که گوگل به اندازه کافی کار نمی کند، حتی متا نیز چندان مشتاق نیست که گربه را از کیف بیرون بیاورد. این غول رسانه‌های اجتماعی اخیراً سیاست‌های خود را در مورد کاهش دیده شدن برچسب‌ها به‌روزرسانی کرده و اطلاعات مربوطه را به منوی پست منتقل می‌کند.
در حالی که این ارتقا به ابزار "درباره این تصویر" اولین قدم مثبت است، اقدامات تهاجمی بیشتری برای آگاه نگه داشتن و محافظت از کاربران لازم است. شرکت‌های بیشتری مانند سازندگان دوربین و توسعه‌دهندگان ابزارهای هوش مصنوعی نیز باید واترمارک‌های C2PA را بپذیرند و از آن استفاده کنند تا اطمینان حاصل کنند که این سیستم تا آنجا که می‌تواند موثر باشد، همانطور که گوگل به آن داده‌ها وابسته است. تعداد کمی از مدل‌های دوربین مانند Leica M-11P و Nikon Z9 دارای آپشن های Content Credentials هستند، در حالی که Adobe یک نسخه بتا را در Photoshop و Lightroom پیاده‌سازی کرده است. اما باز هم استفاده از امکانات و ارائه اطلاعات دقیق به عهده کاربر است.
در مطالعه‌ای که توسط دانشگاه واترلو انجام شد ، تنها 61 درصد از مردم توانستند تفاوت بین تصاویر تولید شده توسط هوش مصنوعی و تصاویر واقعی را تشخیص دهند. اگر این اعداد دقیق باشند، سیستم برچسب‌گذاری گوگل هیچ شفافیت اضافه‌ای را برای بیش از یک سوم افراد ارائه نمی‌دهد. با این حال، این یک گام مثبت از طرف گوگل در برابر مبارزه برای کاهش اطلاعات نادرست آنلاین است، اما اگر غول‌های فناوری این برچسب‌ها را بسیار قابل دسترس‌تر کنند، خوب است.
ارسال نظر