گوگل جزئیات SynthID Text را به اشتراک گذاشته است، ابزار جدیدی که برای واترمارک کردن و تشخیص متن تولید شده توسط هوش مصنوعی طراحی شده است و به عنوان منبع باز منتشر شده است.

از طریق Hugging Face در دسترس است، توسعه‌دهندگان و کسب‌وکارها می‌توانند از SynthID Text برای جاسازی واترمارک در متن تولید شده توسط هوش مصنوعی استفاده کنند تا شناسایی محتوای ایجاد شده توسط مدل‌های genAI آسان‌تر شود.

این شرکت امیدوار است ابزار جدیدش به جلوگیری از اطلاعات نادرست و همچنین اطمینان از انتساب مناسب کمک کند.

گوگل اکنون می تواند متن هوش مصنوعی را واترمارک کند

SynthID Text با تغییر توزیع نشانه‌ها کار می‌کند - بلوک‌های سازنده متن تولید شده توسط هوش مصنوعی، در غیر این صورت به عنوان گروه‌هایی از حروف که کلمات یا بخش‌هایی از کلمات را می‌سازند مشخص می‌شوند. مدل‌های هوش مصنوعی موجود در حال حاضر متنی را بر اساس احتمالات یا حدس زدن کلمه بعدی تولید می‌کنند. تمام کاری که SynthID Text انجام می دهد این است که احتمال انتخاب کلمات خاصی را تغییر می دهد و یک الگوی واترمارک خاص ایجاد می کند که بعداً می تواند آن را شناسایی کند.

گوگل بر این باور است که این ابزار پس از بازنویسی یا اصلاح اندکی متن همچنان می‌تواند کار کند، اما این شرکت برخی محدودیت‌ها را تصدیق کرده است. به عنوان مثال، متون کوتاه، ترجمه ها و پاسخ های واقعی که در آن فضای کمی برای تغییر وجود دارد، می تواند اثربخشی SynthID Text را محدود کند. این شرکت همچنین بيان کرد که بازنویسی کامل یک پاسخ می تواند نمرات اطمینان آشکارساز را به شدت کاهش دهد.

SynthID Text قبلاً از اوایل سال جاری در Gemini ادغام شده است، با این حال گوگل تنها بازیکن در فضای هوش مصنوعی نیست. OpenAI ، که ChatGPT رقیب Gemini را می سازد، بعید است که بخواهد از ابزار رقیب خود استفاده کند. در عوض، فناوری واترمارک خود را تحلیل کرده است.

علاوه بر این، مشخص نیست که چگونه این سیستم‌های مختلف در آینده با فراگیرتر شدن محتوای تولید شده توسط هوش مصنوعی در اینترنت و اینکه آیا یک سیستم به عنوان یک استاندارد صنعتی ظاهر می‌شود یا اینکه چارچوب‌های قانونی استفاده از آن‌ها را اعمال خواهند کرد، چگونه با هم همکاری خواهند کرد.

بیشتر از TechRadar Pro