OpenAI ابزاری ساخته است که به طور بالقوه می تواند دانش آموزانی را که با درخواست از ChatGPT برای نوشتن تکالیفشان تقلب می کنند دستگیر کند – اما طبق گفته وال استریت ژورنال، این شرکت در حال بحث است که آیا واقعاً آن را منتشر کند یا خیر.

در بیانیه ای که به TechCrunch ارائه شد، سخنگوی OpenAI تایید کرد که این شرکت در حال تحقیق بر روی روش واترمارک متن شرح داده شده در داستان ژورنال است، اما بيان کرد که به دلیل "پیچیدگی های موجود و تاثیر احتمالی آن بر اکوسیستم گسترده تر" از یک "رویکرد عمدی" استفاده می کند. فراتر از OpenAI."

این سخنگو گفت: «روش واترمارکینگ متنی که ما در حال توسعه آن هستیم، از نظر فنی امیدوارکننده است، اما خطرات مهمی دارد که در حین تحقیق درباره جایگزین‌ها، از جمله حساسیت به دور زدن توسط بازیگران بد و احتمال تأثیرگذاری نامتناسب بر گروه‌هایی مانند غیر انگلیسی زبانان، خطرات مهمی دارد. .

این رویکردی متفاوت از بسیاری از تلاش‌های قبلی برای تشخیص متن تولید شده توسط هوش مصنوعی است که تا حد زیادی بی‌اثر بوده است. حتی خود OpenAI نیز سال گذشته آشکارساز متن هوش مصنوعی قبلی خود را به دلیل "نرخ دقت پایین" خاموش کرد.

با واترمارکینگ متن، OpenAI تنها بر روی تشخیص نوشته از ChatGPT تمرکز می کند، نه از مدل های دیگر شرکت ها. این کار را با ایجاد تغییرات کوچک در نحوه انتخاب کلمات ChatGPT انجام می دهد و اساساً یک واترمارک نامرئی در نوشته ایجاد می کند که بعداً می تواند توسط یک ابزار جداگانه شناسایی شود.

پس از انتشار داستان مجله، OpenAI همچنین یک پست وبلاگ ماه می را در مورد تحقیقات خود در مورد شناسایی محتوای تولید شده توسط هوش مصنوعی به روز کرد. این به‌روزرسانی او میگوید که واترمارکینگ متن «بسیار دقیق و حتی مؤثر در برابر دستکاری‌های محلی، مانند بازنویسی»، ثابت شده است، اما ثابت کرده است که «در برابر دستکاری جهانی‌شده، مقاومت کمتری دارد. مانند استفاده از سیستم های ترجمه، بازنویسی با مدل تولیدی دیگر، یا درخواست از مدل برای درج یک کاراکتر خاص در بین هر کلمه و سپس حذف آن کاراکتر.

در نتیجه، OpenAI می نویسد که این روش "برای دور زدن بازیگران بد بی اهمیت است. " به روز رسانی OpenAI همچنین سخنان سخنگوی در مورد غیر انگلیسی زبانان را منعکس می کند و نوشته است که واترمارکینگ متن می تواند "استفاده از هوش مصنوعی را به عنوان یک ابزار نوشتاری مفید برای غیر انگلیسی زبانان انگ کند."

خبرکاو