هوش مصنوعی در تیررس دولت‌هایی قرار گرفته است که نگران این هستند که چگونه ممکن است از آن برای کلاهبرداری، اطلاعات نادرست و سایر فعالیت‌های مخرب آنلاین استفاده شود. اکنون در بریتانیا یک تنظیم کننده در حال آماده شدن برای تحلیل نحوه استفاده از هوش مصنوعی در مبارزه با برخی از موارد مشابه، به ویژه در رابطه با محتوای مضر برای کودکان است.

Ofcom، رگولاتوری که مسئول اجرای قانون ایمنی آنلاین بریتانیا است، اعلام کرد که قصد دارد مشاوره ای را در مورد نحوه استفاده از هوش مصنوعی و سایر ابزارهای خودکار امروز راه اندازی کند، و می تواند در آینده برای شناسایی فعال و حذف محتوای غیرقانونی آنلاین، به طور خاص، مورد استفاده قرار گیرد. برای محافظت از کودکان در برابر محتوای مضر و شناسایی مطالب سوء استفاده جنسی از کودکان که قبلاً به سختی قابل تشخیص بود.

این ابزارها بخشی از مجموعه گسترده‌تری از پیشنهادات است که Ofcom با تمرکز بر ایمنی آنلاین کودکان گرد هم می‌آورد. آفکام بيان کرد که رایزنی‌ها برای پیشنهادات جامع در هفته‌های آینده و با مشاوره هوش مصنوعی که اواخر امسال برگزار می‌شود، آغاز خواهد شد.

مارک بانتینگ، یکی از مدیران گروه ایمنی آنلاین آفکام، او میگوید که علاقه‌اش به هوش مصنوعی با نگاهی به چگونگی استفاده از آن به عنوان ابزار غربالگری امروز شروع می‌شود.

او در مصاحبه ای با TechCrunch گفت: «برخی از سرویس ها از این ابزارها برای شناسایی و محافظت از کودکان در برابر این محتوا استفاده می کنند. اما اطلاعات زیادی در مورد دقیق و مؤثر بودن این ابزارها وجود ندارد. ما می‌خواهیم راه‌هایی را تحلیل کنیم که بتوانیم اطمینان حاصل کنیم که صنعت هنگام استفاده از آن‌ها، [این را] ارزیابی می‌کند، و مطمئن می‌شود که خطرات مربوط به بیان آزاد و حریم خصوصی مدیریت می‌شوند.»

یکی از نتایج محتمل این خواهد بود که Ofcom توصیه کند پلتفرم‌ها چگونه و چه چیزی را باید ارزیابی کنند، که به طور بالقوه می‌تواند نه تنها منجر به استفاده از ابزارهای پیچیده‌تر توسط پلتفرم‌ها شود، بلکه اگر نتوانند در مسدود کردن محتوا یا ایجاد راه‌های بهتری برای حفظ کاربران جوان‌تر بهبودی ایجاد کنند، جریمه‌هایی بالقوه خواهد داشت. از دیدن آن

او گفت: "مانند بسیاری از مقررات ایمنی آنلاین، این مسئولیت بر عهده شرکت ها است تا مطمئن شوند که اقدامات مناسب را انجام می دهند و از ابزارهای مناسب برای محافظت از کاربران استفاده می کنند."

هم منتقدان و هم حامیان این حرکت ها وجود خواهد داشت. محققان هوش مصنوعی در حال یافتن راه‌های پیچیده‌تر برای استفاده از هوش مصنوعی برای شناسایی، به‌عنوان مثال، دیپ‌فیک‌ها و همچنین تأیید آنلاین کاربران هستند. با این حال، به همان اندازه شکاکان وجود دارند که می گویند تشخیص هوش مصنوعی به دور از خطا نیست.

آفکام همزمان با انتشار آخرین تحقیقات خود در مورد نحوه تعامل آنلاین کودکان در بریتانیا، مشاوره در مورد ابزارهای هوش مصنوعی را اعلام کرد، که نشان می‌دهد در مجموع، تعداد کودکان کوچک‌تر از همیشه بیشتر از قبل به هم متصل هستند، به طوری که Ofcom اکنون در حال شکست است. فعالیت در میان گروه های سنی همیشه جوان تر.

طبق یک نظرسنجی از والدین آمریکایی، تقریباً یک چهارم، 24 درصد از همه کودکان 5 تا 7 ساله در حال حاضر صاحب گوشی های هوشمند خود هستند و وقتی تبلت ها را در نظر بگیرید، این اعداد به 76 درصد می رسد. همین گروه سنی نیز در آن دستگاه‌ها بسیار بیشتر از رسانه‌ها استفاده می‌کند: ۶۵ درصد تماس‌های صوتی و تصویری برقرار کرده‌اند (در مقایسه با ۵۹ درصد فقط یک سال پیش)، و نیمی از بچه‌ها (در مقایسه با ۳۹ درصد یک سال پیش) رسانه‌های پخش‌شده را تماشا می‌کنند. .

محدودیت‌های سنی در برخی از برنامه‌های رسانه‌های اجتماعی رایج در حال کاهش است، اما محدودیت‌ها هرچه که باشند، به نظر می‌رسد در بریتانیا به هیچ‌وجه به آن توجه نمی‌شود. آفکام دریافت که حدود 38 درصد از کودکان 5 تا 7 ساله از رسانه های اجتماعی استفاده می کنند. واتس اپ متا با 37 درصد، محبوب ترین اپلیکیشن در میان آنه است. و احتمالاً اولین مورد از محبوبیت کمتر برنامه تصویری پرچمدار متا نسبت به حس ویروسی ByteDance، TikTok توسط 30 درصد از کودکان 5 تا 7 ساله استفاده می شود و اینستاگرام تنها 22 درصد است. Discord فهرست را کامل کرد اما به میزان قابل توجهی محبوبیت کمتری دارد و تنها 4٪ است.

حدود یک سوم، 32 درصد از کودکان در این سن به تنهایی آنلاین می شوند و 30 درصد از والدین گفتند که با داشتن پروفایل های رسانه های اجتماعی فرزندان زیر سن قانونی آنها خوب هستند. YouTube Kids همچنان محبوب‌ترین شبکه برای کاربران جوان‌تر با 48 درصد است.

بازی که مورد علاقه همیشگی کودکان است، برای 41 درصد از کودکان 5 تا 7 ساله افزایش یافته است و 15 درصد از کودکان در این گروه سنی به بازی های تیراندازی می پردازند.

در حالی که 76 درصد از والدین مورد تحلیل گفتند که با فرزندان خردسال خود در مورد ایمن ماندن آنلاین صحبت کرده‌اند، آفکام اشاره می‌کند که بین آنچه کودک می‌بیند و آنچه ممکن است کودک گزارش دهد، علامت سوال وجود دارد. آفکام در تحقیق بر روی کودکان بزرگتر 8 تا 17 ساله مستقیماً با آنها مصاحبه کرد. این نشان داد که 32 درصد از بچه‌ها گزارش دادند که محتوای نگران‌کننده‌ای را به صورت آنلاین دیده‌اند، اما تنها 20 درصد از والدین آنها گفتند که چیزی را گزارش کرده‌اند.

آفکام می نویسد، حتی با توجه به برخی ناهماهنگی های گزارش، "تحقیق نشان می دهد که بین قرار گرفتن کودکان بزرگتر در معرض محتوای بالقوه مضر آنلاین و آنچه که آنها در مورد تجربیات آنلاین خود با والدین خود به اشتراک می گذارند، ارتباط قطع است. " و محتوای نگران کننده تنها یک چالش است: دیپ فیک نیز یک مسئله است. آفکام گفت، در میان کودکان 16 تا 17 ساله، 25 درصد گفتند که در تشخیص آنلاین جعلی از واقعی مطمئن نیستند.

خبرکاو