سایت خبرکاو

جستجوگر هوشمند اخبار و مطالب فناوری

ایمنی با طراحی

دبلیو به TechCrunch Exchange، یک خبرنامه هفتگی استارت آپ ها و بازارها خوش آمدید. این از ستون روزانه TechCrunch+ الهام گرفته شده است، جایی که نام خود را دریافت می کند. هر شنبه آن را در صندوق ورودی خود می خواهید؟ اینجا ثبت نام کنید. توانایی فناوری برای اختراع مجدد چرخ دارای جنبه های منفی است: می تواند به معنای نادیده گرفتن حقایق آشکاری باشد که دیگران قبلاً آموخته اند. اما خبر خوب این است که بنیانگذاران جدید گاهی ...

دبلیو
به TechCrunch Exchange، یک خبرنامه هفتگی استارت آپ ها و بازارها خوش آمدید. این از ستون روزانه TechCrunch+ الهام گرفته شده است، جایی که نام خود را دریافت می کند. هر شنبه آن را در صندوق ورودی خود می خواهید؟ اینجا ثبت نام کنید.

توانایی فناوری برای اختراع مجدد چرخ دارای جنبه های منفی است: می تواند به معنای نادیده گرفتن حقایق آشکاری باشد که دیگران قبلاً آموخته اند. اما خبر خوب این است که بنیانگذاران جدید گاهی اوقات سریعتر از پیشینیان خود آن را کشف می کنند. - آنا

هوش مصنوعی، اعتماد و ایمنی

امسال یک سال المپیک است، یک سال کبیسه. . . و همچنین سال انتخابات. اما قبل از اینکه من را به نکول آمریکا متهم کنید، من فقط به دنباله بایدن در مقابل ترامپ فکر نمی‌کنم: بیش از 60 کشور در حال برگزاری انتخابات سراسری هستند، نه اینکه به پارلمان اتحادیه اروپا اشاره کنیم.

هر یک از این نوسانات آرا به چه سمتی می تواند بر شرکت های فناوری تأثیر بگذارد. به عنوان مثال، احزاب مختلف تمایل دارند که دیدگاه‌های متفاوتی در مورد مقررات هوش مصنوعی داشته باشند. اما حتی قبل از برگزاری انتخابات، فناوری نیز نقشی را برای تضمین یکپارچگی آنها ایفا خواهد کرد.

زمانی که مارک زاکربرگ فیس بوک را ایجاد کرد و شاید حتی زمانی که واتس اپ را خرید، صداقت انتخابات در ذهن او نبود. اما به ترتیب 20 و 10 سال بعد، اعتماد و ایمنی اکنون مسئولیتی است که متا و سایر غول های فناوری، خواه ناخواه نمی توانند از آن فرار کنند. این به معنای تلاش برای جلوگیری از اطلاعات نادرست، کلاهبرداری، سخنان مشوق نفرت، CSAM (مواد آزار جنسی کودکان)، آسیب رساندن به خود و موارد دیگر است.

با این حال، هوش مصنوعی احتمالاً کار را دشوارتر می کند، و نه فقط به دلیل دیپ فیک یا قدرت دادن به تعداد بیشتری از بازیگران بد. لوتان لوکوویتز، شریک عمومی Grove Ventures او میگوید :

همه این پلتفرم‌های اعتماد و ایمنی دارای این پایگاه داده اشتراک‌گذاری هش هستند، پس من می‌توانم چیز بدی را در آنجا آپلود کنم، با تمام جوامعم به اشتراک بگذارم، و همه با هم جلوی آن را بگیرند. اما امروز، می توانم به مدل آموزش دهم تا از آن اجتناب کند. پس حتی کار کلاسیک‌تر اعتماد و ایمنی، به دلیل Gen AI، سخت‌تر و سخت‌تر می‌شود زیرا الگوریتم می‌تواند به دور زدن همه این موارد کمک کند.

از بعد فکری تا خط مقدم

اگرچه تالارهای گفتگوی آنلاین قبلاً یک یا دو چیز را در مورد تعدیل محتوا یاد گرفته بودند، هیچ کتاب بازی شبکه اجتماعی برای دنبال کردن فیس بوک در زمان تولد وجود نداشت، پس تا حدودی قابل درک است که برای انجام این وظیفه به مدتی نیاز دارد. اما مایوس کننده است که از اسناد داخلی متا یاد بگیریم که در سال 2017 هنوز بی میلی داخلی در اتخاذ تدابیری وجود داشت که می توانست بهتر از کودکان محافظت کند.

زاکربرگ یکی از پنج مدیر عامل فناوری رسانه های اجتماعی بود که اخیراً در جلسه استماع سنای ایالات متحده در مورد ایمنی آنلاین کودکان حاضر شد. شهادت دادن اولین بار برای متا نبود، اما اینکه Discord گنجانده شده بود نیز قابل ذکر است. در حالی که فراتر از ریشه های بازی خود منشعب شده است، یادآوری می کند که تهدیدات اعتماد و ایمنی می تواند در بسیاری از مکان های آنلاین رخ دهد. این بدان معنی است که برای مثال یک برنامه بازی اجتماعی می تواند کاربران خود را در معرض خطر فیشینگ یا اصلاح قرار دهد.

آیا شرکت های جدیدتر سریعتر از FAANG ها مالکیت خواهند کرد؟ این تضمینی نیست: بنیانگذاران اغلب از اصول اولیه کار می کنند، که خوب و بد است. منحنی یادگیری اعتدال محتوا واقعی است. اما OpenAI بسیار جوان‌تر از Meta است، پس شنیدن اینکه تیم جدیدی برای مطالعه ایمنی کودکان تشکیل می‌دهد - حتی اگر ممکن است نتیجه بررسی‌هایی باشد که تحت آن قرار می‌گیرد، دلگرم‌کننده است.

با این حال، برخی استارت‌آپ‌ها منتظر نشانه‌هایی از مشکل نیستند تا اقدامی انجام دهند. نوام شوارتز، مدیر عامل آن، به من بيان کرد که ActiveFence که ارائه‌دهنده راه‌حل‌های اعتماد و ایمنی مبتنی بر هوش مصنوعی و بخشی از مجموعه Grove Ventures است، درخواست‌های ورودی بیشتری را مشاهده می‌کند.

من افراد زیادی را دیده‌ام که از شرکت‌هایی که تازه تأسیس شده‌اند یا حتی از قبل راه‌اندازی شده‌اند، با تیم ما تماس گرفته‌اند. آنها به ایمنی محصولات خود در مرحله طراحی فکر می کنند [و] مفهومی به نام ایمنی با طراحی را اتخاذ می کنند. آن‌ها اقدامات ایمنی را در محصولات خود انجام می‌دهند، به همان شیوه‌ای که امروز هنگام ایجاد آپشن های خود به امنیت و حریم خصوصی فکر می‌کنید.»

ActiveFence تنها راه اندازی در این فضا نیست که Wired آن را "اعتماد و ایمنی به عنوان یک سرویس" توصیف کرد. اما یکی از بزرگترین ها است، به خصوص از زمانی که در سپتامبر Spectrum Labs را خریداری کرد، پس خوب است که بشنویم که مشتریان آن نه تنها شامل نام های بزرگی هستند که از بحران های روابط عمومی و تحلیل های سیاسی می ترسند، بلکه تیم های کوچک تری را نیز شامل می شوند که تازه شروع به کار کرده اند. فناوری نیز این فرصت را دارد که از اشتباهات گذشته درس بگیرد.

خبرکاو