هوش مصنوعی چیز جدیدی نیست. اما نوآوری سریع در سال گذشته در حال حاضر به این معنی است که مصرف کنندگان و کسب و کارها به طور یکسان از قابلیت های این فناوری بیش از هر زمان دیگری آگاه هستند و به احتمال زیاد خودشان از آن در شکل یا شکلی استفاده می کنند.

انقلاب هوش مصنوعی یک جنبه منفی نیز دارد: کلاهبرداران را قدرتمند می کند. این یکی از مهم ترین تأثیراتی است که ما شاهد آن هستیم، نه بهره وری و خلاقیت بیشتر در محل کار. تکامل مدل‌های زبانی بزرگ و استفاده از هوش مصنوعی مولد، تاکتیک‌های جدیدی را به کلاهبرداران می‌دهد تا حملات خود را کشف کنند، حملاتی که اکنون کیفیت، عمق و مقیاسی دارند که پتانسیل پیامدهای فاجعه‌بار فزاینده‌ای دارند.

این خطر افزایش یافته هم توسط مصرف کنندگان و هم توسط مشاغل به طور یکسان احساس می شود. گزارش هویت و تقلب 2023 Experian نشان داد که بیش از نیمی (52٪) از مصرف کنندگان بریتانیا احساس می کنند در حال حاضر بیشتر از یک سال قبل هدف کلاهبرداری آنلاین هستند، در حالی که بیش از 50٪ از مشاغل سطح بالایی از نگرانی را گزارش می کنند. در مورد خطر تقلب این حیاتی است که هم کسب و کارها و هم مصرف کنندگان خود را در مورد انواع حملاتی که در حال وقوع هستند و آنچه می توانند برای مبارزه با آنها انجام دهند آموزش دهند.

آشنایی با انواع جدید حملات کلاهبرداری

دو روند کلیدی در فضای کلاهبرداری هوش مصنوعی در حال ظهور است: شخصی سازی بیش از حد حملات، و متعاقب آن افزایش حملات بیومتریک. شخصی سازی بیش از حد به این معنی است که مشتریان ناآگاه به طور فزاینده ای توسط حملات هدفمند کلاهبرداری می شوند که آنها را فریب می دهد تا انتقالات فوری و پرداخت های بلادرنگ انجام دهند.

برای مشاغل، حملات مخرب ایمیل اکنون می توانند از هوش مصنوعی مولد برای کپی کردن صدا یا سبک نوشتاری یک شرکت خاص استفاده کنند تا درخواست های واقعی تر مانند تشویق آنها به انجام تراکنش های مالی یا به اشتراک گذاری اطلاعات محرمانه ارائه دهند.

هوش مصنوعی مولد با ایجاد و مدیریت بسیاری از حساب‌ها و برنامه‌های بانکی جعلی، تجارت الکترونیک ، خدمات درمانی، دولتی و رسانه‌های اجتماعی که واقعی به نظر می‌رسند، انجام این حملات را برای همه آسان‌تر می‌کند.

این حملات فقط قرار است افزایش یابد. از لحاظ تاریخی، هوش مصنوعی مولد به اندازه کافی قدرتمند نبود که در مقیاس برای ایجاد نمایشی باورپذیر از صدای یا چهره شخص دیگری استفاده شود. اما اکنون، تشخیص چهره یا صدای عمیق جعلی با چشم یا گوش انسان از یک چهره واقعی غیرممکن است.

از آنجایی که کسب‌وکارها به طور فزاینده‌ای لایه‌های بیشتری از کنترل‌ها را برای تأیید هویت اتخاذ می‌کنند، کلاهبرداران باید از این نوع حملات سوء استفاده کنند.

انواع حمله که باید مراقب آنها باشید

انواع حملاتی که باید مراقب آنها باشید عبارتند از:

تقلید صدای انسان : رشد قابل توجهی در صداهای تولید شده توسط هوش مصنوعی که افراد واقعی را تقلید می کنند، وجود داشته است. این طرح‌ها به این معنی است که مصرف‌کنندگان می‌توانند فریب بخورند و فکر کنند با کسی که می‌شناسند صحبت می‌کنند، در حالی که کسب‌وکارهایی که از سیستم‌های تأیید صوت برای سیستم‌هایی مانند پشتیبانی مشتری استفاده می‌کنند، می‌توانند گمراه شوند.

ویدئو یا تصاویر جعلی : مدل‌های هوش مصنوعی را می‌توان با استفاده از تکنیک‌های یادگیری عمیق آموزش داد تا از مقادیر بسیار زیادی از دارایی‌های دیجیتال مانند عکس‌ها ، تصاویر و ویدئوها برای تولید فیلم‌ها یا تصاویری با کیفیت بالا و معتبر استفاده کنند که تقریباً از تصاویر واقعی قابل تشخیص نیستند. پس از آموزش، مدل‌های هوش مصنوعی می‌توانند تصاویر را با سرعتی هشداردهنده بر روی تصاویر دیگر و درون محتوای ویدیویی ترکیب کرده و قرار دهند.

چت ربات ها : چت ربات های دوستانه و متقاعد کننده هوش مصنوعی می تواند برای ایجاد روابط با قربانیان استفاده شود تا آنها را متقاعد کند که پول ارسال کنند یا اطلاعات شخصی را به اشتراک بگذارند. این چت‌بات‌ها با پیروی از یک اسکریپت تجویز شده، می‌توانند یک مکالمه انسان‌مانند با قربانی را در مدت زمان طولانی گسترش دهند تا ارتباط عاطفی را عمیق‌تر کنند.

پیام‌های متنی : هوش مصنوعی مولد کلاهبرداران را قادر می‌سازد تا مبادلات شخصی خود را با فردی که قربانی می‌شناسد با اسکریپت‌هایی که به خوبی نوشته شده و معتبر به نظر می‌رسند تکرار کنند. سپس می توانند حملات چند جانبه را از طریق مکالمات متنی با چندین قربانی به طور همزمان انجام دهند و آنها را برای انجام اقداماتی دستکاری کنند که می تواند شامل انتقال پول، کالا یا سایر دستاوردهای کلاهبرداری شود.

مبارزه با هوش مصنوعی با در آغوش گرفتن هوش مصنوعی

برای مبارزه با هوش مصنوعی، کسب و کارها باید از هوش مصنوعی و ابزارهای دیگر مانند یادگیری ماشینی استفاده کنند تا اطمینان حاصل کنند که یک قدم جلوتر از مجرمان می مانند.

مراحل کلیدی که باید انجام دهید عبارتند از:

شناسایی کلاهبرداری با هوش مصنوعی مولد : استفاده از هوش مصنوعی مولد برای غربالگری تراکنش های تقلبی یا تحلیل سرقت هویت در مقایسه با نسل های قبلی مدل های هوش مصنوعی در تشخیص تقلب دقیق تر است.

افزایش استفاده از داده‌های بیومتریک تأیید شده : در حال حاضر هوش مصنوعی مولد می‌تواند شبکیه چشم، اثر انگشت یا روشی که شخصی از ماوس رایانه‌اش استفاده می‌کند، تکرار کند.

ادغام فرآیندهای پیشگیری از تقلب و حفاظت از هویت : همه داده‌ها و کنترل‌ها باید سیستم‌ها و تیم‌هایی را تغذیه کنند که بتوانند سیگنال‌ها را تجزیه و تحلیل کنند و مدل‌هایی بسازند که به طور مداوم در مورد ترافیک خوب و بد آموزش دیده باشند. در واقع، دانستن ظاهر یک بازیگر خوب به کسب‌وکارها کمک می‌کند تا از تلاش‌های جعل هویت مشتریان واقعی جلوگیری کنند.

آموزش مشتریان و مصرف‌کنندگان : آموزش مصرف‌کنندگان به روش‌های شخصی‌شده از طریق کانال‌های ارتباطی متعدد به طور فعال می‌تواند به اطمینان حاصل شود که مصرف‌کنندگان از آخرین حملات کلاهبرداری و نقش آن‌ها در پیشگیری از آنها آگاه هستند. این کمک می کند تا یک تجربه شخصی سازی شده و یکپارچه را برای مصرف کنندگان معتبر ایجاد کند، در حالی که تلاش مهاجمان دارای هوش مصنوعی را مسدود می کند.

از داده‌های آسیب‌پذیری مشتری برای شناسایی نشانه‌های مهندسی اجتماعی استفاده کنید: مشتریان آسیب‌پذیر بسیار بیشتر در معرض کلاهبرداری‌های جعلی عمیق قرار می‌گیرند. پردازش و استفاده از این داده‌ها برای آموزش و حفاظت از قربانیان، صنعت را قادر می‌سازد تا به بیشترین خطر کمک کند

چرا حالا؟

بهترین شرکت‌ها از یک رویکرد چند لایه استفاده کردند - هیچ گلوله نقره‌ای واحدی وجود ندارد - برای جلوگیری از تقلب خود، و تا حد امکان شکاف‌هایی را که کلاهبرداران به دنبال بهره‌برداری از آن هستند به حداقل رساند. به عنوان مثال، با استفاده از کنسرسیوم های اشتراک گذاری داده های تقلب و تبادل داده ها، تیم های کلاهبرداری می توانند دانش حملات جدید و در حال ظهور را به اشتراک بگذارند.

یک استراتژی لایه‌بندی خوب که تأیید دستگاه، رفتار، کنسرسیوم، سند و شناسه را در بر می‌گیرد و ضعف‌های سیستم را به شدت کاهش می‌دهد.

مبارزه با کلاهبرداری هوش مصنوعی اکنون بخشی از این استراتژی برای همه مشاغلی است که پیشگیری از تقلب را جدی می گیرند. حملات مکرر و پیچیده‌تر خواهند شد و به یک استراتژی حفاظتی بلندمدت نیاز دارند - که تمام مراحل فرآیند پیشگیری از تقلب را پوشش می‌دهد، از مصرف‌کننده تا مهاجم. این تنها راهی است که شرکت‌ها می‌توانند از خود و مشتریانشان در برابر تهدید فزاینده حملات مبتنی بر هوش مصنوعی محافظت کنند.

ما بهترین محافظت از سرقت هویت را برای خانواده ها فهرست کرده ایم .

این مقاله به عنوان بخشی از کانال Expert Insights TechRadarPro تهیه شده است که در آن بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز را معرفی می کنیم. نظرات بیان شده در اینجا نظرات نویسنده است و لزوماً نظرات TechRadarPro یا Future plc نیست. اگر علاقه مند به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/news/submit-your-story-to-techradar-pro