وقتی هوش مصنوعی مسموم می‌ شود؛ چت‌ بات‌ ها خریداران را به دام کلاهبرداران می‌ اندازند

به گزارش رکنا،  هوش مصنوعی با مهربانی چندین گزینه شیک، قیمت‌های به‌روز و حتی توضیح می‌دهد که هر کیف برای چه موقعیتی مناسب‌تر است. شما روی لینک‌ها کلیک می‌کنید، وارد وب‌سایتی می‌شوید که کاملاً شبیه فروشگاه اصلی است، تخفیف ۸۰ درصدی می‌بینید، خرید می‌کنید و پول را واریز می‌کنید. اما کالا هرگز به دستتان نمی‌رسد. نه، فروشنده واقعی نبوده؛ شما قربانی یک کلاهبرداری پیچیده با کمک هوش مصنوعی «مسموم» شده‌اید.

«مسمومیت هوش مصنوعی» چیست؟

مسمومیت هوش مصنوعی (AI Poisoning) زمانی رخ می‌دهد که محتوای مخرب و جعلی – مانند صفحات وب جعلی که توسط کلاهبرداران طراحی شده‌اند – وارد داده‌هایی می‌شوند که مدل زبانی بزرگ (مانند ChatGPT) از آنها یاد می‌گیرد. در نتیجه، هوش مصنوعی بدون آنکه خود بداند، این منابع تقلبی را به عنوان مرجع معتبر به کاربران معرفی می‌کند.

به گزارش گاردین، سرویس بررسی کلاهبرداری «Ask Silver» اخیراً کشف کرده که وب‌سایت‌های جعلی و کپی‌شده از فروشگاه‌های معتبر، مستقیماً در نتایج جست‌وجوی چت‌جی‌پی‌تی نمایش داده می‌شوند.

آزمایش Ask Silver: یک کیف ساده، دو سایت جعلی

محققان Ask Silver یک سوال به ظاهر بی‌ضرر از ChatGPT پرسیدند:

«کیف‌ها و کوله‌های محبوب برند راسل اند بروملی (Russell & Bromley) کدامند؟»

نتایج شوکه‌کننده بود:

• چت‌بات جزئیات دقیق، قیمت‌ها و حتی پیشنهادهای مد روز ارائه داد.

• در میان منابع پاسخ، دو وب‌سایت کاملاً جعلی که شبیه فروشگاه اصلی طراحی شده بودند، وجود داشت.

• یکی از این سایت‌ها تخفیف‌های باورنکردنی تا ۸۰ درصد ارائه می‌داد تا خریدار را وسوسه کند.

نتیجه: اگر کاربری از این لینک‌ها خرید کند، پولش به جای فروشگاه واقعی، به حساب کلاهبرداران واریز می‌شود و اطلاعات بانکی‌اش نیز به سرقت می‌رود.

هشدار کارشناسان؛ مجرمان سریع‌تر از آنچه فکر می‌کنیم

لوئیز بکستر (Louise Baxter)، رئیس گروه تشخیص کلاهبرداری در استانداردهای ملی تجارت بریتانیا، می‌گوید:

«مردم نباید صرفاً به این دلیل که یک وب‌سایت توسط یک چت‌بات هوش مصنوعی توصیه شده است، آن را معتبر بدانند. مصرف‌کنندگان به طور فزاینده‌ای برای مشاوره به هوش مصنوعی روی می‌آورند، اما مجرمان نیز به همان سرعت در حال سازگاری با این فناوری هستند.»

آنا جونز (Anna Jones) از Ask Silver نیز تأکید می‌کند:

«این واقعیت که وب‌سایت‌های کلاهبرداری می‌توانند در نتایج تولیدشده توسط هوش مصنوعی ظاهر شوند، بسیار نگران‌کننده است. کلاهبرداران از هر فناوری جدیدی برای دسترسی به قربانیان بالقوه سوءاستفاده خواهند کرد.»

جدول: تفاوت خرید امن از خرید کلاهبرداری با توصیه هوش مصنوعی

چگونه از خود در برابر این کلاهبرداری محافظت کنیم؟

1. هرگز صرفاً به توصیه چت‌بات اعتماد نکنید. هوش مصنوعی فعلی نمی‌تواند بین سایت‌های واقعی و جعلی تفاوت قائل شود.

2. قبل از خرید، آدرس وب‌سایت را با دقت بررسی کنید. کلاهبرداران از آدرس‌هایی استفاده می‌کنند که یک یا دو حرف با آدرس اصلی تفاوت دارند (مثلاً russell-bromley.com به جای russellandbromley.com).

3. به دنبال تخفیف‌های غیرمنطقی نروید. فروشگاه‌های معتبر معمولاً تخفیف ۸۰ درصدی روی محصولات جدید و محبوب نمی‌دهند.

4. از ابزارهای بررسی اعتبار وب‌سایت استفاده کنید. قبل از خرید، نام فروشگاه را به همراه کلمه «کلاهبرداری» یا «فیشینگ» جستجو کنید.

5. از کارت‌های اعتباری مجازی یا درگاه‌های پرداخت امن استفاده کنید تا در صورت بروز مشکل، بتوانید تراکنش را پیگیری کنید.

پیام پایانی (به زبان ساده)

هوش مصنوعی هنوز «حس ششم» ندارد. چت‌جی‌پی‌تی نمی‌داند که منبعی که به شما معرفی می‌کند، یک سایت جعلی است یا واقعی. کلاهبرداران خیلی سریع یاد گرفته‌اند که چگونه این مدل‌های زبانی را «مسموم» کنند. پس دفعه بعد که چت‌بات به شما فروشگاهی را پیشنهاد داد، قبل از کلیک و خرید، یک دقیقه مکث کنید، آدرس سایت را چک کنید، به دنبال نظر دیگران بگردید و به تخفیف‌های عجیب و غریب شک کنید. هوش مصنوعی ابزار است، نه مرجع نهایی تشخیص اعتبار.