گزارش جدیدی مشخص می کند هکرها توانسته‌اند با روشی خلاقانه و دلواپس‌کننده، مدل‌های هوش مصنوعی همانند ChatGPT و Grok و این چنین موتور جستجوی گوگل را به ابزاری برای انتشار کردن دستورهای مخرب خود تبدیل کنند. این دستورها عملاً راه را برای نصب بدافزار روی دستگاه کاربر فراهم می‌کند.

این هشدار توسط شرکت امنیتی Huntress انتشار شده است. مطابق گزارش این شرکت، هکر ابتدا با یک دستیار هوش مصنوعی درمورد یک عبارت رایج برای جستجو سخن بگویید می‌کند. سپس از مدل می‌خواهد دستوری را نظر دهد که کاربر باید آن را در ترمینال اجرا کند. هکرها سپس این گفتگو را با پرداخت هزینه در گوگل تبلیغ می‌کنند تا در صدر نتایج جستجو نمایش داده شود. به‌همین‌ترتیب، هر کاربری که عبارت شبیهی را در گوگل جستجو کند، با دستور مخرب روبه رو می‌شود که به ظاهر پیشنهاد خود ChatGPT یا Grok است.

نحوه سوءاستفاده از ChatGPT و Grok

Huntress آزمایش‌های خود روی ChatGPT و Grok را بعد از کشف یک دعوا سرقت‌داده روی مک با نام AMOS اغاز کرده است. در این دعوا، کاربر فقط با جستجوی عبارت «clear disk space on Mac» (به معنی: خالی کردن فضای دیسک در مک) در گوگل و کلیک روی یک لینک تبلیغ شده از ChatGPT آلوده شده است.

کاربر بدون این که فهمید ماهیت مخرب دستور باشد، آن را در ترمینال اجرا کرده و به‌این‌ترتیب، هکر موفق شده تا بدافزار AMOS را روی دستگاه او نصب کند. بازدید محققان Huntress مشخص می کند که این شیوه دعوا در هر دو مدل هوش مصنوعی دیده شده است.

از نظر Huntress، مسئله ترسناک این دعوا توانایی آن در دور زدن تقریباً همه نشانه‌های هشداردهنده قدیمی است. در واقع در این نوع دعوا کاربر نه فایل ناشناسی را دانلود می‌کند و نه برنامه مشکوکی را نصب می‌کند؛ بلکه مبنا کار آن دو ابزار آشنا و معتبر، یعنی گوگل و ChatGPT (یا Grok) می باشند. همین نوشته هم علتاطمینان کاربران می‌شود.

با وجود حذف شدن لینک مخرب از نتایج جستجو، Huntress می‌گوید که این لینک حداقل نیم‌روز بعد از انتشار کردن هشدار هم چنان در نتایج گوگل دیده شده است.

در نهایت، این شرکت به کاربران پیشنهاد کرده که هیچ دستوری را بدون آگاهی کامل از کارکرد آن، چه در ترمینال و چه در نوار آدرس مرورگر اجرا نکنند؛ حتی اگر نظر را از یک چت‌بات یا لینک معتبری دریافت کرده باشید.