قابلبیت جدید خلاصه‌سازی ایمیل‌ها با هوش مصنوعی Gemini، ناخواسته به ابزاری قدرتمند برای مجرمان سایبری تبدیل شده است. پژوهشگران موزیلا نشان داده‌اند که می‌توان با یک حمله «تزریق پرامپت»، این سیستم را فریب داد تا خلاصه‌های جعلی تولید کرده و کاربران را به سمت تله‌های فیشینگ هدایت کند.
با افزایش بکارگیری ابزارهای هوش مصنوعی در کارهای روزمره، نگرانی‌ها در مورد امنیت واقعی آن‌ها نیز جدی‌تر شده است. این سیستم‌ها در کنار افزایش بهره‌وری، در حال تبدیل شدن به ابزاری برای سودجویی مجرمان سایبری هستند. به تازگی، محققان روشی فوق‌العاده ساده را برای فریب مدل Gemini گوگل در Gmail کشف کرده‌اند که کمپین‌های فیشینگ را آسان‌تر از همیشه می‌کند.
شرکت موزیلا به تازگی از یک حمله جدید «تزریق پرامپت» یا Prompt Injection علیه مدل هوش مصنوعی Gemini پرده برداشته است. این حمله می‌تواند برای تبدیل خلاصه‌های تولیدشده توسط هوش مصنوعی در اپلیکیشن Gmail، به یک ابزار فیشینگ مؤثر مورد سوءاستفاده قرار گیرد. مارکو فیگروآ، محقق امنیتی، این حمله را در پلتفرم 0din موزیلا تشریح کرده است.
تزریق پرامپت: وقتی هوش مصنوعی کورکورانه اطاعت می‌کند
قابلیت خلاصه‌سازی ایمیل که اخیراً به صورت گسترده در اختیار کاربران Gmail قرار گرفته، قرار بود یک ابزار قدرتمند برای بهبود بهره‌وری باشد. این ویژگی اکنون به طور خودکار در اپلیکیشن موبایل جیمیل عمل می‌کند و همین موضوع زمینه را برای سوءاستفاده فراهم کرده است. حمله تزریق پرامپت از این واقعیت سو استفاده می‌کند که جمنای از هر دستور پنهان‌شده در متن ایمیل پیروی می‌کند.
مهاجمان می‌توانند با استفاده از کدهای ساده HTML و CSS، دستورات مخرب خود را با اندازه فونت صفر یا رنگ سفید در متن ایمیل پنهان کنند، به طوری که برای کاربر نامرئی باشند. با این روش، محققان توانستند یک ایمیل هشدار جعلی درباره به خطر افتادن حساب جیمیل طراحی کنند که از کاربر می‌خواست با یک شماره تلفن تماس گرفته و کدی را ارائه دهد.
در همین رابطه بخوانید:
– هکرهای روس به جان هم افتادند؛ خطر باج‌گیری دوبل از قربانیان باج‌افزار!
– معرفی ابزارهای خلاصه کردن PDF با هوش مصنوعی
خطری برای کل اکوسیستم گوگل
طبق تحلیل 0din، این نوع حمله ریسک متوسطی دارد، زیرا همچنان به اقدام کاربر (مانند تماس گرفتن) نیاز است. با این حال، یک کمپین موفق می‌تواند از طریق فیشینگ صوتی (Voice-Phishing) به سرقت اطلاعات حساب‌های کاربری منجر شود و عواقب جدی به همراه داشته باشد.
نگران‌کننده‌تر اینکه همین تکنیک را می‌توان برای فریب هوش مصنوعی گوگل در ابزارهای دیگری مانند Docs، Slides و جستجوی Drive نیز به کار برد. محققان هشدار می‌دهند که خبرنامه‌ها، ایمیل‌های پشتیبانی خودکار و دیگر پیام‌های انبوه می‌توانند با این روش، یک حساب کاربری هک‌شده را به منبعی برای پخش ایمیل‌های فیشینگ تبدیل کنند.
در واکنش به این خبر، گوگل اعلام کرده است که در حال پیاده‌سازی یک رویکرد امنیتی چندلایه برای مقابله با این نوع حملات در سراسر زیرساخت هوش مصنوعی Gemini است.
