کشف یک لطمه پذیری خطرناک
پرسی بلاگ: مایکروسافت بتازگی مجبور شد یک لطمه پذیری خیلی خطرناک و بحرانی را در پلت فرم هوش مصنوعی سازمانی خود اصلاح نماید. پژوهشگران امنیت سایبری نشان دادند که چه طور هکرها می توانند با ترفندی پیچیده، دستیار هوش مصنوعی کوپایلوت را فریب دهند و کدهای حساس تأیید دومرحله ای و سایر اطلاعات مهم کاربران را به سرقت ببرند.
به گزارش پرسی بلاگ به نقل از خبر آنلاین، به نقل از دیجیاتو، این نقص امنیتی که توسط محققان شرکت امنیت سایبری Varonis کشف شده است، به هکرها امکان می دهد تا هوش مصنوعی سازمانی مایکروسافت را به سلاحی برای استخراج اطلاعات تبدیل کنند.
این حمله که SearchLeak نام گذاری شده است، نسخه سازمانی کوپایلوت را هدف قرار می دهد. از آنجائیکه این نسخه به تمام داده های داخلی یک سازمان دسترسی دارد، شعاع تخریب آن بسیار گسترده است. مهاجمان با این حفره امنیتی می توانند به ایمیل ها، کدهای تأیید دومرحله ای، دعوت نامه های جلسات، اسناد موجود در SharePoint، فایل های OneDrive و هر محتوای دیگری که کاربر به آنها دسترسی دارد، نفوذ کنند. اگر این دستیار هوشمند به بخش های عمیق تری از شبکه متصل باشد، ابعاد فاجعه حتی بیش از این موارد خواهد بود.
هک هوش مصنوعی کوپایلوت سازمانی مایکروسافت مایکروسافت برای ممانعت از ارسال داده ها توسط هوش مصنوعی به سرور هکرها، موانع امنیتی گوناگونی را در سیستم خود تعبیه کرده است؛ اما هکرها با ترکیب سه ضعف مجزا در چارچوب یک زنجیره یکپارچه، تمام این موانع را دور می زنند.
در فاز نخست، مهاجمان از یک تکنیک جدید به نام تزریق پارامتر به پرامپت استفاده می نمایند. در این شیوه، هکر یک لینک آلوده برای قربانی می فرستد که دستورات مخرب در آخر آدرس اینترنتی پنهان شده اند. زمانیکه کاربر روی این لینک کلیک می کند، کوپایلوت دستور پنهان را به عنوان یک فرمان درست از جانب کاربر تفسیر می کند و بعنوان مثال، ایمیل های وی را می گردد تا عنوان آنها را استخراج کند.
در گام دوم، هکرها از نقطه ضعف نحوه پردازش اطلاعات در این هوش مصنوعی بهره می برند. به صورت معمول، مایکروسافت برای ممانعت از اجرای کدهای مخرب، پاسخ های کوپایلوت را در چارچوب بلوک های متنی ساده محصور می کند. بااین حال، محققان متوجه شدند که این لایه محافظتی تنها بعد از به انتها رسیدن مرحله تفکر هوش مصنوعی فعال می شود.
در حین تولید و استریم پاسخ، کدهای مخرب به شکل موقت در مرورگر کاربر بارگذاری می شوند و قبل از آن که سیستم محافظتی وارد عمل شود، اطلاعات را به بیرون ارسال می کنند. درنهایت، برای دور زدن محدودیت های ارسال اطلاعات به سایت های ناشناس، هکرها از موتور جستجوی Bing به عنوان یک واسطه استفاده می نمایند. از آنجائیکه سیستم به دامنه های مایکروسافت اعتماد کامل دارد، درخواست آلوده از راه خصوصیت جستجوی تصویر بینگ به سرور هکر منتقل می شود و اطلاعات حساس کاربر در اختیار مهاجم قرار می گیرد.
البته مایکروسافت روز سه شنبه گذشته صدمه پذیری های سرچ لیک را پچ کرد. بااین حال رفع کردن یک حفره امنیتی به مفهوم پایان این کابوس نیست. از آنجائیکه هنوز هیچ راهکار شناخته شده ای برای رفع علت اصلی مشکل مدلهای زبانی بزرگ در فریب خوردن وجود ندارد، هکرها دیر یا زود راه های دیگری برای دورزدن موانع امنیتی جدید پیدا خواهند کرد.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب