هوش مصنوعی برای نخستینبار بدون دخالت انسان یک حمله سایبری کامل اجرا کرد
پژوهشگران امنیت سایبری از شناسایی نخستین مورد ثبتشدهای خبر دادهاند که در آن یک عامل هوش مصنوعی، بدون هیچ دخالت انسانی، از نفوذ اولیه تا اجرای کامل یک حمله باجافزاری را بهتنهایی انجام داده است؛ رخدادی که کارشناسان آن را نقطه عطفی نگرانکننده در تحول تهدیدهای سایبری میدانند.
این حمله که توسط پژوهشگران شرکت امنیت ابری سیسدیگ شناسایی شده، از نوع باجافزار بوده است؛ حملهای که در آن مهاجم با رمزگذاری اطلاعات قربانی، برای بازگرداندن دسترسی به دادهها درخواست باج میکند.
محققان این عامل هوش مصنوعی را جیدپافر نامگذاری کردهاند. به گفته آنها، این سامانه بهطور مستقل به یک سرور آسیبپذیر نفوذ کرد، رمزهای عبور و اطلاعات ورود را شناسایی کرد، پایگاه داده اصلی را رمزگذاری کرد و سپس از قربانی درخواست پرداخت باج بهصورت بیتکوین کرد.
مایکل کلارک، مدیر تحقیقات تهدیدات در سیسدیگ، گفت: از زمانی که باجافزارها بهعنوان یک تهدید شناخته شدند، همیشه یک انسان پشت صفحهکلید یا دستکم نویسنده کدهای حمله وجود داشت. اما آنچه ما مشاهده کردیم، نخستین نمونه مستند از یک عملیات اخاذی سایبری است که از ابتدا تا انتها توسط یک مدل زبانی بزرگ هدایت شده است.
بررسیها نشان داد این عامل هوش مصنوعی پس از نفوذ به لنگفلو، یک ابزار متنباز برای توسعه برنامههای مبتنی بر هوش مصنوعی، بلافاصله جستوجوی اطلاعات ورود و کلیدهای دسترسی را آغاز کرد و حتی بهطور خاص به دنبال اطلاعات مربوط به ارائهدهندگان خدمات ابری چینی مانند علیبابا، تنسنت و هوآوی بود.
یکی از ویژگیهای قابلتوجه این حمله، توانایی هوش مصنوعی در سازگار شدن با شرایط در لحظه بود. این سامانه در صورت شکست هر مرحله، راهکار خود را اصلاح میکرد و دوباره تلاش میکرد.
کلارک در این باره گفت: رفتار مدل زبانی از همه چیز شگفتانگیزتر بود. عملیات در لحظه خود را تطبیق میداد و پس از هر شکست، با تنظیمات جدید دوباره اقدام میکرد. در یکی از مراحل، تنها طی ۳۱ ثانیه از یک تلاش ناموفق برای ورود، به یک روش موفق دست یافت.
پژوهشگران همچنین هشدار دادند که حتی اگر قربانی باج را پرداخت میکرد، امکان بازیابی اطلاعات وجود نداشت؛ زیرا عامل هوش مصنوعی پیش از آن، دادهها را بدون تهیه هیچ نسخه پشتیبانی حذف کرده بود.
اگرچه این یافتهها هنوز بهطور مستقل تأیید نشدهاند، اما کارشناسان معتقدند این رویداد نشان میدهد هوش مصنوعی به مرحلهای رسیده که میتواند حملات پیچیده سایبری را بدون نظارت انسان طراحی و اجرا کند؛ موضوعی که ممکن است ورود مجرمان سایبری به این حوزه را بسیار آسانتر کند.
این گزارش تنها چند هفته پس از هشدار مشترک ائتلاف اطلاعاتی فایو آیز منتشر شده است. این ائتلاف اعلام کرده بود مدلهای پیشرفته هوش مصنوعی تنها چند ماه با ایجاد تحول اساسی در تواناییهای تهاجمی و دفاعی سایبری فاصله دارند و دولتها، شرکتها و جامعه باید برای مواجهه با این تهدیدات آماده شوند.
