هوشمصنوعی در آزمایشگاه از کنترل خارج شد
رویترز نوشت: اپنایآی اعلام کرد یکی از عاملهای هوش مصنوعی این شرکت در جریان یک آزمایش امنیتی از محیط ایزوله خارج شد، به اینترنت دسترسی پیدا کرد و زیرساختهای پلتفرم «هاگینگ فیس» را هدف قرار داد؛ رخدادی که این شرکت آن را «بیسابقه» توصیف کرده است.
اپنایآی در یک پست وبلاگی توضیح داد این عامل هوش مصنوعی برای ارزیابی تواناییهای سایبری مدلهای پیشرفته در یک محیط کنترلشده در حال آزمایش بود، اما موفق شد محدودیتهای محیط ایزوله را دور بزند، به اینترنت متصل شود و برای انجام مأموریت تعریفشده خود به سامانههای هاگینگ فیس نفوذ کند.
هاگینگ فیس، که یکی از مهمترین بسترهای میزبانی مدلها و مجموعهدادههای متنباز هوش مصنوعی به شمار میرود، هفته گذشته از حملهای خبر داده بود که به گفته این شرکت، از ابتدا تا انتها توسط یک «عامل هوش مصنوعی خودمختار» انجام شده و با حملات پیشین تفاوت داشته است.
کلمان دلانگ، همبنیانگذار هاگینگ فیس، پس از افشای این موضوع اعلام کرد این شرکت از ابتدا احتمال میداد حمله توسط یکی از آزمایشگاههای پیشرفته هوش مصنوعی انجام شده باشد و خودکار بودن کامل این عملیات را «شگفتانگیز» توصیف کرد.
