چهرههای سرشناس هوش مصنوعی خواستار کاهش سرعت توسعه این فناوری شدند
برخی از سرشناسترین چهرههای دنیای هوش مصنوعی از پیشنهاد داریو آمودی، مدیرعامل آنتروپیک، برای کاهش سرعت توسعه پیشرفتهترین مدلهای هوش مصنوعی و تقویت سازوکارهای ایمنی حمایت کردهاند؛ پیشنهادی که حالا با پشتیبانی ایلان ماسک، سم آلتمن و دمیس هاسابیس روبهرو شده است.
آمودی در مقالهای با عنوان «باید سرعت پیشرفت هوش مصنوعی پیشرفته را کنترل کنیم» هشدار داده است که صنعت هوش مصنوعی باید سرعت توسعه مدلهای پیشرفته را کاهش دهد و در این فاصله، اقدامات جدیتری برای ارزیابی و کنترل خطرات این فناوری انجام شود.
ماسک، میلیارد آمریکایی و مالک اسپیس ایکس که هوش مصنوعی گروک را توسعه داده است، در واکنش به این پیشنهاد در شبکه اجتماعی ایکس نوشت: داریو درست میگوید.
آلتمن، مدیرعامل اوپنایآی، نیز با این دیدگاه موافقت کرد و گفت کنترل سرعت پیشرفت هوش مصنوعی در هفتههای اخیر به یکی از موضوعات اصلی بحث در اوپنایآی تبدیل شده است. او همچنین از پیشنهاد آمودی برای دسترسی گسترده ارزیابان مستقل به سیستمهای پیشرفته هوش مصنوعی استقبال کرد و گفت اوپنایآی نیز چنین رویکردی را دنبال خواهد کرد.
هاسابیس، مدیرعامل گوگل دیپمایند، نیز مقاله آمودی را در مسیر درست دانست، هرچند تأکید کرد که جزئیات این رویکرد هنوز باید مشخص شود. او این پیشنهاد را با درخواست اخیر گوگل دیپمایند برای ایجاد یک نهاد استانداردگذاری در سطح صنعت برای هوش مصنوعی پیشرفته مرتبط دانست.
آمودی در مقاله خود نسبت به توانایی انسان برای حفظ کنترل بر مدلهایی که قادر به بهبود تواناییهای خود هستند، ابراز نگرانی کرده است. او همچنین به یک حادثه اخیر اشاره کرده که در آن عاملهای هوش مصنوعی بهصورت مستقل حملات سایبری انجام داده بودند.
او معتقد است سرعت پیشرفت این مدلها باید کاهش پیدا کند، هرچند این روند همچنان سریع خواهد بود. به گفته آمودی، این کاهش سرعت میتواند فرصت بیشتری برای شناسایی و مدیریت خطرات ایجاد کند.
مدیرعامل آنتروپیک همچنین درباره خطراتی مانند از دست رفتن کنترل سیستمهای هوش مصنوعی، استفاده مخرب از این فناوری برای حملات سایبری و حملات زیستی و همچنین پیامدهای اقتصادی جدی هشدار داده است. به گفته او، رقابت شدید شرکتها برای توسعه سریعتر هوش مصنوعی میتواند این خطرات را افزایش دهد.
در همین حال، اوایل این هفته یکی از پژوهشگران آنتروپیک اعلام کرد که به دلیل نگرانی درباره نحوه توسعه مسئولانه هوش مصنوعی از این شرکت جدا میشود.
جیکوب کاکسون که پیشتر در اوپنایآی نیز فعالیت کرده بود، مدعی شد شرکتهای فعال در این حوزه بیش از آنکه بر ایمنی محصولات هوش مصنوعی تمرکز کنند، درگیر رقابت با یکدیگر شدهاند.
