«مدل متن‌باز» سامانه‌ای است که می‌توان آن را دانلود، اصلاح و روی تجهیزات خصوصی اجرا کرد. برخلاف مدل‌های بسته شرکت‌هایی مانند OpenAI و Anthropic، شرکت سازنده نمی‌تواند از راه دور فعالیت چنین مدلی را متوقف کند. «عامل هوش مصنوعی» نیز نرم‌افزاری است که تنها به پرسش‌ها پاسخ نمی‌دهد، بلکه می‌تواند به‌صورت مستقل از نرم‌افزارهای مختلف استفاده کند، حساب بسازد، مطلب منتشر کند، به کاربران پاسخ دهد و مجموعه‌ای از وظایف پیوسته را انجام دهد.

در عملیات گزارش‌شده، محدودیت‌های ایمنی مدل‌ها که برای جلوگیری از جعل هویت و دست‌کاری بحث‌های آنلاین طراحی شده بودند، غیرفعال شده بود.

به گفته مقام‌های آمریکایی و پژوهشگران امنیتی، صدها عامل هوش مصنوعی شبکه‌هایی از حساب‌های جعلی را در اینستاگرام، فیس‌بوک، ایکس و تیک‌تاک ایجاد کردند و سپس مطالب نادرست سیاسی و خبری را با سرعت بالا منتشر کردند. این عملیات هنوز از نظر محتوایی ابتدایی بود، اما به دلیل خودکارشدن تمام مراحل، توجه سازمان‌های اطلاعاتی آمریکا، شرکت‌های فناوری و متخصصان امنیتی را جلب کرد.

بررسی‌ها نشان داد عملیات ایران و چین تحت حمایت دولت‌ها بوده، اما دو عملیات منتسب به اسرائیل توسط شرکت‌های خصوصی انجام شده است.

عملیات منتسب به ایران و جذب نزدیک به ۸۰ هزار دنبال‌کننده

عملیات منتسب به ایران بیش از دیگر موارد موجب نگرانی مقام‌های آمریکایی شد، زیرا مستقیماً مخاطبان ایالات متحده را هدف قرار داده بود. حساب‌های ساخته‌شده با هوش مصنوعی خود را شهروندان عادی آمریکا و ساکن شهرهای بزرگ معرفی می‌کردند. این حساب‌ها در بخش نظرات، روزنامه‌نگاران و سیاست‌مداران را برچسب می‌زدند و میم‌های رایج و مطالبی علیه حزب جمهوری‌خواه منتشر می‌کردند.

این شبکه در نیمه نخست سال فعال بود و حساب‌های آن در مجموع نزدیک به ۸۰ هزار دنبال‌کننده جذب کردند.

آزمایش شیوه‌های مشابه از سوی چین

گزارش جزئیات چندانی درباره عملیات چین ارائه نمی‌کند و تنها می‌گوید پکن نیز همین شیوه‌های مبتنی بر عامل‌های هوش مصنوعی را آزمایش کرده است.

نگرانی اصلی مقام‌های آمریکایی این است که ایران، چین یا روسیه بتوانند پیش از انتخابات میان‌دوره‌ای نوامبر، عملیات مشابهی را علیه رأی‌دهندگان آمریکایی اجرا کنند. هر سه کشور در انتخابات گذشته نیز از عملیات نفوذ آنلاین و اشکال ابتدایی هوش مصنوعی استفاده کرده‌اند، اما فناوری جدید می‌تواند این اقدامات را بسیار گسترده‌تر، ارزان‌تر و شبیه‌تر به رفتار کاربران واقعی کند.

عملیات شرکت اسرائیلی «اینتل‌آی»

یکی از دو عملیات اسرائیلی به شرکت «اینتل‌آی» مستقر در تل‌آویو نسبت داده شد؛ شرکتی که در سال ۲۰۲۳ به دست فارغ‌التحصیلان گروه NSO، سازنده نرم‌افزارهای جاسوسی، تأسیس شد. این شرکت با استفاده از مدل چینی دیپ‌سیک هزاران حساب در فیس‌بوک، اینستاگرام، تیک‌تاک و ایکس ایجاد کرد که درباره انتخابات آینده اسرائیل مطلب می‌نوشتند و هم‌زمان مطالب موافق و مخالف بنیامین نتانیاهو منتشر می‌کردند.

یکی از بنیان‌گذاران اینتل‌آی گفت شرکتش ۱۰ هزار حساب شبکه اجتماعی خریداری کرده بود که حدود هزار حساب از آنها فعال شدند. عامل‌های هوش مصنوعی موضوع‌ها و پیام‌ها را انتخاب می‌کردند، زیر مطالب نظر می‌گذاشتند و می‌کوشیدند کاربران را وارد گفت‌وگو کنند، هرچند موفقیت محدودی داشتند. او مدعی شد هدف از این فعالیت، اجرای عملیات نفوذ نبوده، بلکه آزمایشی دفاعی برای بررسی امکان سوءاستفاده از مدل‌های فاقد تدابیر ایمنی بوده است؛ با این حال، پذیرفت که شرکت باید پیشاپیش پلتفرم‌ها را از این آزمایش مطلع می‌کرد.

متا این فعالیت را تلاشی هماهنگ برای ایجاد حساب‌های غیرواقعی دانست و گفت بیشتر حساب‌های مرتبط را شناسایی و حذف کرده است.

هشدار متا و تیک‌تاک درباره استفاده از هوش مصنوعی

متا و تیک‌تاک پیش‌تر نیز گزارش داده بودند که هوش مصنوعی برای ساخت حساب و تولید محتوا به کار گرفته می‌شود. متا این تحول را از نظر فنی مهم توصیف کرده است، زیرا هوش مصنوعی اکنون در سامانه‌هایی تعبیه شده که می‌توانند محتوا را با دخالت اندک انسان تولید، اصلاح و توزیع کنند. این شرکت همچنین از عملیات جداگانه و نسبتاً پیچیده یک مجموعه تجاری اسرائیلی خبر داده، اما نام آن را اعلام نکرده است.

ورود عملیات نفوذ به مرحله‌ای تازه

نتیجه اصلی گزارش این است که عملیات نفوذ وارد مرحله‌ای تازه شده است؛ مرحله‌ای که در آن عامل‌های هوش مصنوعی می‌توانند به‌صورت شبانه‌روزی، در مقیاسی وسیع و با هزینه کم، هویت‌های جعلی بسازند، پیام‌ها را با تحولات روز تطبیق دهند و رفتاری شبیه کاربران انسانی نشان دهند. اگرچه نمونه‌های کنونی هنوز ابتدایی و قابل‌شناسایی‌اند، افزایش توانایی مدل‌های متن‌باز می‌تواند شناسایی عاملان، تعطیل‌کردن شبکه‌ها و محافظت از انتخابات و افکار عمومی را به‌مراتب دشوارتر کند.