هوش مصنوعی چگونه به سلاح پنهان اسرائیل و آمریکا تبدیل شد؟
سجاد عابدی، کارشناس مسائل بین الملل به بررسی تأثیر هوش مصنوعی بر شناسایی اهداف نظامی، تحلیل دادههای اطلاعاتی و جنگ روایتها تا نقش آن در دیپلماسی عمومی، قدرت نرم کشورها و رقابت راهبردی آمریکا و چین و چالشهای حقوقی و اخلاقی استفاده از هوش مصنوعی در میدان نبرد پرداخته است.
محمد عارف معزی: هوش مصنوعی در سالهای اخیر به یکی از مهمترین مؤلفههای قدرت در عرصه نظامی، امنیتی و بینالمللی تبدیل شده است. ارتشهای بزرگ جهان با تکیه بر سامانههای هوشمند، تحلیل دادههای اطلاعاتی، تصاویر ماهوارهای و شناسایی اهداف، سرعت و دقت تصمیمگیری را افزایش دادهاند. در کنار میدان نبرد، هوش مصنوعی به ابزاری مؤثر در جنگ روایتها، دیپلماسی عمومی و افزایش قدرت نرم کشورها نیز بدل شده است.
با این حال، وابستگی فزاینده به الگوریتمها نگرانیهایی درباره خطاهای محاسباتی، آسیب به غیرنظامیان و خلأهای حقوقی و اخلاقی ایجاد کرده است. کارشناسان معتقدند رقابت آمریکا و چین در حوزه هوش مصنوعی میتواند موازنه قدرت جهانی و نظم بینالملل را دگرگون کند. در این میان، مهمترین فرصت برای کشورها بهرهگیری از هوش مصنوعی در تقویت زیرساختهای امنیتی، نظامی و دیپلماتیک است و مهمترین تهدید نیز احتمال شکلگیری سامانههای خودمختار و نبود چارچوبهای حقوقی مؤثر برای کنترل آنها به شمار میرود.
به همین منظور سجاد عابدی، کارشناس مسائل بینالملل مهمان ما در کافه خبر خبرآنلاین شد تا در گفتگویی صمیمانه اما تحلیلی و تأمل برانگیز به بررسی نقش فزاینده هوش مصنوعی در جنگهای مدرن، تحولات امنیتی و آینده نظم بینالملل بپردازد.
در این گفتوگو از تأثیر هوش مصنوعی بر شناسایی اهداف نظامی، تحلیل دادههای اطلاعاتی و جنگ روایتها تا نقش آن در دیپلماسی عمومی، قدرت نرم کشورها و رقابت راهبردی آمریکا و چین سخن گفته شد. همچنین چالشهای حقوقی و اخلاقی استفاده از هوش مصنوعی در میدان نبرد، احتمال افزایش خطاهای محاسباتی و جنایات جنگی، آینده تصمیمسازی دولتها با اتکا به سامانههای هوشمند و مهمترین فرصتها و تهدیدهای این فناوری برای آینده جنگها و روابط بینالملل مورد بحث و بررسی قرار گرفت.
در ادامه مشروح گفتوگوی سجاد عابدی را در خبرگزاری خبرآنلاین میخوانید؛
قدرتمندترین شرکتهای هوش مصنوعی دنیا، بیسروصدا در حال تغییر معادلات جنگ هستند
*** در ماههای اخیر قراردادها و همکاریهای پنتاگون با شرکتهای بزرگی مانند پلنتیر و پرپلکسیتی مورد توجه قرار گرفته است. هوش مصنوعی امروز دقیقاً چه نقشی در جنگهای مدرن ایفا میکند و چرا ارتشهای بزرگ تا این اندازه به آن وابسته شدهاند؟
ببینید، یکی از شرکتهای خاموش و تأثیرگذار که اکنون در جهان واقعاً مورد توجه و بررسی قرار گرفته، شرکت «پلنتیر» آمریکاست که به نظر میرسد به سمتی حرکت میکند که ماهیت آن شبیه NSA، یعنی آژانس امنیت ملی آمریکا، شود.
مهمترین نکتهای که درباره شرکت پلنتیر میتوان مطرح کرد و به نظر من این شرکت را به الگوریتم اصلی هوش مصنوعی در ساختار امنیتی و دفاعی آمریکا تبدیل کرده، این است که هوش مصنوعی به سمتی در حال حرکت است که آینده عصر انسان، حریم خصوصی و حتی ساختارهای دموکراتیک را در فضای بینالملل تحت تأثیر قرار خواهد داداین شرکت داستان پیچیدهای دارد. از روز تأسیس خود در سال ۲۰۰۳ توسط یکی از بنیانگذاران شرکت پیپال، یکی از اصلیترین و نخستین مشتریان بزرگ آن، سازمان سیا بود. این شرکت پس از تأسیس، با همکاری بازوی اقتصادی سیا حدود یک و نیم میلیون دلار بودجه دریافت کرد تا نخستین پروژه خود با نام «گاتهام» را راهاندازی کند.
پروژه گاتهام، پروژهای بسیار پیچیده بود که با حجم عظیمی از دادههای ساختاریافته و غیرساختاریافته، از جمله اسناد، تصاویر ماهوارهای، دادههای پهپادها، هواپیماهای جاسوسی و اطلاعات جمعآوریشده در سطح زمین، فعالیت خود را آغاز کرد و تقریباً میتوان گفت به بازوی تحلیل اطلاعاتی سازمان سیا تبدیل شد؛ بهویژه در بسیاری از موضوعات، از جمله جنگهای نظامی.
نکته جالب درباره این شرکت آن است که بهتدریج به جایگاهی رسید که گویی هیچ چیز برای آن پنهان نیست. برای توضیح این موضوع میتوان به سال ۲۰۲۳ اشاره کرد؛ زمانی که هالیوود فیلمی با عنوان Heart of Stone ساخت. در این فیلم، تقریباً میتوان گفت از پروژه گاتهام رونمایی شد. در آنجا هیچ چیز پنهان نبود؛ مسیرها، استراتژیها، تماسهای تلفنی و تقریباً همه چیز در دسترس قرار داشت.
اما پروژه گاتهام پایان کار نبود. این شرکت به سمتی حرکت کرد که تنها به حوزههای نظامی و امنیتی محدود نشود. در ادامه، پروژه دیگری با نام «فاندری» طراحی کرد و با شرکتهای خصوصی و تجاری فعال در حوزه اطلاعات و امنیت قرارداد بست.
در واقع، ترکیبی از دولت و بخش خصوصی شکل گرفت. اگر وظیفه گاتهام جمعآوری دادهها و انجام بخشی از تحلیلها بود، پروژه فاندری در بخش خصوصی امکان دسترسی به این اطلاعات را فراهم میکرد و آنها را با دادههای دیگر تطبیق میداد و تحلیلهای مختلفی، از جمله تحلیلهای اقتصادی و روندهای بازارهای بورس جهانی، ارائه میکرد.
اما در ژانویه ۲۰۲۵، این شرکت قراردادی با پنتاگون امضا کرد که «پروژه ماون» نام داشت. ما آثار این پروژه را در جنگ ۱۲ روزه و جنگ ۳۹ روزه بهخوبی مشاهده کردیم.
هوش مصنوعی، ماشین جنگی جدید ارتش آمریکا
پروژه ماون، پروژهای بود که سه شرکت در پشت آن قرار داشتند. یکی پلنتیر، دیگری متا و سومی شرکت اوپنایآی. این نام برگرفته از «سنگهای بینا» در رمان ارباب حلقهها بود؛ سنگهایی کروی که گفته میشد امکان مشاهده آینده را فراهم میکنند.
ترکیب این سه شرکت، گروهی را با عنوان «Task Force ۲۰۱» تشکیل داد و حتی یک گروهبان آمریکایی نیز به عنوان مسئول آن منصوب شد. این ساختار جدید عملاً به نوعی ماشین جنگی آمریکا تبدیل شد.
در این پروژه، تقریباً تمامی دادهها و کلاندادههای موجود در سطح جهان تجمیع شد. وظیفه آن تحلیل اطلاعات و ارائه الگوریتمهای نظامی، امنیتی و عملیاتی به ارتش آمریکا بود.
اما ماون نیز به همینجا ختم نشد. در ژوئن ۲۰۲۵، حدود سه یا چهار هفته پس از آغاز جنگ اسرائیل و غزه، این مجموعه بهصورت رسمی اعلام کرد که سه پلتفرم برای اسرائیل طراحی کرده است.
این سه پلتفرم شامل «Lavender»، «Gospel» و «Where’s Daddy» بودند. سامانه «Where’s Daddy» بیشتر در جنگ غزه مورد استفاده قرار گرفت و عملاً به موتور هدفگیری و کشتار تبدیل شد.
در مقابل، «Lavender» و «Gospel» بیشتر برای تحلیل دادهها و شناسایی اهداف مورد استفاده قرار میگرفتند. یکی از مهمترین کارکردهای آنها، که بعدها در موضوعاتی مانند شهادت سید حسن نصرالله، شهید هاشم صفیالدین و سایر فرماندهان مقاومت مطرح شد، انجام عملیات تقاطعگیری اطلاعاتی از طریق هوش مصنوعی بود.
به این معنا که دادههای مختلف به سامانه داده میشد، سامانه میان آنها ارتباط برقرار میکرد، الگوها را شناسایی میکرد و در نهایت به نقطهزنی و تعیین اهداف میرسید.
اما مهمترین نکتهای که درباره شرکت پلنتیر میتوان مطرح کرد و به نظر من این شرکت را به الگوریتم اصلی هوش مصنوعی در ساختار امنیتی و دفاعی آمریکا تبدیل کرده، این است که هوش مصنوعی به سمتی در حال حرکت است که آینده عصر انسان، حریم خصوصی و حتی ساختارهای دموکراتیک را در فضای بینالملل تحت تأثیر قرار خواهد داد.
*** در میان شرکتهایی که نام بردید، فکر میکنم شرکت «پرپلکسیتی» هم در همین مسیر حرکت میکند.
بله، آن شرکت نیز در همین راستا حرکت میکند؛ اما عرض میکنم که قدرتمندترین شرکتی که اکنون از آن نام برده میشود و متأسفانه اطلاعات چندانی نیز از آن در دسترس نیست، همین شرکت پلنتیر است. این مجموعه بهصورت بسیار خاموش و بیسروصدا در حال پیشروی است و به نظر من یکی از مهمترین بازیگران پنهان عرصه هوش مصنوعی در جهان محسوب میشود.
کشوری که اطلاعات بیشتری داشته باشد، دست برتر جنگهای آینده را خواهد داشت
*** هوش مصنوعی چگونه در شناسایی اهداف، تحلیل دادههای اطلاعاتی، تصاویر ماهوارهای و تصمیمسازی نظامی مورد استفاده قرار میگیرد و آیا میتواند موازنه قدرت در جنگها را تغییر دهد؟
بله. ببینید، همانگونه که عرض کردم، هوش مصنوعی در حال اثرگذاری بر مفاهیمی همچون انسانیت، حریم خصوصی و حتی ساختارهای دموکراتیک در جهان است.
هوش مصنوعی یا Artificial Intelligence که امروز در ادبیات بینالمللی از آن یاد میشود، فضایی است که بر اساس دادههایی که در اختیار آن قرار میگیرد، برای شما الگوریتم طراحی میکند. بر پایه یک نقشه راه (Roadmap)، یک جدول زمانی (Timeline) و یک برنامه زمانبندی مشخص، مسیر حرکت را تعیین میکند و در قالب گامهای متوالی، هر آنچه را که از آن بخواهید، طراحی و ارائه میدهد.
اینکه آیا میتواند موازنه قدرت را برهم بزند یا خیر، به نظر من پاسخ کاملاً مثبت است. معتقدم در عصر کنونی روابط بینالملل و در فضایی که امروز بر جهان حاکم است، دو مؤلفه اساسی وجود دارد. نخست اینکه ما در عصر رسانه زندگی میکنیم و دوم اینکه جنگ امروز، بیش از هر چیز، جنگ اطلاعات است.
کشورهای قدرتمند، کشورهایی هستند که اطلاعات بیشتری در اختیار دارند. هرچه حجم اطلاعات یک کشور بیشتر باشد، قدرت تحلیل و تصمیمسازی آن نیز افزایش پیدا میکند. زمانی که اطلاعات گستردهای در اختیار باشد، بر پایه فناوریهای پیشرفتهای که طراحی شدهاند، فرایندهای دادهکاوی (Data Mining) شکل میگیرد و از دل این دادهکاویها الگوریتمهایی استخراج میشود که مبنای تصمیمگیری قرار میگیرند.
هوش مصنوعی بر اساس دادهها، مسیر رسیدن به هدف را طراحی میکند
ما معمولاً هوش مصنوعی را به دو یا سه سال اخیر نسبت میدهیم، در حالی که اگر از من سؤال شود، خواهم گفت که هوش مصنوعی مربوط به ۱۵ یا حتی ۲۰ سال پیش است. همانطور که عرض کردم، شرکتی مانند پلنتیر از سال ۲۰۰۳ فعالیت خود را آغاز کرده استاستفاده از این الگوریتمها، چه در دادههای ساختاریافته و چه در دادههای غیرساختاریافته، بستگی به حوزه و دستهبندی مورد استفاده دارد. اما در نهایت، هدفی که طراحی میکنید، بر بستر هوش مصنوعی و بر مبنای اطلاعاتی که در اختیار سیستم قرار میگیرد، بسیار سریعتر، دقیقتر و هدفمندتر قابل دستیابی خواهد بود.
این هدف میتواند یک هدف انسانی باشد، میتواند یک عملیات نظامی باشد و حتی میتواند تغییر یک ساختار سیاسی یا اجتماعی را دنبال کند؛ همانگونه که در ونزوئلا و برخی کشورهای دیگر شاهد چنین روندهایی بودهایم.
نکته مهم این است که ما معمولاً هوش مصنوعی را به دو یا سه سال اخیر نسبت میدهیم، در حالی که اگر از من سؤال شود، خواهم گفت که هوش مصنوعی مربوط به ۱۵ یا حتی ۲۰ سال پیش است. همانطور که عرض کردم، شرکتی مانند پلنتیر از سال ۲۰۰۳ فعالیت خود را آغاز کرده است. این یعنی آمریکا از بیش از دو دهه قبل در حال کار روی ساختارهای هوش مصنوعی، تحلیل داده و الگوریتمهای تصمیمساز بوده است.
حتی برخی رخدادهایی که در لیبی اتفاق افتاد نیز از نگاه من قابل پیوند با فناوریهای نوین و زیرساختهای مبتنی بر هوش مصنوعی است. بنابراین، ما با پدیدهای مواجه نیستیم که صرفاً محصول چند سال اخیر باشد؛ بلکه با روندی مواجه هستیم که سالها برای آن سرمایهگذاری، برنامهریزی و زیرساختسازی شده است.
برای فاجعه مدرسه میناب دو سناریو مطرح است...
*** برخی تحلیلگران حملات آمریکا به اهداف غیرنظامی، از جمله حمله به مدرسه شجره طیبه میناب را نتیجه اتکای بیش از حد به سامانههای هوش مصنوعی و خطاهای الگوریتمی میدانند. تا چه اندازه این تحلیل را قابل قبول میدانید؟
ببینید، اعتقاد من بر علم و ساینس است. به نظر من، علوم مهندسی، ریاضیات و سامانههای مبتنی بر فناوری اصولاً اشتباه نمیکنند؛ مگر آنکه دادههایی که به آنها داده میشود، نادرست باشد.
یعنی اگر ورودیها و دادههای اولیه اشتباه باشند، طبیعتاً خروجی نیز دچار خطا خواهد شد و محاسبات نادرستی ارائه خواهد شد. بنابراین، در وهله نخست باید منشأ دادهها و کیفیت اطلاعات ورودی مورد بررسی قرار گیرد.
پیش از ورود به این بحث، لازم است به نکته دیگری نیز اشاره کنم. بسیاری معتقدند که هوش مصنوعی در سالهای آینده عامل انسانی را حذف خواهد کرد. به نظر من، این روند تا حد زیادی آغاز شده است. بسیاری از شرکتهای بزرگ در تلاش هستند بروکراسی را از ساختارهای سازمانی خود حذف کنند؛ زیرا هوش مصنوعی میتواند بسیاری از فرایندها را تسهیل کرده و مراحل مختلف را بهصورت لایهبهلایه مدیریت کند.
اما درباره حادثه مدرسه میناب، به نظر من دو سناریو قابل طرح است.
سناریوی نخست، احتمال وقوع خطای انسانی در داخل سیستم است. بدون تعارف، همواره این احتمال وجود دارد که در فرایند تحلیل، پردازش یا انتقال اطلاعات، خطایی از سوی عامل انسانی رخ داده باشد.
سناریوی دوم، همان چیزی است که برخی رسانهها و خبرگزاریهای آمریکایی مطرح کردهاند؛ اینکه دادههای نادرست به سامانه هوش مصنوعی یا همان موتور هشدار و موتور عملیاتی آمریکا داده شده و همین مسئله موجب شده آن هدف مورد حمله قرار گیرد.
بعید است آمریکا بر مبنای اطلاعات سوخته عملیات انجام دهد
در این صورت، مشکل نه از خود هوش مصنوعی، بلکه از کیفیت و صحت اطلاعاتی است که در اختیار آن قرار گرفته است. هوش مصنوعی بر اساس دادههایی که دریافت میکند تصمیم میگیرد و اگر آن دادهها نادرست باشند، خروجی نیز دچار اشکال خواهد شد.
البته باید این موضوع را نیز در نظر گرفت که در بحث جمعآوری اطلاعات و دادهها، این اطلاعات تا چه اندازه بهروز بودهاند. شخصاً بعید میدانم که در شرایط کنونی و در عصر فناوریهای پیشرفته، کشوری مانند ایالات متحده آمریکا بخواهد بر اساس اطلاعات و دادههای سوخته، قدیمی یا فاقد اعتبار اقدام به طراحی عملیات و تصمیمگیری کند.
به همین دلیل، اگر چنین حادثهای رخ داده باشد، باید بررسی شود که آیا خطا در مرحله جمعآوری اطلاعات اتفاق افتاده، در مرحله تحلیل دادهها رخ داده یا اساساً اطلاعات نادرستی به سامانه منتقل شده است.
در مجموع، من معتقدم که برای قضاوت درباره چنین رخدادهایی باید با احتیاط برخورد کرد. نمیتوان هر خطای عملیاتی را صرفاً به هوش مصنوعی نسبت داد و از سوی دیگر نیز نمیتوان نقش این سامانهها را در تصمیمگیریهای نظامی نادیده گرفت. آنچه اهمیت دارد، کیفیت دادههای ورودی، نحوه پردازش اطلاعات و میزان نظارت انسانی بر تصمیمات نهایی است. نکته اول همین است. نکته دوم اینکه در بحث جمعآوری اطلاعات، ما با دو بخش مواجه هستیم؛ یکی میزان دسترسی و دیگری میزان اعتماد.
یعنی زمانی که دادهای جمعآوری میشود، فردی که پشت این میز نشسته است دو موضوع را بررسی میکند؛ نخست اینکه فردی که این داده را ارائه کرده، تا چه اندازه به اطلاعات دسترسی داشته است و دوم اینکه این دسترسی بر چه مبنایی و با چه سطحی از اعتماد در آن سازمان، نهاد یا ساختار شکل گرفته است.
هر خطای الگوریتمی ریشه در خطای دادهها دارد
ما در اینجا درباره ریاضیات و محاسبات صحبت میکنیم و اگر بخواهیم واقعگرایانه نگاه کنیم، برای کشوری مانند ایالات متحده آمریکا بسیار بعید است که بخواهد بر مبنای اطلاعات سوخته و یا دریافت اطلاعات از مهرههای سوخته، هدفی را مورد حمله قرار دهدصرفاً بر اساس اطلاعات میدانی نیست که دادهها به هوش مصنوعی داده میشوند تا گفته شود «این الگوریتم را برای من طراحی کن». اتفاقاً یکی از ساختارهای جذاب و مهم هوش مصنوعی این است که وقتی حجم عظیمی از اطلاعات میدانی در اختیار آن قرار میگیرد، بر اساس دادههای گذشته اقدام به آیندهنگری میکند و از منظر آیندهپژوهی، سناریوهای مختلف را پیش روی شما قرار میدهد.
فرض کنید در نقطه «الف» شرایطی خاص وجود دارد؛ هوش مصنوعی بر اساس دادهها، نقشههای هوایی، اطلاعات آواکسها، دادههای جمعآوریشده میدانی و سایر منابع اطلاعاتی، همه این موارد را در یک چرخه قرار میدهد و سپس بر مبنای آن، سناریوی مطلوب را به شما ارائه میکند.
در علم آیندهپژوهی، اگر احتمال تحقق یک سناریو بیش از ۵۰ درصد باشد، آن سناریو قابل اتکا تلقی میشود.
اما در فضای فکری، تحلیلی و انسانی، با توجه به تجربهای که ما در خردادماه ۱۴۰۴ و همچنین در اسفندماه ۱۴۰۴ کسب کردیم و با توجه به فاصله زمانی میان این رخدادها، از دیدگاه من به عنوان یک معلم ساده، امکانپذیر نیست که یک موتور پیشرفته هوش مصنوعی دچار چنین اشتباهی شود.
ما در اینجا درباره ریاضیات و محاسبات صحبت میکنیم و اگر بخواهیم واقعگرایانه نگاه کنیم، برای کشوری مانند ایالات متحده آمریکا بسیار بعید است که بخواهد بر مبنای اطلاعات سوخته و یا دریافت اطلاعات از مهرههای سوخته، هدفی را مورد حمله قرار دهد.
آمریکا پس از شکستهای میدانی به سمت فناوری حرکت کرد
*** آیا میتوان گفت افزایش استفاده از هوش مصنوعی در عملیات نظامی، خطر وقوع اشتباهات محاسباتی و حتی جنایات جنگی را افزایش داده است؟
خیر. اجازه بدهید با یک مثال توضیح دهم. اگر به گذشته بازگردیم، ایالات متحده آمریکا در سال ۲۰۰۵ یا ۲۰۰۶ ـ اگر اشتباه نکنم ـ عملیاتی را در افغانستان با عنوان «بالهای سرخ» انجام داد؛ عملیاتی که بعدها فیلم آن نیز بر اساس واقعیت ساخته شد.
در آن عملیات، دو اتفاق رخ داد؛ نخست اعتماد بیش از حد به برخی منابع و دوم، عدم استفاده مؤثر از فناوریهای نوین. در واقع تکنولوژی در آن عملیات عملاً کنار گذاشته شد.
پس از آن حادثه ـ که به نظر من یکی از فجایع مهم تاریخ نظامی آمریکا در منطقه محسوب میشود ـ ایالات متحده به این جمعبندی رسید که دیگر حاضر نیست بدون بهرهگیری از فناوریهای پیشرفته وارد چنین عرصههایی شود.
پس از آن فاجعه و تغییر راهبردهای نظامی آمریکا، پنتاگون به سمت استفاده گسترده از فناوریهای نوین حرکت کرد تا اهداف نظامی، امنیتی و اطلاعاتی خود را بر پایه این ابزارها پیش ببرد.
این روند بهگونهای پیش رفت که استفاده از فناوریهای نوین به بالاترین سطح خود رسید؛ از پهپادها گرفته تا تصاویر ماهوارهای، آواکسها، نقشههای اطلاعاتی و هر فناوری دیگری که بتواند در اجرای دقیقتر عملیات مؤثر باشد.
هدف از بهکارگیری این ابزارها چیست؟ هدف آن است که دقیقترین عملیات با بالاترین احتمال موفقیت انجام شود.
پیشزمینه این موفقیت چیست؟ همان فناوری و تکنولوژی.
تکنولوژی هیچوقت اشتباه نمیکند؛ میزان خطای آن از انسان کمتر است
من شخصاً معتقدم که شاید این حرف بسیار قاطعانه به نظر برسد، اما تکنولوژی ذاتاً اشتباه نمیکند. بله، میزان خطا دارد، اما این میزان خطا در مقایسه با تصمیمگیری صرفاً انسانی بسیار پایینتر است. آنچه اهمیت دارد، کیفیت دادههایی است که به سیستم داده میشود.
همانطور که در ابتدای عرایضم اشاره کردم، مهمترین مسئله، حجم و کیفیت دادههایی است که در اختیار موتور هوش مصنوعی قرار میگیرد.
این دادهها بهصورت لایهبهلایه پردازش میشوند. هوش مصنوعی از سطوح مختلف عبور میکند تا در نهایت چکیدهای از اطلاعات را ارائه دهد؛ چکیدهای که دقیقاً با هدفگذاری طراحیشده مطابقت داشته باشد.
در واقع سامانه، حجم عظیمی از دادهها را به اطلاعاتی مختصر، مفید و قابل استفاده تبدیل میکند تا فرد تصمیمگیر بتواند با بالاترین میزان بهرهوری و بیشترین احتمال موفقیت، اقدام کند؛ چه در یک عملیات نظامی، چه در یک مأموریت امنیتی و چه در هر هدف دیگری که از پیش تعریف شده باشد.
بنابراین، از نظر من امکان اینکه تکنولوژی در بالاترین سطح دچار اشتباه اساسی شود، بسیار پایین است. چرا؟
زیرا حجم عظیمی از دادهها وارد سیستم میشود، این دادهها در چندین لایه پردازش میشوند و در نهایت، بر اساس هدف، استراتژی و جدول زمانی تعریفشده، دقیقترین الگوریتم ممکن تولید میشود.
امروز تحلیل موشک را ماشین انجام میدهد، نه انسان
*** در جنگهای امروز، نبرد فقط در میدان نظامی جریان ندارد و جنگ روایتها نیز اهمیت فزایندهای پیدا کرده است. هوش مصنوعی چه تأثیری بر این حوزه گذاشته است؟
ببینید، تأثیر هوش مصنوعی چه در داخل و چه در خارج، در هر دو حوزه بسیار قابل توجه است. عرض کردم خدمتتان، یکی از موارد مهم در این حوزه، بحث تأثیرگذاری انسانی و سپس تأثیرگذاری دموکراتیک آن است.
به نظر من، اگر اندکی جلوتر برویم و این موضوع را بررسی کنیم، خواهیم دید که هوش مصنوعی حتی در حوزه روابط بینالملل و مباحث دیپلماتیک نیز در حال اثرگذاری است. به بیان دیگر، میتواند ابزاری برای افرادی باشد که در حوزه رسانه فعالیت میکنند؛ فعلاً آن بحث را کنار میگذارم، اما برای یک دیپلمات، چه در این سو و چه در آن سو، میتواند ابزاری برای کنشها و واکنشها باشد.
نکته دوم این است که در خارج از ایران، هوش مصنوعی به یک باورپذیری اساسی رسیده است؛ یعنی فونداسیون آن به شدت قدرتمند است و بر اساس همان فونداسیون، این سازه هوش مصنوعی به شکلی مستقیم و قدرتمند رشد کرده است. در این دو جنگ اخیر نیز تأثیرگذاری خود را، بهویژه در عصر رسانه و فضای رسانهای، بهخوبی نشان داده است.
هوش مصنوعی به مهمترین سلاح جنگ روایتها تبدیل شده است
در شبکههای اجتماعی مختلف مشاهده کردیم که در موضوعاتی مانند مدرسه مینا، مسیر موشک، نوع موشک، طراحی موشک، حرکت موشک از یک نقطه تا نقطه دیگر و بسیاری از جزئیات دیگر مورد تحلیل قرار میگرفت. طبیعتاً رسانه بهتنهایی توان تحلیل چنین دادههایی را ندارد؛ این دادهها به ماشینی به نام هوش مصنوعی سپرده میشود و آن، مدل موشک، تصاویر مرتبط و حتی تاریخچه آن را در اختیار مخاطب قرار میدهد.
اما در داخل ایران، یکی از نقدهای بزرگ به ساختار فناوری ما این است که هنوز هوش مصنوعی را باور نکردهایم. هنوز به سطح لازم از باورپذیری برای استفاده از هوش مصنوعی در حوزههای مختلف نرسیدهایم. هنوز به این جمعبندی نرسیدهایم که هوش مصنوعی باید یکی از دغدغههای اصلی حاکمیت باشد.
امروز حدود یک سال و نیم تا دو سال است که موضوع هوش مصنوعی در کشور بسیار پررنگ شده است. سمینارها و کنفرانسهای مختلفی برگزار شده و مراکز متعددی با عناوینی همچون «مرکز هوش مصنوعی» ایجاد شدهاند، اما از یک نکته اساسی غفلت کردهایم و آن این است که تمام این انشعابهایی که به هوش مصنوعی دادهایم، هنوز فاقد مرکزیت هستند و یک مرکز ثقل مشخص ندارند.
شما زمانی که میخواهید اهرمی را در نقطهای مستقر کنید، آن اهرم نیازمند یک مرکز ثقل است. باید یک سطح مقطع مشخص داشته باشد تا هر نیرویی که به آن وارد میشود، بر همان اساس عمل کند. ما هنوز آن مرکز ثقل را ایجاد نکردهایم. صرفاً شاخههایی را ایجاد کردهایم که مدام منشعب میشوند، اما گویا قرار نیست به یک دریا یا حتی یک دریاچه ختم شوند.
دیپلماسی عمومی بدون دسترسی آزاد به اطلاعات معنا ندارد
*** در طول جنگ اخیر، سفارتخانهها و حسابهای رسمی ایرانی از تصاویر و محتوای تولیدشده با هوش مصنوعی برای انتقال پیامهای سیاسی استفاده کردند. آینده نقش هوش مصنوعی در دیپلماسی عمومی را چگونه ارزیابی میکنید؟
وقتی دسترسی آزاد به اطلاعات وجود داشته باشد، در گام بعدی وارد فضای مجازی و شبکههای اجتماعی میشویم. در آنجا نیز اگر آزادی عمل در دسترسی به اطلاعات وجود داشته باشد، میتوان ساختار مناسبی طراحی کردبرای بررسی آینده هوش مصنوعی در دیپلماسی عمومی، ابتدا باید تعریف درستی از شبکههای اجتماعی داشته باشیم. بحث من فعلاً در داخل کشور است و نمیخواهم به خارج از کشور بپردازم.
نخست باید مشخص کنیم که آیا مدل حکمرانی درستی در حوزه شبکههای اجتماعی داریم یا خیر؛ چرا که زیربنای آن، اینترنت و ساختارهای مرتبط با آن است. موضوع دوم، تعریف صحیح از دیپلماسی عمومی است. آیا در این تعریف، مباحث انسانی، حریم خصوصی و سایر ابعاد انسانی لحاظ شدهاند یا خیر؟
اگر بخواهیم این موضوع را در قالب یک مثلث یا کنسرسیوم ترسیم کنیم، باید تمامی اضلاع آن کاملاً با یکدیگر منطبق باشند. حتی نه صرفاً همپوشانی، بلکه تطابق کامل داشته باشند. نخست باید تعریفی صحیح از این مفاهیم ارائه دهیم.
این تعریف صحیح چگونه شکل میگیرد؟ از طریق تدوین یک سند راهبردی در حوزه فضای مجازی. ممکن است برخی دوستان بگویند که چنین سندی وجود دارد، اما سؤال اینجاست که آیا تمامی سلیقهها و دیدگاهها در آن گنجانده شدهاند یا خیر؟
نکته دیگر این است که جهان بر اساس الگوهای مشخصی حرکت میکند. این الگوهای جهانی بر پایه پیشزمینههای معینی طراحی شدهاند. فرض کنیم ۱۶ کشور در این حوزه مسیر مشخصی را طی میکنند. متأسفانه یکی از مشکلات ما در حوزه حکمرانی این است که تمایل چندانی به بهرهگیری از این الگوهای جهانی نداریم.
حتی حاضر نیستیم برخی از دیدگاههای خود را بر بستر این الگوهای جهانی پیادهسازی کنیم؛ همانگونه که در ابتدای انقلاب، قانون اساسی کشور با الگوبرداری از برخی تجربیات دیگر تدوین شد و بخشهایی از آن پذیرفته یا حذف گردید.
اما درباره آینده دیپلماسی عمومی، معتقدم که ابتدا باید امکان دسترسی آزاد مردم به اطلاعات فراهم شود. زمانی که جامعه بتواند به اطلاعات دسترسی داشته باشد، میتوان گفت که مبنای دیپلماسی عمومی شکل گرفته است؛ زیرا اساس گفتوگو فراهم شده است.
وقتی دسترسی آزاد به اطلاعات وجود داشته باشد، در گام بعدی وارد فضای مجازی و شبکههای اجتماعی میشویم. در آنجا نیز اگر آزادی عمل در دسترسی به اطلاعات وجود داشته باشد، میتوان ساختار مناسبی طراحی کرد.
ما هنوز تعریف مشترکی از حکمرانی فضای مجازی نداریم
شما در پلتفرمهایی مانند اینستاگرام، تلگرام یا ایکس مشاهده میکنید که بخشی از اطلاعات آشکار و بخش دیگری پنهان است. از نگاه من، افرادی که به اطلاعات پنهان دسترسی دارند، معمولاً آن اطلاعات را مستقیماً در فضای مجازی منتشر نمیکنند. در حوزههای امنیتی و اطلاعاتی، معمولاً کسی که داده در اختیار دارد، آن را بهصورت مستقیم منتشر نمیکند، بلکه بر اساس آن تحلیل ارائه میدهد.
اما اگر جامعه به اطلاعاتی که باید در اختیار داشته باشد دسترسی پیدا کند، الگوریتم فضای مجازی نیز در راستای حکمرانی مطلوب شکل خواهد گرفت. در غیر این صورت، چنین اتفاقی رخ نخواهد داد.
برای مثال، در ابتدای صحبتهایم به شرکت متا و اوپنایآی اشاره کردم که اساس کار آنها جمعآوری داده است. اما در فضای دیپلماسی عمومی داخل کشور، همچنان شاهد هستیم که مردم تمایل دارند از ابزارهایی مانند واتساپ و تلگرام استفاده کنند. دلیل این مسئله نیز به همان ضعف در تعریف و تبیین ساختار دیپلماسی عمومی بازمیگردد. ما هنوز نتوانستهایم تعریف روشنی از این موضوع در ساختار جامعه ارائه دهیم.
اعتماد عمومی، حلقه اتصال هوش مصنوعی به قدرت نرم کشورهاست
*** آیا هوش مصنوعی میتواند به ابزاری برای افزایش قدرت نرم کشورها و تأثیرگذاری بر افکار عمومی جهانی تبدیل شود؟
میگویند هر دولتی که قدرت سخت را در اختیار دارد، باید با مردم خود به نرمی سخن بگوید. وقتی علت این موضوع را میپرسند، پاسخ میدهند که هرگاه قدرت سخت وجود داشته باشد، قدرت نرم نیز قابل دستیابی خواهد بود.
هوش مصنوعی، اگر بخواهیم بهصورت مستقیم به آن نگاه کنیم، یک ابزار نرم است. نمیتوان آن را در زمره ابزارهای سخت قرار داد؛ زیرا هسته مرکزی آن مبتنی بر اطلاعات و داده است.
بله، بدون تردید هوش مصنوعی میتواند به ابزاری برای افزایش قدرت نرم کشورها تبدیل شود. همانطور که پیشتر عرض کردم، آینده عصر انسان تا حد زیادی تحت تأثیر هوش مصنوعی و رویکردهای مردمسالارانه خواهد بود.
از نظر من، سه موضوع در اینجا اهمیت دارد: نخست، آزادی بیان و امکان فعالیت تحلیلگران؛ دوم، ساختار انسانی؛ و سوم، آینده عصر انسان.
اگر این سه مؤلفه با یکدیگر تلفیق شوند، هوش مصنوعی میتواند تأثیر دموکراتیک خود را بر جوامع مختلف بر جای بگذارد. البته نباید تصور کنیم که صرفاً با تکیه بر هوش مصنوعی، همه چیز بهطور خودکار اصلاح خواهد شد.
هوش مصنوعی حتی از فضای ابری نیز عبور کرده و وارد عرصهای گستردهتر شده است. اما لازمه موفقیت آن این است که دسترسی صحیح و انسانی به این فناوری فراهم شود. اگر دسترسی وجود داشته باشد، اعتماد شکل میگیرد و اگر اعتماد شکل بگیرد، مشروعیت و مقبولیت نیز به وجود میآید.
زمانی که مشروعیت و مقبولیت برای هسته نرم ایجاد شود، این هسته نرم میتواند هسته سخت را تکمیل کند. همانگونه که گفته میشود سیاست خارجی بر مبنای سیاست داخلی شکل میگیرد، در اینجا نیز ابتدا باید زیرساخت قدرت نرم را ایجاد کنیم.
باید امکان استفاده از هوش مصنوعی فراهم شود، فضای دموکراتیک برای مردم شکل بگیرد و دسترسی آزاد به اطلاعات ایجاد شود. در چنین شرایطی، هوش مصنوعی میتواند بالاترین سطح تأثیرگذاری متقابل میان حاکمیت و ملت را در یک فرآیند دوطرفه ایجاد کند.
عصر موشک و پروندههای هستهای تمام شده؛ امروز فناوری حرف اول را میزند
*** برخی کارشناسان معتقدند رقابت آمریکا و چین در حوزه هوش مصنوعی به مهمترین رقابت ژئوپلیتیکی قرن بیستویکم تبدیل شده است. این رقابت چه تأثیری بر نظم بینالملل خواهد داشت؟
به نظر من دیگر عصر موشک و حتی مسائل هستهای به پایان رسیده است و اکنون فناوری حرف اول را میزند. شما نگاه میکنید؛ مثلاً یادم هست در سال ۱۳۹۳ اتفاقی در امارات متحده عربی رخ داد و حجم عظیمی از سرمایههای مالی جابهجا شد. یا دو سال بعد، اگر اشتباه نکنم، اختلالاتی در زیرساختهای برق کره شمالی ایجاد شد. همچنین از سالهای ۱۳۹۵ و ۱۳۹۶ به یاد دارم که یک حمله سایبری به کانادا، بهویژه شهر مونترال، صورت گرفت که موجب اختلال در سیستم ریلی و بانکی شد و سپس موضوع درخواست مبالغی از سوی هکرها مطرح گردید.
به همین ترتیب جلو آمدیم؛ از گروههایی مانند انانیموس گرفته تا شرکتها و گروههای مختلف هکری، و حتی دارکوب که امروز گفته میشود همهچیز در آن یافت میشود. مجموع این تحولات نشان میدهد که قدرتهای جهان، چه آنهایی که به دنبال تکقطبی کردن نظام بینالملل هستند و چه آنهایی که در پی چندقطبی کردن آناند، همگی به این باور رسیدهاند که در فضای ژئوپلیتیکی و نظام بینالملل، فناوری حرف اول را میزند.
من آمریکا و چین را اینگونه در کنار هم قرار میدهم؛ مانند مقایسه تسلا با شیائومی در صنعت خودرو. هر دو تلاش میکنند پرچمدار فناوری جهان باشند. از سوی دیگر، میتوان آیفون را در برابر شیائومی یا هواوی قرار داد. به یاد دارید که آقای ترامپ حدود یک یا یکونیم سال پیش اقداماتی علیه هواوی انجام داد. دلیل آن نیز این بود که به این نتیجه رسیده بود توان رقابتی این فناوریها بهگونهای است که محصولات آمریکایی بهراحتی نمیتوانند با آن رقابت کنند.
این مسئله نشان میدهد فناوری به سمتی در حرکت است که نهتنها نظام بینالملل، بلکه کل جهان را دگرگون خواهد کرد. جهان از سال ۱۹۴۶ تاکنون بارها برای تغییر نظم بینالمللی تلاش کرده است. کشورهایی مانند آمریکا، بریتانیا، اسرائیل و متحدانشان همواره کوشیدهاند این نظم را تحت رهبری آمریکا تکقطبی نگه دارند. در مقابل، کشورهایی مانند چین، روسیه و جمهوری اسلامی ایران، همراه با برخی همپیمانان خود، در تلاش بودهاند این نظم را تغییر دهند.
به نظر من، کشورهای جهان اکنون به این جمعبندی رسیدهاند که دیگر صرفاً موشک و قدرت سخت تعیینکننده نیست. البته این ابزارها همچنان اهمیت دارند، اما حتی همین موشکهایی که امروز مورد استفاده قرار میگیرند نیز بر پایه فناوریهای نوین و هوش مصنوعی توسعه یافتهاند.
قدرت اول جهان، کشوری است که فناوری بیشتری تولید کند
مسئله میان آمریکا و چین صرفاً توازن قدرت نیست، بلکه خودِ قدرت است. هر دو کشور به این نتیجه رسیدهاند که هر کشوری فناوری بیشتری تولید کند، قدرت اول جهان خواهد بود. قدرت اول جهان بودن نیز به معنای تغییر موازنه بینالمللی و در نهایت تغییر ساختار ژئوپلیتیک جهان استمن معتقدم رقابت اصلی آمریکا و چین تا سال ۲۰۳۰ شکل خواهد گرفت. چین اعلام کرده است که قصد دارد جایگاه علمی آمریکا را به چالش بکشد. وقتی به آمار مقالات علمی، نشریات معتبر و جایگاه دانشگاههای چین نگاه میکنیم، مشاهده میشود که این کشور با سرعت در حال پیشروی است. حتی برخی دانشگاههای چینی اکنون در میان دانشگاههای برتر جهان قرار گرفتهاند.
از سوی دیگر، چین اعلام کرده است که تا سال ۲۰۳۰ به قدرت اول اقتصادی جهان تبدیل خواهد شد. این اقتصاد دیگر صرفاً مبتنی بر نفت و گاز نیست، بلکه بر پایه فناوریهای نوین و تکنولوژی شکل میگیرد. آمریکا نیز به این نتیجه رسیده که فناوری، مهمترین مؤلفه قدرت در جهان آینده است.
اگر به اروپا و حتی منطقه غرب آسیا نگاه کنیم، میبینیم که کشورها بهشدت در این مسیر حرکت میکنند. چند سال پیش در پاریس یک نشست بزرگ برگزار شد و فرانسه اعلام کرد که قصد دارد تا سال ۲۰۳۰ به یکی از قدرتهای برتر هوش مصنوعی تبدیل شود. همچنین اکنون چندین ابرپروژه فناوری در خاورمیانه در حال اجراست؛ در امارات، کویت و عربستان سعودی.
امارات ساختار هوش مصنوعی خود را ارتقا داد و حتی وزارت هوش مصنوعی تأسیس کرد. عمان نیز در این حوزه پیشرفت قابلتوجهی داشته است. بهعنوان یک پژوهشگر، صریحاً میگویم که بر اساس دادهها و شاخصهای بینالمللی، عمان در برخی ارزیابیها جایگاهی بالاتر از ایران در حوزه هوش مصنوعی دارد.
اگر به موازنه قدرت در جهان نگاه کنیم، مشاهده خواهیم کرد که ساختارهای قدرت در کشورهای مختلف به این باور رسیدهاند که راه رسیدن به قدرت جهانی از مسیر فناوری میگذرد. همچنین قدرتهای بزرگ دریافتهاند که روشهای سنتی مانند جنگهای پرهزینه، اعزام نیرو و مداخلات نظامی گسترده دیگر کارایی سابق را ندارند.
فناوری سه مزیت مهم دارد؛ نخست اینکه هزینهها را به حداقل میرساند. دوم اینکه آسیبپذیری نیروی انسانی را کاهش میدهد. سوم اینکه بسیاری از مأموریتهای اطلاعاتی، امنیتی و حتی عملیاتهای پیچیده را بدون نیاز به حضور گسترده انسانی انجام میدهد. فناوری اطلاعات جمعآوری میکند، تصاویر ماهوارهای تحلیل میکند، الگوریتم تولید میکند و بهترین خروجی را ارائه میدهد.
بنابراین اگر بخواهم جمعبندی کنم، مسئله میان آمریکا و چین صرفاً توازن قدرت نیست، بلکه خودِ قدرت است. هر دو کشور به این نتیجه رسیدهاند که هر کشوری فناوری بیشتری تولید کند، قدرت اول جهان خواهد بود. قدرت اول جهان بودن نیز به معنای تغییر موازنه بینالمللی و در نهایت تغییر ساختار ژئوپلیتیک جهان است.
هوش مصنوعی میتواند به دیپلماتها و رؤسای جمهور کمک کند
*** آیا دولتها در آینده از هوش مصنوعی صرفاً بهعنوان یک ابزار کمکی استفاده خواهند کرد یا ممکن است بخشی از تصمیمگیریهای سیاست خارجی و امنیتی را به این سامانهها واگذار کنند؟
پیش از پاسخ باید مشخص شود که منظور ما داخل کشور است یا خارج از کشور؛ زیرا وضعیت این دو کاملاً متفاوت است.
در خارج از کشور، نه فقط در فضای بینالملل، بلکه در حوزه سوشالمدیا، شرکتهای کوچک و بزرگ و تقریباً تمامی مجموعههای فعال به این باورپذیری رسیدهاند و از هوش مصنوعی استفاده میکنند. همین اکنون نیز سامانههای هوش مصنوعی قادرند این مصاحبه را ضبط و تحلیل کنند؛ نقاط قوت و ضعف پاسخها، زبان بدن، سبک بیان، نحوه نگاه و حتی الگوهای رفتاری را بررسی کرده و خروجی تحلیلی ارائه دهند.
اما در داخل کشور، همانطور که عرض کردم، هنوز به آن سطح از باورپذیری لازم برای استفاده از هوش مصنوعی در ساختارهای کلان نرسیدهایم. به همین دلیل نمیتوان گفت که هوش مصنوعی در فرایندهای تصمیمسازی کلان نقش جدی و نهادینه پیدا کرده است.
آیا هوش مصنوعی میتواند به یک دیپلمات کمک کند؟ قطعاً. آیا میتواند به رئیسجمهور، وزرا و مدیران ارشد کمک کند؟ بدون تردید. اما مسئله این است که هنوز تعریف روشنی از جایگاه هوش مصنوعی در سطح حکمرانی وجود ندارد.
ما بارها درباره تأسیس سازمان هوش مصنوعی، طراحی سکوهای هوشمند و برنامههای کلان در این حوزه صحبت کردهایم، اما همچنان با یک چالش اساسی مواجه هستیم؛ فقدان مرکزیت و ماهیت مشخص در این حوزه. تا زمانی که این زیرساخت فکری، نهادی و اجرایی شکل نگیرد، نمیتوان انتظار داشت هوش مصنوعی بهصورت گسترده در تصمیمگیریهای سیاست خارجی و امنیتی کشور نقشآفرینی کند.
امروز کنفرانسها، سمپوزیومها و اندیشکدههای متعددی در حوزه هوش مصنوعی شکل گرفتهاند، اما هنوز آن هسته مرکزی و راهبردی که بتواند این ظرفیتها را هدایت و یکپارچه کند، بهطور کامل شکل نگرفته است.
بزرگترین ضعف هوش مصنوعی، نداشتن تعریف در حقوق بینالملل است
*** جهان تا چه اندازه برای مواجهه با چالشهای حقوقی و اخلاقی ناشی از کاربرد هوش مصنوعی در جنگ آماده است؟ آیا قوانین بینالمللی موجود پاسخگوی این تحولات هستند؟
ببینید، به نظر من یکی از بزرگترین ضعفهای هوش مصنوعی این است که هنوز در ساختار حقوق بینالملل تعریف مشخص و جامعی برای آن ارائه نشده است. اگر دقت کنیم، بسیاری از سامانههای مبتنی بر هوش مصنوعی که امروز در عرصه نظامی مورد استفاده قرار میگیرند، عملاً به عنوان بازوی تصمیمساز و هدفیاب عمل میکنند. این سامانهها شاید مستقیماً شلیک نکنند، اما تعیین میکنند چه هدفی مورد حمله قرار بگیرد و چه هدفی در اولویت قرار داشته باشد.
در حوزه اخلاق، طی سالهای اخیر هم در داخل کشور و هم در خارج از کشور بحثهای جدیتری آغاز شده است. دلیل آن هم روشن است؛ هوش مصنوعی توانمندی بسیار بالایی در اختیار کاربران قرار میدهد و این توانمندی میتواند هم در مسیر مثبت و هم در مسیر منفی مورد استفاده قرار گیرد. به همین دلیل موضوع «اخلاق هوش مصنوعی» به یکی از مباحث مهم در محافل علمی و سیاستگذاری تبدیل شده است.
اما در حوزه حقوق بینالملل، هنوز با خلأهای جدی مواجه هستیم. من یادم هست حدود سال ۱۳۹۲ در برخی پژوهشها درباره حملات سایبری و رژیمهای حقوقی مرتبط با فضای سایبری بحث میکردیم. آن زمان نیز این موضوع مطرح بود که حمله به زیرساختهای حیاتی کشورها میتواند معادل یک حمله نظامی تلقی شود. حتی میان برخی قدرتهای بزرگ بحثهایی مطرح شده بود که زیرساختهای حیاتی یکدیگر را هدف قرار ندهند؛ چراکه آسیب به زیرساختها میتواند آثار امنیتی و انسانی گستردهای داشته باشد.
اما با ظهور و گسترش هوش مصنوعی، این مباحث عملاً به حاشیه رفت. امروز میبینیم که فناوری با سرعت بسیار بیشتری نسبت به قوانین بینالمللی در حال پیشروی است. در حالی که هوش مصنوعی روزبهروز در تصمیمگیریهای امنیتی، نظامی و اطلاعاتی نقش پررنگتری پیدا میکند، هنوز قواعد مشخصی برای حدود و ثغور استفاده از آن وجود ندارد.
اگر به کنوانسیونهای بینالمللی، از جمله کنوانسیون ژنو یا سایر اسناد حقوق بشردوستانه نگاه کنیم، میبینیم که بسیاری از مسائل مرتبط با فضای سایبری و هوش مصنوعی هنوز جایگاه مشخصی در آنها پیدا نکرده است. دلیلش هم این است که این فناوریها با سرعتی رشد کردهاند که نظام حقوقی بینالملل فرصت همگام شدن با آنها را نداشته است.
هوش مصنوعی مرزهای حقوق بینالملل را به چالش کشیده است
بزرگترین ضعف کنونی هوش مصنوعی در عرصه جهانی، نه توان فنی آن، بلکه نبود تعاریف حقوقی روشن و نبود خطوط قرمز مشخص برای نحوه استفاده از آن در عرصههای نظامی، امنیتی و اطلاعاتی استاز سوی دیگر، حملات سایبری و عملیاتهای مبتنی بر هوش مصنوعی ماهیتی متفاوت از جنگهای کلاسیک دارند. در بسیاری از موارد مشخص نیست مسئولیت حقوقی یک اقدام بر عهده چه کسی است؛ برنامهنویس، شرکت تولیدکننده، اپراتور انسانی یا دولت استفادهکننده؟ همین مسئله باعث شده که پاسخگویی حقوقی در این حوزه با ابهامات فراوانی همراه باشد.
به عنوان مثال، برخی سامانههای هوشمند که در جنگهای اخیر مورد استفاده قرار گرفتهاند، نقش مستقیمی در شناسایی و اولویتبندی اهداف داشتهاند. اگر در چنین فرایندی اشتباهی رخ دهد و غیرنظامیان هدف قرار بگیرند، هنوز پاسخ روشنی در حقوق بینالملل وجود ندارد که مسئولیت نهایی متوجه چه نهادی است.
به همین دلیل معتقدم یکی از مهمترین چالشهای پیش روی جامعه جهانی در سالهای آینده، تدوین چارچوبهای حقوقی و اخلاقی برای استفاده از هوش مصنوعی خواهد بود. امروز فناوری بسیار جلوتر از قانون حرکت میکند و اگر این شکاف پر نشود، احتمال بروز بحرانهای حقوقی و انسانی در آینده افزایش خواهد یافت.
در واقع میتوان گفت بزرگترین ضعف کنونی هوش مصنوعی در عرصه جهانی، نه توان فنی آن، بلکه نبود تعاریف حقوقی روشن و نبود خطوط قرمز مشخص برای نحوه استفاده از آن در عرصههای نظامی، امنیتی و اطلاعاتی است. تا زمانی که این خلأها برطرف نشود، همچنان با ابهامهای جدی در حوزه مسئولیتپذیری، مشروعیت اقدامات و رعایت اصول حقوق بینالملل مواجه خواهیم بود.
یعنی اگر تا اینجا پیش آید، کشور ثالث میتواند دعاوی حقوقی را در بستر بینالملل مطرح کند یا، مثلاً، غرامتی را دریافت نماید یا به هر حال سندی برای او طراحی شود یا از این دست مواردی که خدمتتان عرض کردم. اما، در جمعبندی جوانب، متأسفانه بزرگترین معضلی که به نظر من هوش مصنوعی دارد، بحث عدم تعریف مسائل حقوقی آن در فضای بینالملل است.
ممکن است به نقطهای برسیم که دیگر انسان نتواند در تصمیمات هوش مصنوعی دخالت کند
*** با توجه به سرعت پیشرفت فناوری، مهمترین تهدید و مهمترین فرصت هوش مصنوعی برای آینده جنگها و روابط بینالملل را چه میدانید؟
ابتدا بیاییم در حوزه جنگ صحبت کنیم، سپس وارد فضای بینالملل شویم؛ چرا که این دو، در واقع، تلفیقی از یکدیگر هستند. اما اگر بخواهیم بهصورت جداگانه بررسی کنیم، بزرگترین تهدیدی که به نظر من میتواند در فضای نظامی وجود داشته باشد، این است که این فناوری به مدلی مشابه استاکسنت تبدیل شود.
من فکر میکنم هوش مصنوعی در فضای نظامی، اگر بهصورت کنترلنشده پیش برود، میتواند به فضای استاکسنت تبدیل شود؛ ویروسی که بسیاری از تحلیلگران بر این باورند در ابتدا هدفگذاری آن محدود به یک یا دو کشور بوده است، اما پس از مدتی و در روندی که به کُد صفر تعبیر میشود، اینگونه مطرح شد که استاکسنت خود را بازیابی کرده و میتواند کل جهان را دربر بگیرد و هر زمان که بخواهد، سازوکارهای فعالسازی و تأثیرگذاری خود را در ساختارهای اتمی کشورهای مختلف، چه در حوزه تحقیقاتی و چه در کشورهایی که در این حوزه فعال هستند، اعمال کند.
به نظر من، بزرگترین تهدید برای سیستم نظامی این است که هوش مصنوعی به مرحلهای برسد که خودبازبینی کند؛ یعنی به جایی برسد که خودش را بازبینی و ترمیم نماید و برای خود الگوریتمهایی طراحی کند که دیگر از فضای انسانی خارج باشد؛ بهگونهای که انسان دیگر نتواند در آن دخل و تصرفی داشته باشد.
همانند فیلم «لوسی»، اگر آن را دیده باشید، در آنجا هدف همین بود؛ یعنی سیستم به جایی رسید که خود را بازبینی میکرد، عملیات طراحی میکرد، بررسی میکرد و عملاً همه امور را خود انجام میداد. من فکر میکنم این میتواند بزرگترین تهدید در حوزه نظامی و امنیتی باشد.
اما در حوزه فرصت در سیستم نظامی، ببینید، ما نباید نظامیگری را صرفاً به معنای فعال آن، مانند طراحی موشکها و سلاحهای مختلف، در نظر بگیریم؛ گرچه ما در جمهوری اسلامی اعتقادی به طراحی سلاحهای کشتار جمعی نداشته و نداریم و نخواهیم داشت.
اما بزرگترین فرصت این است که بتوانیم به جنبههای پسیو آن نیز توجه کنیم. مثلاً در داخل کشور، میتوان با استفاده از هوش مصنوعی ـ البته با تأکید جدی بر اینکه این امر نیازمند پیشزمینه، ساختار درست و اتاق فکر مبتنی بر تفکر کارشناسی است ـ فایروالها را در حوزه سایبری بهگونهای طراحی کرد که دیگر اتفاقاتی مانند هک بانکها، که در گذشته تجربه شده، رخ ندهد.
هماکنون نیز ما با اختلال در بانکها مواجه هستیم. بنابراین میتوان بر بستر هوش مصنوعی و در کنار آن، با یک تفکر هدفمند و ساختاریافته، توانمندسازی کشور را در حوزه سایبری، امنیتی و نظامی ارتقا داد.
انشاءالله که جنگی در پیش نخواهد بود، اما در عین حال، نمیتوان با اطمینان کامل گفت که هیچ خطری وجود ندارد؛ حتی اگر یک درصد احتمال وجود داشته باشد، باید برای آن پاسخ داشت.
باید شوآف را کنار بگذاریم و به سمت حکمرانی هوش مصنوعی برویم
به نظر من، اگر بحثهای دمو، شوآف و برخی صحبتهایی که هنوز در داخل کشور زود است کنار گذاشته شود و یک مدل حکمرانی درست در حوزه هوش مصنوعی طراحی گردد ـ با کنار گذاشتن نگاه سیاسی و با رویکردی کاملاً تخصصی، دانشگاهی و آکادمیک ـ میتوان از این فرصت طلایی برای بهرهوری بیشتر در کشور استفاده کرد و به اهدافی که ترسیم شده دست یافت.
در بعد بینالملل نیز، ببینید، اگر ساختار مناسبی طراحی شود، یکی از ضعفهای وزارت امور خارجه ما ـ صادقانه عرض میکنم ـ این است که هنوز تعریف دقیق و مشخصی از هوش مصنوعی در آن وجود ندارد و دیپلماتهای ما نمیدانند که باید با آن چگونه مواجه شوند.
در دانشکدههای روابط بینالملل نیز، تا جایی که اطلاع دارم، هنوز سرفصلهای دقیق و مناسبی در این حوزه تعریف نشده است.
ما باید بپذیریم که در کشوری زندگی میکنیم که ژئوپلیتیک خاص خود را دارد و نشان دادهایم که میتوانیم از طریق گفتگو به نتیجه برسیم. در جنگ نیز، برخی معتقدند که پاسخ باید متقابل باشد؛ اما ما ثابت کردهایم که با گفتمان نیز میتوان مسائل را حل کرد. همانگونه که اساتید بزرگ ما نیز بر آن تأکید داشتهاند.
باید برای دیپلماتهای ایرانی یک GPT اختصاصی طراحی شود
در این چارچوب، بهترین فرصت این است که یک پلتفرم برای دیپلماتهای کشور طراحی شود. مثلاً در حوزه تجارت بینالملل، پلتفرمهایی مانند بلومبرگ GPT وجود دارد که برای تاجران بینالمللی طراحی شدهاند و به آنها در تحلیل قراردادها، شناسایی نقاط ضعف و قوت، و حتی ترجمه همزمان کمک میکنند. این ابزارها عملاً به یک تاجر کمک میکنند تا بدون خطا و با شناخت کامل وارد قرارداد شود.
سؤال این است که چرا ما چنین چیزی نداشته باشیم؟ میتوان پلتفرمی طراحی کرد که فقط محدود به دیپلماتها نباشد، بلکه برای سفرا، سرکنسولها و سایر زیرمجموعههای وزارت امور خارجه نیز کاربرد داشته باشد.
وزارت امور خارجه میتواند محور این طرح باشد، زیرا دارای بزرگترین پایگاه داده در حوزه روابط بینالملل است. امروزه در عرصه جهانی نیز، این روند در حال استفاده است. شما اگر به سخنرانیهای برخی وزرا در کشورهای منطقه مانند قطر و عربستان نگاه کنید، بهوضوح مشخص است که دادهها و الگوریتمهایی پشت این سخنان وجود دارد.
در بازارهای جهانی نیز بدون استفاده از چنین سیستمهایی امکان تحلیل دقیق وجود ندارد. مشخص است چه زمانی بازار صعودی یا نزولی است و این امر بدون سیستمهای دادهمحور ممکن نیست.
بنابراین، اگر بخواهیم در داخل کشور میان حوزه نظامی و بینالملل تفکیک قائل شویم، بهترین فرصت این است که در حوزه نظامی، یک مدل حکمرانی هوش مصنوعی مبتنی بر ساختارهای کلان کشور طراحی شود و در حوزههای امنیتی، اطلاعاتی و نظامی مورد استفاده قرار گیرد.
این رویکرد میتواند کشور را قدرتمندتر کند. هیچ اشکالی هم ندارد؛ دنیا نیز در حال انجام همین مسیر است، چه در حوزه اتمی و چه در سایر حوزهها. در سالهای اخیر نیز مشخص شده که موضوعات امنیتی، اطلاعاتی و نظامی در صدر اهمیت قرار دارند. بنابراین، بهترین فرصت آن است که از هوش مصنوعی برای تقویت زیرساختهای خود استفاده کنیم.
نباید صورت مسئله هوش مصنوعی را پاک کنیم
نباید صورت مسئله را پاک کرد؛ این همان اشتباهی است که گاهی رخ میدهد. مثلاً برداشتن دوربینهای شهری در زمان بحران، پاک کردن صورت مسئله است، نه حل آن. ما باید زیرساختها را بررسی کنیم، باگها را شناسایی کنیم و آنها را برطرف نماییم.
دشمن نیز بر اساس تحلیل دادهها و سیستمهای پیچیده اطلاعاتی عمل میکند؛ این یک فرآیند مبتنی بر جمعآوری داده، تحلیل و تولید خروجی استراتژیک است. بنابراین، پیشنهاد من این است که مقاومت در برابر الگوهای جهانی کاهش یابد و اجازه داده شود این الگوها وارد ساختار شوند و سپس بر اساس آنها یک نظام حکمرانی دقیق طراحی گردد. در این صورت میتوان به دستاوردهای بسیار مهمی در حوزه هوش مصنوعی رسید.
در پایان، اگر بخواهم کل صحبتها را جمعبندی کنم، باید بپذیریم که هوش مصنوعی به عنوان یک قدرت شبیه به یک «شبح»، در سه حوزهای که عرض کردم تأثیرگذار خواهد بود و جمهوری اسلامی نیز از این روند مستثنا نیست.
سازمان هوش مصنوعی باید دوباره به اولویت نخست کشور تبدیل شود
این سه حوزه شامل ماهیت انسانی موضوع، حریم خصوصی، و تأثیرگذاری دموکراتیک آن در ساختار کلان کشور است؛ ساختاری که ابعاد سیاسی، اجتماعی، اقتصادی، امنیتی و سایر حوزهها را دربر میگیرد.
پیشنهاد من به مسئولان این است که سازمان هوش مصنوعی را مجدداً در اولویت نخست قرار دهند و اجازه دهند این ساختار بر اساس الگوهای جهانی بازطراحی و تقویت شود.
با این اقدام، میتوان اهداف دقیقتری در داخل کشور طراحی کرد و همچنین وارد عرصه قدرتنمایی در نظام بینالملل شد.
