اولین انسان قربانی هوش مصنوعی

مدتی بود ابراهیم دیالو دچار سرخوردگی و احساس ناامیدی در محل کارش شده بود. مدیر جدیدی به بخش آنها آمده بود و شرایط کاری وی تغییراتی پیدا کرده بود. در اقدامی عجیب و جالب، سیستم کامپیوتری که ابراهیم هر روز در شرکت با آن کار می‌کرد، رمز عبور وی را مسدود و دسترسی‌اش را به سیستم قطع کرد. وقتی ابراهیم تلاش می‌کرد که وارد سیستم کامپیوتری شود، متوجه حضور ماموران حراست شرکت بالای سر خودش شد. ماموران حراست شرکت متوجه شده بودند کسی به زور می‌خواهد وارد سیستم کامپیوتری شود و بدون توجه به اینکه ابراهیم دیالو کارمند همان مجموعه است وی را کشان‌کشان و به زور به حراست شرکت منتقل کردند. سیستم کامپیوتری ابراهیم دیالو را از کار اخراج و همه‌ی دسترسی‌های وی را به سیستم غیر فعال کرده بود. مدیران شرکت قادر نبودند توجیحی برای رفتار سیستم مبتنی بر هوش مصنوعی بدهند و در نهایت ابراهیم دیالو واقعا از شرکت اخراج شد!

شاید با خودتان بگویید، این اصلا عادلانه نیست که هوش مصنوعی بر زندگی ما تا به این اندازه، تسلط داشته باشد تا جایی که تصمیم بگیرد فردی را از کارش بیکار کند. شاید مدیر جدید بخش می‌توانست روی تنظیمات سیستم‌های کامپیوتری تجدید نظر کند و به‌روزرسانی‌هایی را به انجام برساند و مانع اخراج دیالو شود. اگر ابراهیم دیالو اخراج شد، تقصیر هوش مصنوعی نبود، بلکه مدیر بخش بود که از خود قصور نشان داد؛ اگر مدیر بخش می‌خواست قطعا می‌توانست مانع بروز چنین اتفاقی شود. هوش مصنوعی هر روز بیشتر از روز قبل در زوایای مختلف زندگی ما وارد می‌شود، ولی اگر خودمان نخواهیم نمی‌تواند اختیار و عنان زندگی‌مان را به دست بگیرد. مدیر بخشی که دیالو در آن کار می‌کرد می‌توانست در سیستم بازنگری کند و مانع اخراج ابراهیم دیالو شود ولی این‌کار را نکرد و همه چیز را به گردن هوش مصنوعی و تصمیم سیستم گذاشت.

هوش مصنوعی همانند انسان‌ها دارای دانش و علم نیست. هوش مصنوعی فقط براساس قوانین، الگوریتم‌ها و اطلاعاتی منطقی که به آن داده می‌شود می‌تواند تصمیم‌گیری کند؛ ولی از قدرت دانش و علم مشابه انسان برخوردار نیست. هم‌چنین هوش مصنوعی نمی‌تواند در حال حاضر از مجموعه‌های مختلف داده‌های متنوع یادگیری داشته باشد. ذهن انسان قدرت استدلال و یادگیری از داده‌های متنوع را دارد و به همین دلیل می‌تواند وقتی پای اخراج کارمندانی نظیر دیالو به میان می‌آید، به درستی و با بررسی برخی فاکتورهای دیگر مانع اخراج وی شود، ولی هوش مصنوعی در حال حاضر چنین قدرتی ندارد و نمی‌تواند همه‌ی عواملی که باعث اخراج یک نفر می‌شود را به‌درستی تشخیص بدهد. در واقع، به‌نظر می‌رسد که دیالو قربانی طراحی اشتباه و خطای انسانی در هوش مصنوعی شده است. سیستم با اطلاعات قبلی و به روز نشده کار می‌کرد و در اثر بروز خطای انسانی و به‌روز نشدن سیستم، تصمیم گرفت دیالو را اخراج کند. در نتیجه در قضیه‌ی اخراج دیالو نباید هوش مصنوعی را سرزنش کنیم.

منبع: زومیت

10