چالش تشخیص هوش مصنوعی از انسان در نوشتار؛ مرز باریک فناوری و عواطف

وبگاه تِک‌اِکسپلور در گزارشی آورده است:

متن‌های تولیدشده توسط هوش مصنوعی روز به روز بیشتر به آثار انسانی شباهت پیدا می‌کنند، اما مردم هنوز می‌توانند نوشته‌های انسانی را از آن‌ها تشخیص دهند. با این حال، وقتی به هوش مصنوعی صریحاً دستور داده می‌شود که شبیه انسان به نظر برسد، این تمایز بسیار دشوارتر می‌شود.

در پژوهشی که در نشریه نِیچِر کامیونیکِیشِنز/ Nature Communications منتشر شده، پژوهشگران دانشگاه تیلبورگ می‌خواستند بدانند افراد، مشاوره‌های عاطفی تولیدشده توسط هوش مصنوعی و انسان را چقدر انسانی و همدلانه می‌بینند.

در این مطالعه که با شرکت بیش از ۳ هزار نفر انجام شد، هم از انسان و هم از هوش مصنوعی خواسته شد مشاوره عاطفی ارائه دهند. سپس شرکت‌کنندگان میزان انسانی‌بودن و همدلی این متن‌ها را ارزیابی کردند.

در حالت عادی (یعنی وقتی هیچ دستور خاصی به هوش مصنوعی داده نشد) متن‌های نوشته‌شده توسط انسان به‌مراتب بیشتر انسانی تشخیص داده می‌شدند؛ اما وقتی پژوهشگران به هوش مصنوعی دستور دادند طوری بنویسد که همه فکر کنند یک انسان نوشته است، امتیاز انسانی‌بودن متن‌های هوش مصنوعی بین ۱۷ تا ۴۱ درصد افزایش یافت؛ در نتیجه، تشخیص هوش مصنوعی از نویسنده انسانی بسیار دشوارتر شد.

بِنِت کلاینبرگ (Bennett Kleinberg)، پژوهشگر اصلی این مطالعه از دانشگاه تیلبورگ، می‌گوید: هوش مصنوعی به‌راحتی می‌تواند سبک نوشتاری خود را تغییر دهد؛ کافی است به آن دستور داده شود انسانی به نظر برسد تا برای نمونه، از زبان روزمره‌تر و کلمات ساده‌تر استفاده کند؛ اما وقتی انسان‌ها دستور مشابهی دریافت کردند، تقریباً سبک نوشتاری خود را تغییر ندادند. وقتی از انسان‌ها خواستیم شبیه هوش مصنوعی ننویسند هم همین موضوع صادق بود و باز هم چیزی تغییر نکرد.

همدلی ساختگی

نکته مهم این است که همدلی بیشتر، به‌خودی‌خود باعث نمی‌شود هوش مصنوعی بیشتر شبیه انسان شود. هوش مصنوعی می‌تواند در صورت درخواست، زبان همدلانه تولید کند، اما تحلیل بیش از ۴۸۹ هزار کلمه نشان داد متن‌های انسانی همچنان همدلانه‌تر از متن‌های هوش مصنوعی هستند.

پژوهشگران معتقدند هوش مصنوعی می‌تواند همدلی را بر اساس الگوهای گفتاری، یعنی ساختار جمله‌ها و کلماتی که در متن‌های همدلانه زیاد دیده می‌شود، تقلید کند، بدون اینکه واقعاً احساس یا تجربه‌ای داشته باشد.

در آزمایشی جداگانه، به مدل‌های هوش مصنوعی دستور داده شد همدلانه بنویسند. آن‌ها موفق شدند: خوانندگان، متن‌هایشان را همدلانه‌تر ارزیابی کردند؛ اما خوانندگان احساس می‌کردند این متن‌ها کمتر شبیه نوشته‌های یک انسان هستند. به‌نظر می‌رسد همدلی و شبیه‌انسان‌بودن در زبان هوش مصنوعی، دو مسیر جداگانه را طی می‌کنند.

پژوهشگران این پدیده را همدلی تصادفی (Stochastic Empathy) می‌نامند؛ یعنی هوش مصنوعی بر اساس الگوهای گفتاری، همدلی را تقلید می‌کند، بدون اینکه واقعاً احساس یا تجربه‌ای داشته باشد.

کلاینبرگ می‌گوید: هوش مصنوعی هر روز بهتر می‌تواند مثل یک انسان بنویسد، مخصوصاً وقتی به آن دستور بدهیم که چنین کاری انجام دهد؛ اما همدل‌بودن با شبیه‌انسان‌بودن فرق دارد. به‌ویژه در موضوع‌های شخصی، مثل مشاوره عاطفی، مردم هنوز تشخیص می‌دهند کدام متن را یک انسان و کدام را یک هوش مصنوعی نوشته است.

پیامدها؛ وقتی تشخیص انسان از ماشین دشوار می‌شود

پژوهشگران اشاره می‌کنند این تحول پیامدهایی برای نحوه ارزیابی ارتباطات دیجیتال دارد. هرچه هوش مصنوعی در تقلید ارتباط انسانی توانمندتر شود، تشخیص اینکه یک پیام را انسان نوشته یا ماشین، دشوارتر می‌شود. این می‌تواند فرصت‌های جدیدی برای حمایت دیجیتال ایجاد کند، اما پرسش‌هایی را نیز مطرح می‌کند؛ مثلاً: آیا می‌توانیم به پیامی که نمی‌دانیم ان