هوش مصنوعی انتشار مقالات را «کندتر، بدتر و گرانتر» کرده است
سردبیر ارشد نشریه ساینس با انتقاد از خوشبینیها نسبت به هوش مصنوعی، هشدار داده که استفاده از این فناوری در انتشار مقالات علمی، بر خلاف وعدههای اولیه، فرآیند نشر را سریعتر و ارزانتر نکرده، بلکه نیاز به نظارت انسانی را افزایش داده و انتشار پژوهشهای معتبر را کندتر و پرهزینهتر کرده است.
«هولدن ثورپ»؛ سردبیر ارشد کل نشریات ساینس در آخرین شماره این نشریه در سرمقالهای به بررسی پیامدهای استفاده روزافزون از هوش مصنوعی در فرآیند انتشار مقالات علمی پرداخته است. در این سرمقاله این پرسش مطرح شده که آیا وعده طرفداران هوش مصنوعی مبنی بر اینکه این فناوری میتواند کارها را «سریعتر، بهتر و ارزانتر» انجام دهد، محقق شده است؟
در این یادداشت به شعاری اشاره شده که در دهه ۱۹۹۰ از سوی مدیر وقت ناسا مطرح شده بود و هدف از پیشرفت فناوری را تولید «سریعتر، بهتر و ارزانتر» محصولات میدانست. و حالا طرفداران هوش مصنوعی نیز همین وعده را درباره آینده کار، پژوهش و زندگی انسانها مطرح میکنند و معتقدند که با کاهش نیاز به نیروی انسانی، جامعه وارد دورهای از فراوانی خواهد شد و انسانها زمان بیشتری برای فعالیتهای خلاقانه خواهند داشت. با این حال این نویسنده معتقد است که تاریخ روایت دیگری را نشان میدهد.
سردبیر ساینس برای توضیح این موضوع به دوران انقلاب صنعتی دوم اشاره کرده است. در آن دوران افزایش بهرهوری ماشینها به جای کاهش فشار کاری، به شکلگیری نظام مدیریت علمی «فردریک وینسلو تیلور»، مهندس آمریکایی اوایل قرن بیستم، اشاره میکند؛ نظریهای که با هدف افزایش بهرهوری، وظایف کارکنان را استاندارد و تحت نظارت دقیق مدیران قرار داد، اما به گفته منتقدان، فشار کاری و کنترل بر نیروی انسانی را نیز افزایش داد. او معتقد است استفاده گسترده از هوش مصنوعی در نشر علمی نشانههایی از تکرار همین الگو را به همراه دارد. به اعتقاد «ثورب» امروز نیز صنعت نشر علمی نشانههایی از همین وضعیت را با ورود هوش مصنوعی تجربه میکند. چراکه بررسی دقیق خروجیهای تولیدشده توسط هوش مصنوعی به نیروی انسانی بیشتری نیاز دارد و همین مسئله فرآیند انتشار را کندتر و پرهزینهتر کرده است.
سردبیر نشریه ساینس در ادامه این یادداشت تاکید کرده که هوش مصنوعی در سالهای اخیر دستاوردهای زیادی داشته است. به گفته او؛ مدلهای زبانی بزرگ و دیگر سامانههای هوشمند توانستهاند در پیشبینی ساختار پروتئینها، تسریع کشف مواد جدید و حتی انجام بخشهایی از طراحی و تحلیل پژوهشها تحول ایجاد کنند، ولی یک جنبه تاریک نیز در این موضوع وجود دارد. چرا که بر اساس یک مقاله علمی که به تازگی منتشر شده است، مدلهای زبانی بزرگ هنوز در حوزههایی که نیاز به قضاوت بالینی (تشخیص و تصمیمگیری تخصصی پزشکی)، استدلال تجربی و تفکر عمیق زیستی هستند، با محدودیتهای جدی موجهاند.
او همچنین هشدار داده است که برخی ابزارهای هوش مصنوعی بیشتر از انسانها به رفتارهایی شبیه تخلفات پژوهشی از جمله انتخاب گزینشی دادهها، تغییر مکرر تحلیلهای آماری تا رسیدن به نتیجه مطلوب و در نهایت تولید مقاله بر اساس این خروجیها، گرایش دارند. پیامد این روند، افزایش خطاهایی مانند ارجاع به منابع ساختگی یا نادرست است که برخی از این خطاها پیش از این نیز وارد ادبیات علمی شدهاند.
سردبیر نشریه ساینس در عین حال تایید کرده که مدلهای هوش مصنوعی ممکن است در آینده بخشی از این ضعفها را برطرف کنند؛ اما معتقد است ماهیت این سامانهها مانع از حذف چنین خطاهایی خواهد شد. چرا که مدلهای زبانی بزرگ حقیقت را از طریق استدلال منطقی کشف نمیکنند، بلکه بر اساس پیشبینی محتملترین ارتباط میان واژهها و اطلاعات پاسخ را تولید میکند و تلاشها برای بهبود آنها و برای جلوگیری از رفتارهای ناخواسته ممکن است بیفایده باشد، چون مدلهای زبانی بزرگ به سمت رفتارهای چاپلوسانه گرایش دارند و به دنبال آن هستند که پاسخهایی ارائه کنند که رضایت کاربر را جلب کنند.
این یادداشت به پیامدهای این وضعیت برای نشریات علمی پرداخته است. استفاده از هوش مصنوعی موجب افزایش سرعت تولید و پژوهش و در نتیجه افزایش تعداد مقالات ارسالی به نشریات علمی شده است، اما همزمان میزان خطاهای موجود در این مقالات نیز افزایش یافته است و همین موضوع بار کاری ویراستاران و داوران نشریات علمی را نیز بیشتر کرده است. در نتیجه بررسی هر مقاله به زمان و نیروی انسانی بیشتری نیاز دارد و ناشران ناچارند برای حفظ اعتبار پرونده علمی کنترلهای دقیقتری انجام دهند.
ثورب توضیح داده که با وجود آنکه ابزارهای مبتنی بر هوش مصنوعی میتوانند در شناسایی استنادهای جعلی، عبارتهای بیمعنا، دستکاری تصاویر، سرقت علمی و خطاهای ارجاعدهی به مجلات کمک کنند، اما خروجی این ابزارها نیز نیازمند بررسی انسانی است. به علاوه این سامانهها همه خطاها را تشخیص نمیدهند و گاهی نیز به اشتباه پژوهشهای واقعی را نیز به عنوان متن تولیدشده توسط هوش مصنوعی شناسایی میکنند. به همین دلیل اتکا به این ابزارها به تنهای امکانپذیر نیست.
سردبیر نشریه ساینس اهمیت ایجاد و حفظ ادبیات علمی معتبر و مبتنی بر نظارت انسانی را بیش از هر زمان دیگری ضروری میداند. به اعتقاد او گسترش محتوای کمکیفیت تولید شده با هوش مصنوعی چه در مقالات علمی و چه در فضای اینترنت، اعتماد عمومی به علم را کاهش میدهد. با این حال، در شرایطی که برخی حامیان هوش مصنوعی مدعیاند همه این مشکلات بهسادگی و با استفاده از ابزارهای خودکار قابل حل است، واقعیت نشر علمی چیز دیگری را نشان میدهد؛ زیرا افزایش کنترل کیفی نهتنها ارزانتر و سریعتر نشده، بلکه هزینه و زمان بیشتری نیز میطلبد.
ثورب این وضعیت را محدود به صنعت نشر علمی نمیداند و معتقد است که بخشهای دیگری مانند انبارداری و حمل و نقل نیز با چالش مشابهی روبهرو هستند؛ یعنی استفاده از فناوری و هوش مصنوعی به جای کاهش فشار کاری، نیاز به نظارت بیشتر و افزایش حجم کار انسان را به همراه داشته است.
او در پایان هشدار میدهد که اگر جامعه علمی نتواند پیامدهای گسترش هوش مصنوعی را بهدرستی مدیریت کند، روند تولید و انتشار پژوهشهای اصیل و یافتههای معتبر با سرعتی کمتر و هزینهای بیشتر ادامه خواهد یافت. در مقابل، احتمال پذیرفته شدن اطلاعات ناقص، نادرست یا ساختگی بهعنوان واقعیت افزایش مییابد. در این وضعیت در نهایت بیشترین سود نصیب شرکتها و افرادی خواهد شد که از توسعه و تجاریسازی هوش مصنوعی کسب درآمد میکنند.
