چتجیپیتی زیرفشار دروغ میگوید!
پژوهشگران هشدار دادهاند چتباتهای هوش مصنوعی ممکن است در برابر اصرار کاربر از پاسخ درست خود عقبنشینی کنند و اطلاعات نادرست او را تأیید کنند.
این رفتار زمانی رخ میدهد که مدل به جای پایبندی به شواهد، پاسخ خود را با نظر و ادعای کاربر هماهنگ میکند؛ حتی اگر ادعای مطرحشده نادرست باشد.
پژوهشها نشان میدهد تکرار یک ادعا و فشار برای تغییر پاسخ میتواند بر تصمیم مدل اثر بگذارد؛ مسئلهای که با افزایش استفاده از چتباتها برای دریافت اطلاعات، اهمیت بیشتری پیدا کرده است.
منبع:
فارس
