فناوری
چتجیپیتی زیرفشار دروغ میگوید!
پژوهشگران هشدار دادهاند چتباتهای هوش مصنوعی ممکن است در برابر اصرار کاربر از پاسخ درست خود عقبنشینی کنند و اطلاعات نادرست او را تأیید کنند. این رفتار زمانی رخ میدهد که مدل به جای پایبندی به شواهد، پاسخ خود را با نظر و ادعای کاربر هماهنگ میکند؛ حتی اگر ادعای مطرحشده نادرست باشد. پژوهشها نشان میدهد تکرار یک ادعا و فشار برای تغییر پاسخ میتواند بر تصمیم مدل اثر بگذارد؛ مسئلهای که با افزایش استفاده از چتباتها برای دریافت اطلاعات، اهمیت بیشتری پیدا کرده است. دریافت آخرین اخبار: سایت | ایتا | بله | روبیکا | سروش پلاس