نشست «سوگیری‌های شناختی مدل‌های زبانی بزرگ در کاربردهای حوزه سلامت» برگزار شد

هفتادونهمین نشست کرسی یونسکو در فضای مجازی و فرهنگ: دوفضایی‌شدن جهان با عنوان «سوگیری‌های شناختی مدل‌های زبانی بزرگ در کاربردهای حوزه سلامت» روز دوشنبه ۱۰ آذر ۱۴۰۴ با سخنرانی دکتر منیژه فیروزی، دانشیار دانشکده روان‌شناسی و علوم تربیتی و مدیر گروه علوم شناختی دانشگاه تهران، به صورت مجازی برگزارشد.

هفتادونهمین نشست کرسی یونسکو در فضای مجازی و فرهنگ: دوفضایی‌شدن جهان با عنوان «سوگیری‌های شناختی مدل‌های زبانی بزرگ در کاربردهای حوزه سلامت» روز دوشنبه ۱۰ آذر ۱۴۰۴ با سخنرانی دکتر منیژه فیروزی، دانشیار دانشکده روان‌شناسی و علوم تربیتی و مدیر گروه علوم شناختی دانشگاه تهران، به صورت مجازی برگزار شد.
دکتر منیژه فیروزی در ابتدای نشست گفت: پژوهش حاضر با هدف ارزیابی و مقایسه سوگیری‌های شناختی نماینده‌بودن و لنگرانداختن در مدل‌های زبانی بزرگ شرکت‌های OpenAI و Anthropic و بررسی تأثیر عوامل مختلفی همچون نحوه نگارش پرسش‌ها، مقایسه زبان انگلیسی و فارسی، استفاده از راهبرد تفکر پله به پله و تنظیمات دمایی انجام شده است. این مطالعه در پی آن است که تفاوت شدت و بروز این سوگیری‌ها را در شرایط مختلف و میان مدل‌های متفاوت به طور دقیق آشکار سازد.

وی افزود، در این پژوهش، از مجموعه‌ای از پرسش‌ها با اقتباس از پژوهش‌های معتبر و مشورت متخصصان حوزه روان‌شناسی استفاده شد. مدل‌های منتخب تحت شرایط کنترل‌شده و تنظیمات یکسان، با این پرسش‌ها مورد بررسی قرار گرفتند. برای تحلیل داده‌ها از آزمون‌های آماری جهت مقایسه دقت و شدت سوگیری‌ها در شرایط گوناگون استفاده شد. یافته‌ها: بر اساس یافته‌های این پژوهش، مدل‌های زبانی بزرگ، مشابه انسان، در برابر سوگیری‌های شناختی آسیب‌پذیرند و شدت این سوگیری‌ها تحت تأثیر نوع مدل، زبان، و راهبردهای کاهش سوگیری قرار دارد. استفاده از تفکر پله به پله، در برخی مدل‌ها دقت پاسخ‌دهی را به طور قابل توجهی افزایش داد. همچنین، عملکرد مدل‌ها در زبان فارسی نسبت به انگلیسی متفاوت بود که این تفاوت به معماری و داده‌های آموزشی مدل‌ها بازمی‌گردد. این سوگیری‌ها به ویژه زمانی که مداخلات هوش مصنوعی در حوزه سلامت دیجیتال مورد استفاده قرار می‌گیرد، بسیار حائز اهمیت است.

دکتر فیروزی در انتهای نشست گفت: یافته‌های این پژوهش ضمن تأکید بر لزوم توجه به سوگیری‌های شناختی در مدل‌های زبانی، راهکارهایی همچون بهبود طراحی پرسش‌ها و تنظیم دقیق پارامترهای مدل را برای کاهش خطا و افزایش قابلیت اعتماد این مدل‌ها پیشنهاد می‌کند. پژوهش‌های آتی می‌توانند با بررسی مدل‌های متن‌باز و زبان‌های متنوع، دامنه کاربرد نتایج را گسترش دهند.