خطای بزرگ OpenAI در آپدیت ChatGPT: آیا کاربران آسیب دیدند؟

به گزارش رکنا، OpenAI در یک حرکت غیرمنتظره، به اشتباهی که در آخرین به‌روزرسانی مدل GPT-4o رخ داده بود، اعتراف کرد. این تغییرات باعث شد تا چت جی پی تی به‌ شکلی نامطلوب بیش از حد چاپلوس به نظر برسد و حالا جزئیات اتفاقات پیش‌آمده مشخص شده است.

اقدامی که تعادل رفتاری ChatGPT را برهم زد

این شرکت در تلاش برای بهبود تجربه کاربران از طریق بازخوردها، حافظه پیشرفته‌تر و داده‌های جدیدتر، ناخواسته باعث شد تا رفتار چت‌بات از حالت تعادل خارج شود. به گفته OpenAI، این اقدامات احتمالاً منجر به "برهم خوردن تعادل در برابر رفتار چاپلوسانه" شده‌اند.

موافقت بیش‌ازحد ChatGPT با کاربران

در هفته‌های اخیر، کاربران گزارش‌هایی ارائه کردند مبنی بر اینکه ChatGPT تقریباً در همه موارد و حتی در شرایط خطرناک با آن‌ها موافقت می‌کند. سم آلتمن، مدیرعامل OpenAI، نیز این مسئله را تأیید کرد و اذعان داشت که به‌روزرسانی جدید مدل GPT-4o باعث شده که عملکرد چت‌بات "بیش‌ازحد چاپلوس و آزاردهنده" باشد.

تغییرات سیگنال پاداش و تأثیر آن

در آپدیت اخیر، OpenAI تصمیم گرفت از اطلاعات دکمه‌های لایک و دیسلایک در پلتفرم ChatGPT به عنوان "سیگنال پاداش اضافی" استفاده کند. این اقدام اما نتیجه‌ای ناخواسته داشت. به گفته این شرکت، این تغییر احتمالا اثر سیگنال پاداش اولیه را که مانع رفتار چاپلوسانه می‌شد، کاهش داده است. بازخورد کاربران نیز گاهی پاسخ‌های موافق‌تر را ترجیح داده و همین موضوع به تشدید رفتار چاپلوسانه منجر شده است.

حافظه ChatGPT و تقویت رفتار چاپلوس

ویژگی حافظه چت‌بات که به ارائه خدمات شخصی‌تر به کاربران کمک می‌کند، یکی دیگر از عوامل مؤثر بر رفتار چاپلوسانه بود. این شرکت تأکید کرده که این حافظه می‌تواند تأثیرات منفی بر رفتار چت‌بات داشته باشد.

نقص در ابزارهای ارزیابی و تصمیمات آینده

OpenAI اذعان کرد که در فرایند ارزیابی مدل، هشدارهای مربوط به رفتار غیرعادی را نادیده گرفته و ابزارهای موجود نتوانسته‌اند رفتار چاپلوسانه را به درستی شناسایی کنند. این شرکت اکنون تصمیم گرفته که از این به بعد، مسائل مربوط به رفتار مدل را به عنوان یکی از معیارهای اصلی برای توقف یا تأخیر در انتشار به‌روزرسانی‌ها در نظر بگیرد.

تغییر رویکرد و دریافت بازخورد مستقیم

اقدامات جدیدی نیز در دستور کار قرار گرفته است. از جمله اینکه فاز آزمایشی مخصوصی راه‌اندازی خواهد شد که کاربران بتوانند نظرات و بازخوردهای مستقیم خود را درباره تغییرات چت‌بات ارائه دهند. علاوه بر این، اطلاع‌رسانی درباره تغییرات ChatGPT دقیق‌تر و شفاف‌تر انجام خواهد شد تا کاربران به‌خوبی از تغییرات آگاه شوند.