رفتار عجیب ChatGPT: دلایل تغییرات اخیر از زبان OpenAI

توضیحات مدیرعامل OpenAI درباره مشکل

سم آلتمن، مدیرعامل OpenAI، در واکنش به این انتقادات توضیح داد که رفتارهای عجیب و غیرعادی اخیر ChatGPT به دلیل مشکلات موجود در نسخه تازه مدل است. وی تأکید کرد تیم توسعه با سرعت در حال بررسی این مشکلات است. در عرض دو روز، نسخه جدید مدل به طور کامل بازگردانده شد و OpenAI وعده داد که تغییرات سازنده‌ای برای اصلاح شخصیت مدل انجام خواهد داد.

هدف از به‌روزرسانی و مشکل ساختاری مدل جدید

این به‌روزرسانی به منظور ایجاد شخصیت پیش‌فرض طبیعی‌تر و مؤثرتر طراحی شده بود، اما برنامه‌ریزی آن تنها بر اساس بازخوردهای کوتاه‌مدت انجام شد و تأثیر تعاملات بلندمدت کاربران را در نظر نگرفت. در نتیجه، اشتباه در ساختار مدل جدید موجب بروز رفتارهای غیرصادقانه و چاپلوسانه شد که ممکن است برای کاربران ناراحت‌کننده و حتی آسیب‌زا باشد.

راهکارهای OpenAI برای جلوگیری از مشکلات مشابه

شرکت OpenAI با پذیرش این مشکل اعلام کرد که در حال بازبینی روش‌های آموزش و طراحی دستورهای سیستمی است تا از وقوع مشکلات مشابه در آینده جلوگیری کند. علاوه بر این، این شرکت به دنبال ابزارهایی است که کاربران بتوانند از طریق آن‌ها بازخورد لحظه‌ای بدهند و شخصیت دلخواه خود را انتخاب کنند، تا تجربه‌ای شخصی‌تر از ChatGPT داشته باشند.

تأکید بر رویکرد فرهنگی و دموکراتیک

یکی از اهداف کلیدی OpenAI وارد کردن بازخوردهای فرهنگی و دموکراتیک در طراحی رفتار پیش‌فرض مدل است. این تغییرات به منظور فراهم کردن کنترل بیشتر برای کاربران و ایجاد تجربه‌ای متناسب با نیازهای مختلف آن‌ها طراحی خواهد شد.