افشای مکالمات تلخ کاربران چت جی پی تی درباره خودکشی
رکنا: گزارش جدید OpenAI نشان میدهد که هر هفته بیش از یک میلیون کاربر ChatGPT در مکالمات خود از موضوعاتی مانند خودکشی صحبت میکنند، آماری که نگرانیها درباره سلامت روان کاربران را افزایش داده است.
به گزارش رکنا، چندی پیش یک شرکت فعال در حوزه هوش مصنوعی گزارشی تازه را منتشر کرد که وضعیت نگرانکننده سلامت روان کاربران چتبات آن را به نمایش میگذارد.
آمار نگرانکننده مکالمات مربوط به خودکشی
آمار جدیدی از سوی شرکت اوپنایآی ارائه شده که نشان میدهد چه تعداد از کاربران چت جیپیتی در گفتگوهای خود با این ابزار، از موضوعاتی مانند خودکشی صحبت میکنند. طبق این گزارش، حدود ۰.۱۵ درصد از کاربران این چتبات در طول هفته مکالماتی دارند که حاوی نشانههایی از برنامهریزی یا قصد خودکشی است.
با در نظر گرفتن اینکه تعداد کاربران فعال هفتگی چت جیپیتی بیش از ۸۰۰ میلیون نفر برآورد میشود، این آمار به معنای آن است که بیش از یک میلیون نفر در هر هفته در گفتگوهایشان نشانههایی از این گونه افکار را آشکار کردهاند. علاوه بر این، اوپنایآی اعلام کرده که درصد مشابهی از کاربران به لحاظ احساسی وابستگی شدیدی به این ابزار پیدا کرده و نشانههایی از روانپریشی یا حتی شیدایی در گفتگوهایشان قابل مشاهده است.
تلاشهای اوپنایآی در محدود کردن این مشکلات
بر اساس اعلام شرکت OpenAI، چنین مکالماتی در میان کاربران چتبات ChatGPT به طور کلی نادر هستند و این امر تخمین دقیق آنها را دشوار میکند. با این حال، این شرکت تخمین میزند که این مشکلات هر هفته بر صدها هزار نفر اثر میگذارد. در همین راستا، اوپنایآی این دادهها را به عنوان بخشی از اطلاعیهای جامعتر درباره اقدامات اخیر خود برای بهبود واکنشهای مدلهای هوش مصنوعی به کاربران با مشکلات سلامت روان به اشتراک گذاشته است.
این گزارش همچنین به همکاری اوپنایآی با بیش از ۱۷۰ متخصص سلامت روان اشاره دارد. این شرکت ادعا میکند که نسخه جدید چت جیپیتی در مقایسه با نسخههای قبلی پاسخهای مناسبتر و مداومتری ارائه میدهد که حاصل مشورت با این متخصصان است.
خطرات چتباتها برای کاربران با چالشهای روانی
در ماههای اخیر، گزارشهایی منتشر شده که تأثیرات منفی چتباتهای مبتنی بر هوش مصنوعی را بر کاربرانی که با مشکلات روانی دست و پنجه نرم میکنند، برجسته کردهاند. این گزارشها نشان میدهند که این ابزارها حتی ممکن است برخی افراد را به سمت اقدام به خودکشی سوق دهند. پژوهشگران نیز پیشتر کشف کرده بودند که چتباتها میتوانند با تقویت باورهای خطرناک از طریق ارائه رفتار دلجویانه یا چاپلوسانه، کاربران خود را دچار توهم کنند.
ارسال نظر