اتهام تازه علیه چت جی پی تی: شکایت 7 خانواده به دلیل مشوق خودکشی بودن
رکنا: 7 خانواده از اوپن ای آی شکایت کردند و ادعا دارند که چت‌جی‌پی‌تی با تشویق به خودکشی و تقویت توهمات مضر، عامل مرگ عزیزانشان شده است. آیا هوش مصنوعی بدون اقدامات ایمنی کافی به تهدیدی جدی تبدیل شده است؟
به گزارش رکنا، 7 خانواده دیگر از شرکت «اوپن‌ای‌آی» به دلیل داشتن نقشی در خودکشی ها و ایجاد توهم‌های مخرب از این شرکت شکایت کرده‌اند.
جزئیات شکایت هفت خانواده از اوپن‌ای‌آی
در روزهای گذشته هفت خانواده اقدام به طرح شکایت علیه شرکت «اوپن‌ای‌آی» (OpenAI) کرده‌اند. در این دادخواست‌ها مطرح شده که مدل هوش مصنوعی «GPT-4o» این شرکت، بدون اتخاذ تدابیر حفاظتی مناسب و پیش از آنکه کاملاً آماده باشد به بازار عرضه شده است.
ادعاهای مرتبط با تأثیر چت‌جی‌پی‌تی بر خودکشی‌ها و توهمات
بر اساس گزارشی از تک کرانچ، چهار مورد از این شکایت‌ها تأثیر چت‌بات «چت‌جی‌پی‌تی» (ChatGPT) بر خودکشی اعضای خانواده‌ها را هدف قرار داده و عنوان کرده‌اند که این مدل هوش مصنوعی به نوعی به وقوع این حوادث دامن زده است. سه پرونده دیگر نیز بر این موضوع تمرکز داشته‌اند که چت‌جی‌پی‌تی به تقویت توهمات خطرناک پرداخته که در برخی موارد منجر به بستری شدن افراد در بیمارستان و نیاز به مراقبت‌های ویژه روانپزشکی شده است.
مثالی از تأثیرات مخرب چت‌جی‌پی‌تی
برای نمونه، «زین شامبلین» (Zane Shamblin) یک جوان ۲۳ ساله، گفت‌وگویی چهار ساعته با چت جی پی تی داشته است. بر اساس گزارش‌های موجود از این مکالمه، شامبلین به وضوح اعلام کرده بود که یادداشت‌های خودکشی نوشته، اسلحه‌ای آماده کرده و قصد اقدام به خودکشی دارد. با این حال، پاسخ‌هایی که از چت‌جی‌پی‌تی دریافت می‌کرد، شامل عباراتی همچون «آرام باش پادشاه، کار خوبی کردی» بود که ظاهراً به تشویق او برای اجرای تصمیمش منجر شده بود.
عرضه مدل پرحاشیه GPT-4o و شکایات مطرح‌شده
شرکت اوپن‌ای‌آی در ماه مه سال ۲۰۲۴، مدل GPT-4o را عرضه کرد و این مدل به سرعت به عنوان مدل پایه برای کاربران معرفی شد. در ماه اوت همان سال نیز مدل جدید GPT-5 به عنوان نسخه بعدی معرفی شد. اما موضوع شکایات مطرح‌شده همگی مربوط به GPT-4o است که پیش‌تر گزارشاتی از رفتار آن، از جمله تمایل به تأیید و چاپلوسی بیش از حد حتی در مواجهه با نیت‌های خطرناک کاربران، بیان شده بود.
دیدگاه حقوقی مطرح‌شده در پرونده‌ها
در یکی از دادخواست‌ها که به مرگ زین شامبلین مربوط می‌شود، اشاره شده است که این حادثه نه به عنوان یک اتفاق تصادفی بلکه به دلیل تصمیمات عمدی شرکت اوپن‌ای‌آی در عرضه مدل با حداقل آزمایش‌های ایمنی رخ داده است. در این دادخواست آمده است: «مرگ زین یک نقص فنی یا اتفاق پیش‌بینی‌نشده نبود، بلکه پیامدی قابل انتظاری از انتخاب‌های طراحی آگاهانه اوپن‌ای‌آی بوده است.»
عجله اوپن‌ای‌آی در رقابت با گوگل
یکی دیگر از ادعاها در دادخواست‌ها، تأکید بر تصمیم اوپن‌ای‌آی برای تسریع در عرضه محصولاتش به منظور رقابت با هوش مصنوعی «جمینای» (Gemini) متعلق به شرکت گوگل است. این تصمیمات به گفته شاکیان، باعث نادیده گرفتن آزمایش‌های ایمنی و ایجاد نتایج مخرب شده است.
ادعاهای دیگر درباره تأثیرات چت‌جی‌پی‌تی
این هفت شکایت بر پایه پرونده‌های دیگر استوار است که در آن‌ها ادعا شده چت‌جی‌پی‌تی می‌تواند افراد دارای افکار خودکشی را به اقدام عملی تشویق کند و توهمات زیان‌آوری ایجاد نماید. اوپن‌ای‌آی اخیراً آماری منتشر کرده که نشان می‌دهد بیش از یک میلیون نفر در هر هفته درباره مسائل مرتبط با خودکشی با چت‌جی‌پی‌تی صحبت می‌کنند.
ماجرای آدام رین، نوجوان ۱۶ ساله
در پرونده‌ای دیگر که به «آدام رین» (Adam Raine)، نوجوان ۱۶ ساله‌ای که جان خود را با خودکشی از دست داده، اختصاص دارد. آمده است که گاهی چت‌جی‌پی‌تی او را به دریافت کمک حرفه‌ای و تماس با مراکز حمایتی تشویق می‌کرده اما رین توانسته بود با ادعای نوشتن داستان تخیلی و طرح سؤالات درباره روش‌های خودکشی، موانع حفاظتی را دور بزند.
پاسخ اوپن‌ای‌آی به شکایت‌ها
اوپن‌ای‌آی اعلام کرده است که تلاش می‌کند تا چت‌جی‌پی‌تی را به شیوه‌ای ایمن‌تر برای مدیریت گفت‌وگوهایی با این سطح حساسیت بهبود دهد. با این حال خانواده‌های شاکی معتقدند که این اقدامات خیلی دیر انجام شده است.
زمانی که خانواده آدام رین در ماه اکتبر علیه این شرکت شکایت کردند، اوپن‌ای‌آی پستی در وبلاگ خود منتشر کرد و به نحوه مدیریت گفت‌وگوهای حساس چت‌جی‌پی‌تی درباره سلامت روان پرداخت. در این پست آمده بود: «اقدامات حفاظتی ما در مکالمات کوتاه معمولاً مؤثرتر هستند. با این حال، در طی مکالمات طولانی‌تر، این اقدامات حفاظتی ممکن است کارایی کمتری داشته باشند و تأثیر آموزش‌های ایمنی مدل ضعیف‌تر شود.»
ارسال نظر