کنترل نوجوانان در چت جی پی تی قوی‌ تر شد؛ اطلاع‌ رسانی درباره رفتارهای پرخطر نوجوانان

به گزارش رکنا، شرکت اوپن‌ای‌آی (OpenAI) قابلیت‌های نظارت والدین در ChatGPT را گسترش داده است و از این پس، در صورت مسدود شدن حساب یک نوجوان به دلیل نقض قوانین مرتبط با تهدید یا رفتارهای خشونت‌آمیز، والدین یا سرپرستان او مطلع خواهند شد.

این اقدام بخشی از برنامه اوپن‌ای‌آی برای افزایش ایمنی کاربران نوجوان و ایجاد کنترل بیشتر خانواده‌ها بر نحوه استفاده فرزندانشان از هوش مصنوعی است.

هشدار به والدین درباره رفتارهای پرخطر

اوپن‌ای‌آی پیش‌تر ابزار کنترل والدین را برای ChatGPT معرفی کرده بود. این ابزار به والدین اجازه می‌دهد حساب خود را به حساب نوجوانشان متصل کنند و برخی تنظیمات مانند محدودیت زمانی استفاده، کاهش نمایش محتوای حساس و دریافت هشدار درباره نشانه‌های احتمالی آسیب به خود را مدیریت کنند.

اکنون دامنه این قابلیت گسترده‌تر شده است و والدین در صورت تشخیص رفتارهایی که می‌تواند تهدیدی برای دیگران باشد نیز اطلاع‌رسانی دریافت می‌کنند.

برای مثال، اگر حساب یک نوجوان به دلیل نقض قوانین مربوط به تهدیدهای خشونت‌آمیز یا انتشار محتوای مرتبط با اعمال خشونت‌آمیز غیرفعال شود، پیامی با عنوان یک «به‌روزرسانی مهم» برای والدین ارسال خواهد شد. آن‌ها می‌توانند با انتخاب گزینه «بیشتر بدانید»، جزئیات بیشتری درباره دلیل مسدود شدن حساب مشاهده کنند.

همکاری برای مقابله با خشونت آنلاین

اوپن‌ای‌آی برای توسعه این قابلیت با شرکت Moonshot، متخصص حوزه مقابله با خشونت آنلاین، همکاری کرده است.

ویدیا رامالینگام، بنیان‌گذار Moonshot، معتقد است اطلاع‌رسانی سریع به خانواده‌ها در شرایطی که نگرانی جدی درباره رفتار یک نوجوان وجود دارد، می‌تواند فرصتی برای اقدام زودهنگام و دریافت حمایت مناسب فراهم کند.

افزایش تدابیر ایمنی پس از نگرانی‌های اخیر

اوپن‌ای‌آی در ماه‌های اخیر تمرکز بیشتری بر تقویت سازوکارهای ایمنی ChatGPT داشته است. این شرکت پس از مطرح شدن گزارش‌هایی درباره استفاده یک مظنون تیراندازی جمعی در سال ۲۰۲۵ از ChatGPT، اعلام کرد که پروتکل‌های ایمنی خود را بازبینی و تقویت خواهد کرد.

پس از این ماجرا، مقام‌های کانادایی درباره نحوه برخورد این شرکت با چنین موقعیت‌هایی پرسش‌هایی مطرح کردند و سم آلتمن، مدیرعامل اوپن‌ای‌آی، نیز بابت برخی کاستی‌های احتمالی عذرخواهی کرد.

قابلیت‌های جدید برای استفاده سالم‌تر نوجوانان

در کنار هشدارهای امنیتی جدید، اوپن‌ای‌آی قابلیت‌های دیگری را نیز برای کاربران نوجوان معرفی کرده است.

یکی از این امکانات، فعال‌سازی مستقیم حالت مطالعه (Study Mode) از طریق تنظیمات کنترل والدین است. این حالت به ChatGPT اجازه می‌دهد به جای ارائه مستقیم پاسخ، راهنمایی مرحله‌به‌مرحله ارائه کند تا به یادگیری بهتر دانش‌آموزان کمک شود.

همچنین این چت‌بات اکنون در صورت استفاده طولانی‌مدت نوجوانان، یادآورهایی برای استراحت نمایش می‌دهد تا به ایجاد عادت‌های سالم‌تر در استفاده از فناوری کمک کند.

آینده نظارت بر هوش مصنوعی برای نوجوانان

با افزایش استفاده کودکان و نوجوانان از ابزارهای هوش مصنوعی، شرکت‌های فناوری بیش از گذشته روی ایجاد محیط‌های امن‌تر تمرکز کرده‌اند. اوپن‌ای‌آی اعلام کرده است که هدف این اقدامات، جایگزین کردن والدین یا تصمیم‌گیری به جای آن‌ها نیست، بلکه فراهم کردن ابزارهایی برای آگاهی بیشتر خانواده‌ها و مدیریت بهتر استفاده نوجوانان از ChatGPT است.