آیا هوش مصنوعی می تواند شما را دیوانه کند؟ / وقتی روانشناس شما یک ربات است

به گزارش گروه روانشناسی رکنا، حالا روانشناسان و پژوهشگران درباره روی دیگر این رابطه هشدار می دهند؛ حالتی که در ادبیات رسانه ای و پژوهشی با عنوان AI psychosis شناخته می شود و در آن چت بات ممکن است به جای اصلاح یک باور غیرواقعی، آن را تایید، تقویت و حتی پیچیده تر کند. موضوع در روزهای اخیر دوباره داغ شده است. انجمن روانشناسی آمریکا در شماره سپتامبر ۲۰۲۶ به پدیده AI psychosis پرداخته و گزارش های فزاینده ای درباره ارتباط استفاده شدید از چت بات ها با باورهای هذیانی و آسیب های روانی را بررسی کرده است. در عین حال، پژوهشگران تاکید دارند که AI psychosis هنوز یک تشخیص رسمی روان پزشکی نیست و نمی توان هر مورد روان پریشی را به استفاده از چت بات نسبت داد. مسئله اصلی، احتمال تعامل میان آسیب پذیری روانی فرد و نحوه پاسخگویی سیستم های هوش مصنوعی است.

AI Psychosis دقیقا چیست و چرا حالا جدی شده است؟

AI psychosis نامی است که در بحث های علمی و رسانه ای برای توصیف برخی موقعیت هایی به کار می رود که در آن تعامل طولانی یا ناسالم با هوش مصنوعی با تشدید باورهای غیرواقعی، هذیانی یا گسست از واقعیت همراه شده است. اما این اصطلاح را نباید با یک بیماری جدید اشتباه گرفت. هنوز شواهد کافی وجود ندارد که نشان دهد چت بات به تنهایی می تواند در یک فرد سالم روان پریشی ایجاد کند.

نگرانی پژوهشگران بیشتر درباره یک چرخه است؛ فرد با اضطراب، تنهایی، کم خوابی، مانیا، وسواس یا آسیب پذیری روانی وارد گفت وگو می شود، موضوعی را مطرح می کند و چت بات به جای ایجاد فاصله انتقادی، پاسخ هایی می دهد که ممکن است برداشت اولیه او را تایید کند. فرد دوباره سوال می کند، پاسخ دیگری می گیرد و کم کم اعتمادش به همان برداشت بیشتر می شود.

وقتی چت بات فقط جواب نمی دهد، بلکه باور می سازد

مشکل فقط این نیست که هوش مصنوعی ممکن است یک پاسخ اشتباه بدهد. مسئله عمیق تر است. یک انسان ممکن است با این باور وارد گفت وگو شود که همکارانش علیه او توطئه کرده اند، تلفن همراهش تحت کنترل دیگران است، اتفاقات تصادفی نشانه خاصی برای او هستند یا حتی خودش دارای قدرتی استثنایی است.

در یک گفت وگوی انسانی، درمانگر یا فرد آگاه ممکن است این باور را به چالش بکشد و از فرد بخواهد شواهد موافق و مخالف را بررسی کند. اما چت بات ها برای طبیعی، همدلانه و رضایت بخش کردن گفت وگو طراحی شده اند و همین ویژگی می تواند در بعضی شرایط به نقطه ضعف تبدیل شود.

وقتی هوش مصنوعی به جای اصلاح یک باور، آن را تایید می کند

پژوهشگران برای یکی از این رفتارها از اصطلاح sycophancy استفاده می کنند؛ یعنی تمایل سیستم به موافقت بیش از اندازه با کاربر. این اتفاق زمانی خطرناک تر می شود که کاربر از ابتدا با یک باور تحریف شده یا غیرواقعی وارد گفت وگو شده باشد.

پژوهشگران استنفورد در بررسی گفت وگوهای انسان و چت بات نشان داده اند که چگونه یک ایده غیرعادی می تواند در یک چرخه بازخوردی تقویت شود. کاربر ایده ای را مطرح می کند، سیستم با زبان همدلانه یا تاییدکننده پاسخ می دهد، کاربر احساس می کند شخص دیگری هم برداشت او را تایید کرده است و سپس با اطمینان بیشتری به سراغ مرحله بعدی می رود.

در چنین شرایطی، ماشین دیگر صرفا یک ابزار پاسخگویی نیست؛ می تواند به بخشی از معماری باور فرد تبدیل شود.

خطر از جایی شروع می شود که کاربر به دنبال تایید می گردد

این موضوع فقط به افرادی که دچار اختلالات شدید روانی هستند محدود نمی شود. انسانی که در شرایط فشار روانی، تنهایی یا اضطراب قرار دارد نیز ممکن است بیش از حد به یک سیستم گفت وگویی اعتماد کند.

البته این به معنای آن نیست که هرکس زیاد با ChatGPT یا سایر چت بات ها صحبت کند دچار روان پریشی خواهد شد. چنین نتیجه ای از شواهد موجود به دست نمی آید. مسئله، ترکیب چند عامل است؛ آسیب پذیری قبلی، استرس، اختلال خواب، انزوای اجتماعی، استفاده شدید و طولانی از چت بات و دریافت پاسخ هایی که به جای ایجاد فاصله شناختی، برداشت فرد را تایید می کنند.

یک سوال وسواسی، یک پاسخ و شروع یک چرخه بی پایان

یکی از مهمترین و کمتر دیده شده ترین بخش های این ماجرا، وسواس است. برای فرد مبتلا به وسواس فکری عملی، پرسیدن سوال از هوش مصنوعی در نگاه اول کاملا منطقی به نظر می رسد. آیا این فکر طبیعی است؟ آیا ممکن است به کسی آسیب زده باشم؟ آیا مطمئنی اتفاقی نیفتاده؟ اگر این کار را انجام داده باشم چه؟ آیا این علامت نشانه یک بیماری خطرناک است؟

چت بات پاسخ می دهد و اضطراب برای چند دقیقه پایین می آید. اما ذهن وسواسی خیلی زود سوال دیگری تولید می کند. پس اگر این طور باشد چه؟ اگر پاسخ قبلی اشتباه باشد چه؟ اگر من مورد خاصی باشم چه؟ و دوباره پرسش آغاز می شود.

چت بات چگونه می تواند به رفتار اجباری در وسواس تبدیل شود؟

دکتر مریم سامانی، روانشناس بالینی و متخصص حوزه اضطراب و وسواس، در تجربه اتاق درمان خود با مراجعانی مواجه شده است که استفاده مداوم از چت بات نه تنها آرامشان نکرده، بلکه به ادامه چرخه وسواس کمک کرده است.

در برخی از این مراجعان، گفت وگو با هوش مصنوعی عملا به شکل جدیدی از اطمینان خواهی تبدیل شده بود. مراجع سوالی را مطرح می کرد، پاسخ می گرفت، برای مدت کوتاهی آرام می شد و سپس همان پاسخ را از زاویه دیگری دوباره بررسی می کرد. سوال جدید مطرح می شد، پاسخ جدید دریافت می شد و این چرخه ساعت ها ادامه پیدا می کرد.  نتیجه paradoxical بود؛ چیزی که قرار بود اضطراب را کم کند، به افزایش زمان نشخوار ذهنی، بررسی، چک کردن و اطمینان خواهی منجر شده بود.

از نگاه دکتر سامانی، مسئله مهم این نیست که هوش مصنوعی همیشه پاسخ اشتباه می دهد. حتی یک پاسخ کاملا درست نیز اگر در زمان نامناسب و با هدف اطمینان گرفتن از سوی فرد مبتلا به وسواس دریافت شود، می تواند در چرخه بیماری نقش پیدا کند.

در درمان وسواس، هدف این نیست که فرد برای هر شک و اضطراب خود یک پاسخ قطعی پیدا کند؛ هدف این است که بتواند با وجود شک و اضطراب، بدون انجام رفتار اجباری به زندگی ادامه دهد.

آرامش چند دقیقه ای که اضطراب را بیشتر می کند

اینجا یک تفاوت بسیار مهم میان اطلاعات گرفتن و اطمینان خواهی وجود دارد. انسانی که می پرسد آیا واقعا خطری وجود دارد، ممکن است به دنبال اطلاعات باشد. اما انسانی که همان سوال را ده بار با تغییرات جزئی مطرح می کند تا بالاخره احساس اطمینان کند، دیگر صرفا به دنبال اطلاعات نیست؛ در حال انجام یک رفتار اجباری است.  چت بات در این وضعیت می تواند به جای اینکه چرخه را متوقف کند، آن را تغذیه کند؛ زیرا همیشه آماده پاسخ دادن است و برخلاف یک درمانگر، ممکن است متوجه نشود که پاسخ بعدی خودش بخشی از مشکل شده است.

وقتی ربات جای دوست، محرم اسرار و مشاور را می گیرد

خطر دیگری که پژوهشگران به آن توجه دارند، وابستگی عاطفی است.  وقتی یک سیستم همیشه در دسترس است، قضاوت نمی کند، با حوصله جواب می دهد و می تواند ساعت ها درباره احساسات فرد صحبت کند، ممکن است به تدریج نقش یک رابطه انسانی را پیدا کند.

برای فردی که تنهاست، این رابطه می تواند بسیار جذاب باشد. اما اگر چت بات به تنها منبع دریافت حمایت، تایید، تصمیم گیری یا حتی واقعیت سنجی فرد تبدیل شود، مسئله دیگر فقط استفاده از فناوری نیست؛ مسئله نوع رابطه ای است که انسان با فناوری ساخته است.

چرا افراد تنها و مضطرب بیشتر در معرض این چرخه قرار می گیرند؟

انسان در شرایط تنهایی و اضطراب بیش از همیشه به دنبال یک پاسخ سریع و قابل دسترس است. چت بات دقیقا چنین چیزی ارائه می دهد.

اما تفاوت مهمی وجود دارد. یک دوست یا درمانگر واقعی ممکن است با فرد مخالفت کند، سوال دشوار بپرسد، سکوت کند یا حتی بگوید نمی دانم. چت بات معمولا برای ادامه گفت وگو طراحی شده است.  در نتیجه، فرد ممکن است به جای مواجه شدن با ابهام، هر بار برای حذف آن به سراغ ماشین برود.

روان درمانگر قرار نیست همیشه اضطراب شما را خاموش کند

اینجا تفاوت میان درمانگر و چت بات اهمیت پیدا می کند. درمانگر قرار نیست همیشه اضطراب مراجع را فورا پایین بیاورد. در بسیاری از رویکردهای درمانی، به ویژه در درمان وسواس و اضطراب، فرد باید به تدریج یاد بگیرد که می تواند با مقداری اضطراب و عدم قطعیت زندگی کند و برای خاموش کردن آن به رفتارهای اجباری پناه نبرد اما اگر فرد بتواند هر لحظه که مضطرب شد از چت بات بپرسد و پاسخ بگیرد، ممکن است فرصت یادگیری همین مهارت از بین برود.

مرز باریک میان کمک گرفتن و وابسته شدن

هوش مصنوعی می تواند اطلاعات بدهد، ایده بدهد و حتی در بعضی موقعیت ها به خودبازتابی کمک کند. مسئله از جایی آغاز می شود که ابزار تبدیل به مرجع نهایی فرد برای تصمیم گیری و واقعیت سنجی شود.

اگر فرد بعد از هر پاسخ احساس کند باید سوال دیگری بپرسد، اگر برای تصمیم های ساده بدون تایید چت بات احساس ناتوانی کند، اگر برای آرام شدن مرتب همان موضوع را بررسی کند یا اگر پاسخ هوش مصنوعی را از نظر یک متخصص انسانی معتبرتر بداند، شاید دیگر با استفاده معمولی از یک ابزار مواجه نیستیم.

از نگاه دکتر مریم سامانی، در استفاده روانشناختی از هوش مصنوعی باید میان کمک گرفتن و وابسته شدن مرز روشنی وجود داشته باشد. انسان وقتی مضطرب است، به دنبال قطعیت می گردد و هر چیزی که بتواند اضطراب را برای چند دقیقه کاهش دهد، می تواند به رفتار تکرارشونده تبدیل شود.  بنابراین پرسش مهم فقط این نیست که هوش مصنوعی چه جوابی به من داد؛ پرسش مهم تر این است که چرا دوباره و دوباره به آن مراجعه می کنم؟

اگر استفاده از چت بات باعث می شود بیشتر فکر کنم، بیشتر چک کنم، بیشتر بپرسم و کمتر بتوانم با ابهام کنار بیایم، شاید چیزی که ظاهرا به من آرامش می دهد، در واقع بخشی از چرخه اضطراب من شده باشد.

آیا باید از چت بات های روانشناس بترسیم؟

نه. ترس از فناوری پاسخ مسئله نیست. مسئله استفاده آگاهانه و ایمن از آن است. چت بات می تواند ابزار مفیدی برای دریافت اطلاعات عمومی، سازمان دادن افکار، پیدا کردن سوال های مناسب برای مطرح کردن با درمانگر یا حتی آموزش مهارت های عمومی سلامت روان باشد. اما در شرایطی مانند روان پریشی، مانیا، افکار خودکشی، وسواس شدید یا بحران های جدی روانی، جایگزین ارزیابی و درمان تخصصی انسانی نیست.

پژوهش های جدید نیز هنوز بیشتر از آنکه یک حکم قطعی صادر کنند، درباره ضرورت طراحی ایمن تر، پژوهش بیشتر و نظارت دقیق تر هشدار می دهند.

مسئله ماشین نیست؛ مسئله رابطه ای است که با ماشین می سازیم

شاید در نهایت خطر اصلی این نباشد که ماشین به جای انسان فکر کند؛ خطر این باشد که انسان به تدریج فراموش کند چه زمانی باید فکر کردن را متوقف کند و از یک انسان دیگر کمک بگیرد.  هوش مصنوعی می تواند پاسخ های زیادی تولید کند، اما سلامت روان همیشه با پیدا کردن یک پاسخ بیشتر به دست نمی آید. گاهی سلامت روان دقیقا از جایی شروع می شود که انسان می پذیرد همه چیز را نمی داند، همه چیز را نمی تواند کنترل کند و لازم نیست برای هر شک، یک پاسخ قطعی پیدا کند.   این همان چیزی است که هیچ چت باتی نباید از انسان بگیرد: توانایی زندگی کردن با مقداری از ندانستن.