توهم در دنیای هوش مصنوعی؛ خطر جعل اطلاعات را جدی بگیرید!

توهم در مدل‌های هوش مصنوعی چیست؟

داریو آمودی، مدیرعامل شرکت هوش مصنوعی آنتروپیک، بیان داشته که مدل‌های هوش مصنوعی کمتر از انسان‌ها دچار توهم می‌شوند. اما منظور از توهم در این مدل‌ها چیست؟ وقتی می‌گوییم مدل‌های هوش مصنوعی توهم می‌زنند، یعنی اطلاعات نادرست یا جعلی تولید می‌کنند و آن را به گونه‌ای ارائه می‌دهند که کاربران تصور کنند واقعی هستند.

چالش توهم در مسیر توسعه هوش مصنوعی

آمودی که در اولین رویداد توسعه‌دهندگان شرکت آنتروپیک در سانفرانسیسکو سخن می‌گفت، تأکید کرد که مدل‌های هوش مصنوعی در مقایسه با انسان، احتمال کمتری برای توهم‌زدن دارند، اما زمانی که این توهم‌ها بروز می‌کنند، نتایج آن می‌تواند غافلگیرکننده و غیرقابل پیش‌بینی باشد.

او در این رابطه اضافه کرد: «بستگی دارد با چه معیاری اندازه‌گیری کنید، اما به طور کلی می‌توان گفت که مدل‌های هوش مصنوعی احتمالاً کمتر از انسان‌ها دچار توهم می‌شوند. البته باید توجه داشت که نوع و شکل این توهمات در مدل‌های هوش مصنوعی گاهی بی‌سابقه و شگفت‌آور است.»

آینده هوش جامع مصنوعی (AGI) و موانع پیش رو

آمودی یکی از خوش‌بین‌ترین چهره‌ها در دنیای فناوری نسبت به رسیدن به هوش جامع مصنوعی (AGI) است. او در مقاله‌ای که سال گذشته منتشر کرد، اظهار داشت که شرکت‌های فعال در حوزه هوش مصنوعی تا سال ۲۰۲۶ می‌توانند به هوش جامع مصنوعی دست یابند. به گفته وی، پیشرفت‌های موجود به طور مداوم به این هدف نزدیک‌تر می‌شوند.

دیدگاه‌های متضاد در زمینه توسعه AGI

با وجود این خوش‌بینی، همه کارشناسان این حوزه دیدگاه یکسانی ندارند. برای مثال، دمیس هسابیس، مدیرعامل گوگل DeepMind، بر این باور است که توهم در مدل‌های هوش مصنوعی یکی از بزرگ‌ترین موانع در مسیر رسیدن به هوش جامع مصنوعی است. او به مشکلاتی مانند وجود حفره‌های مفهومی در مدل‌ها و ارائه پاسخ‌های نادرست به سؤالات ساده اشاره می‌کند.

به عنوان نمونه‌ای از این مشکلات، چندی پیش یکی از مدل‌های آنتروپیک به دلیل ارائه اسامی اشتباه در یک پرونده قضایی باعث دردسر شد و این شرکت مجبور به عذرخواهی گردید.

رشد توهمات در مدل‌های پیشرفته

شواهد اخیر نشان داده‌اند که همزمان با ارتقای توانایی‌های استدلالی در مدل‌های پیشرفته هوش مصنوعی، میزان توهم در این سیستم‌ها نیز افزایش پیدا کرده است. برای نمونه، مدل‌های o3 و o4-mini که توسط شرکت OpenAI توسعه یافته‌اند، نرخ توهم بیشتری نسبت به مدل‌های قبلی از خود نشان داده‌اند. جالب است که خود OpenAI همچنان نتوانسته دلیل این افزایش را مشخص کند.