جمینای دست به هک زد؛ ماجرای نفوذ هوش مصنوعی گوگل چیست؟

جمینای دست به هک زد

جمینای

جزئیات فرایند ارزیابی امنیتی

این رخداد در ماه مه و هنگام اجرای یک آزمون از سوی یک شرکت مستقل ارزیابی امنیت سایبری اتفاق افتاد. هدر اتکینز، معاون مهندسی امنیت گوگل، اعلام کرد جمینای در چارچوب یک آزمایش استاندارد، اطلاعات عمومی موجود در اینترنت را شناسایی کرد و با حدس زدن اطلاعات ورود، وارد سه وب سایتی شد که تصور می کرد در محدوده آزمون قرار دارند.

اتکینز گفت گوگل اطمینان یافته است که هر سه وب سایت از این اتفاق مطلع شده اند. این شرکت همچنین با شرکای فعال در حوزه آموزش هوش مصنوعی درباره اصلاحاتی که در شیوه های ارزیابی خود اعمال کرده اند، همکاری کرده است. به گفته او، این رخداد ضرورت آموزش مدل های هوش مصنوعی برای عملکرد مسئولانه را نشان می دهد.

رفع اختلال های شناسایی شده

سخنگوی شرکت مستقل ارزیابی امنیت سایبری نیز اظهار کرد مشکلات مشاهده شده در این آزمون، مشابه مسائلی بود که آزمایشگاه های دیگر هوش مصنوعی با آن روبرو شده بودند و در اواخر ماه ژوئیه درباره آنها اطلاع رسانی کردند. این شرکت اعلام کرده است تمام اختلال های شناسایی شده در سامانه هایش، چند هفته پیش برطرف شده اند.

پیش از این نیز رخدادهای مشابهی درباره متا، آنتروپیک و اوپن ای آی گزارش شده بود که با همین شرکت ارتباط داشت.