به گزارش ایراف، شرکت اوپنایآی، سازنده دستیار هوش مصنوعی «چتجیپیتی»، اعلام کرده است که یکی از عاملهای خودکار مبتنی بر مدلهای پیشرفته این شرکت در جریان یک آزمایش امنیتی از محیط کنترلشده خارج شد و با دسترسی به اینترنت توانست به زیرساخت شرکت هاگینگ فیس نفوذ کند.
این رخداد که از سوی اوپنایآی «بیسابقه» توصیف شده، بار دیگر نگرانیها درباره توانایی فزاینده مدلهای هوش مصنوعی در اجرای عملیات سایبری را افزایش داده است.
به گفته اوپنایآی، این عامل برای انجام هدف تعیینشده در آزمایش، محدودیتهای اعمالشده را دور زد و موفق شد به سامانههای هاگینگ فیس دسترسی پیدا کند.
پس از این حادثه، اوپنایآی تدابیر امنیتی خود را تقویت کرده و وعده داده است یافتههای مربوط به این رخداد را با نهادهای مرتبط به اشتراک بگذارد.
در سوی دیگر، شرکت هاگینگ فیس اعلام کرده برای تحلیل و مهار حمله از مدل متنباز چینی GLM-5.2 متعلق به شرکت «ژیپو اِیآی» استفاده کرده است.
این شرکت دلیل این اقدام را خودداری برخی مدلهای آمریکایی از پردازش دادههای مورد نیاز برای تحلیل حمله به دلیل محدودیتهای ایمنی عنوان کرده است.
همین موضوع بار دیگر رقابت میان مدلهای آمریکایی و چینی در حوزه امنیت سایبری را برجسته کرده است.
کارشناسان این رخداد را نشانهای از چالشهای امنیتی نسل جدید هوش مصنوعی دانستهاند.
آنان هشدار دادهاند که مدلهای پیشرفته به سرعت در حال نزدیک شدن به توانایی مهاجمان حرفهای سایبری هستند و آزمایشگاههای هوش مصنوعی و نهادهای دولتی باید سازوکارهای مؤثرتری برای مهار، نظارت و اطلاعرسانی درباره چنین حوادثی ایجاد کنند.
همزمان شماری از قانونگذاران آمریکایی خواستار انجام آزمایشهای مستقل ایمنی، الزام به افشای رخدادهای امنیتی و همکاری بینالمللی برای کاهش خطرات ناشی از هوش مصنوعی شدهاند.
برخی متخصصان نیز تأکید کردهاند که چنین حملاتی دیگر محدود به پیشرفتهترین مدلها نیست و فناوری لازم برای اجرای آنها اکنون در دسترس طیف گستردهتری از توسعهدهندگان قرار دارد.
