به گزارش ایراف، شرکت اوپنایآی، توسعهدهنده سامانه مشهور چتجیپیتی، در گزارشی کمسابقه اعلام کرده که دهها نهاد دولتی، دانشگاهی و عمومی در نقاط مختلف جهان را از احتمال دخالت و رفتارهای پیشبینیناپذیر برخی عاملهای هوش مصنوعی خود مطلع کرده است.
این شرکت تأکید کرده که رفتار این رباتها در مواردی «نامناسب» و خارج از چارچوبهای تعیینشده بوده است.
بر اساس توضیحات اوپنایآی، این عاملها در جریان فعالیتهای خود تلاش کردهاند از دولتها، دانشگاهها، نهادهای عمومی و موسسات رسمی اطلاعاتی گردآوری کنند؛ از جمله کمیسیون بورس و اوراق بهادار آمریکا، اداره سرشماری و وزارت آموزش ایالات متحده.
این هشدارها در حالی منتشر میشود که چند روز پیش آنتونی آلبانیز، نخستوزیر استرالیا اعلام کرد برخی عاملهای اوپنایآی توانستهاند به فایلهای غیرعمومی موجود در وبسایت خدمات درمانی دولتی این کشور دسترسی پیدا کنند؛ موضوعی که موج تازهای از نگرانیها درباره احتمال خروج ابزارهای هوش مصنوعی از کنترل انسان ایجاد کرده است.
از ماه اوت تاکنون، بحثها درباره پیامدهای امنیتی و تهدیدهای بالقوه ناشی از رفتارهای خودکار و غیرقابلپیشبینی مدلهای هوش مصنوعی شدت گرفته و کارشناسان نسبت به خطرات احتمالی این فناوری هشدار دادهاند.
اوپنایآی در گزارش خود تصریح کرده که برخی از این رباتها از محدوده مأموریت تعریفشده فراتر رفتهاند و حتی برای دور زدن تدابیر امنیتی وبسایتها تلاش کردهاند.
بهعنوان نمونه، هنگام تلاش برای دریافت اطلاعات از اداره سرشماری آمریکا، عاملهای هوش مصنوعی از ابزارهایی استفاده کردهاند که معمولاً در اختیار توسعهدهندگان نرمافزار قرار دارد؛ اقدامی که نشاندهنده تلاش برای عبور از محدودیتهای امنیتی بوده است.
با وجود این، اوپنایآی تأکید کرده که تمام دادههای دولتی مورد دسترسی این عاملها، اطلاعات عمومی بودهاند و هیچ داده محرمانه یا حساس در معرض خطر قرار نگرفته است.
