به گزارش ایراف، داریو آمودی، مدیرعامل شرکت «آنتروپیک»، در موضعگیری تازهای نسبت به شتاب بیسابقه توسعه هوش مصنوعی هشدار داد و تأکید کرد شرکتهای پیشرو باید روند افزایش توانایی مدلهای خود را کنترل کنند تا فرصت کافی برای ایجاد سازوکارهای ایمنی و جلوگیری از سوءاستفاده فراهم شود.
او گفت هدفش توقف پیشرفت فنی نیست، بلکه توسعه باید با استانداردهای ایمنی متناسب همراه باشد.
برنامه سهمرحلهای برای مهار خطرها
آمودی در مقالهای، یک برنامه سهمرحلهای ارائه کرد که شامل استقرار ارزیابان مستقل با سطح دسترسی مشابه کارکنان، تعیین استانداردهای مشترک میان شرکتهای بزرگ برای جلوگیری از توسعه کنترلنشده، و همکاری بینالمللی جهت مدیریت تهدیدهای نوظهور است.
حمایت آلتمن و ماسک
این پیشنهاد با استقبال سم آلتمن، مدیرعامل اوپنایآی، و ایلان ماسک، بنیانگذار ایکسایآی، روبهرو شد.
آلتمن اعلام کرد اوپنایآی نیز قصد دارد دسترسی گستردهای به ارزیابان مستقل بدهد تا نظارت بیرونی تقویت شود.
نگرانیها درباره سوءاستفاده و نفوذ مدلها
این موضعگیری پس از انتشار گزارش «اطلاعات تهدید» آنتروپیک مطرح شد؛ گزارشی که نشان میداد برخی بازیگران از مدلهای «کلاد» برای فعالیتهایی از توسعه تسلیحات و عملیات سایبری گرفته تا نظارت پیشرفته و کلاهبرداری دیجیتال استفاده کردهاند.
آمودی همچنین به افزایش توانایی مدلها در بهبود خودکار و موارد اخیر نفوذ عاملهای هوش مصنوعی به سامانههای خارجی اشاره کرد.
هشدار درباره خسارتهای احتمالی
او هشدار داد با سرعت کنونی پیشرفت، ممکن است ظرف ۶ تا ۱۲ ماه مجموعهای از عاملهای هوش مصنوعی قادر شوند بخشهای گستردهای از اینترنت را تحت تأثیر قرار دهند و خسارتهایی در مقیاس صدها میلیارد دلار ایجاد کنند.
این نگرانیها زمانی تشدید شد که «جیکوب کاکسون»، پژوهشگر سابق آنتروپیک، در استعفانامه خود نوشت برخی سازندگان هوش مصنوعی واقعاً معتقدند این فناوری ممکن است تا پایان دهه جاری «بشریت را نابود کند».
رقابت مالی و فشار بازار
این درخواست در حالی مطرح میشود که رقابت مالی میان شرکتهای بزرگ هوش مصنوعی بسیار شدید است و اوپنایآی و آنتروپیک هر دو برای عرضه اولیه سهام آماده میشوند؛ موضوعی که هر قابلیت جدید میتواند ارزشگذاری و جذب سرمایه آنها را افزایش دهد.
تأکید بر حفظ برتری آمریکا در برابر چین
آمودی در بخش دیگری از سخنانش تأکید کرد کاهش سرعت در کشورهای دموکراتیک نباید باعث از دست رفتن برتری شرکتهای آمریکایی در برابر چین شود.
او خواستار محدودیتهای شدیدتر بر صادرات تراشههای پیشرفته، جلوگیری از انتقال دانش از طریق خالصسازی مدلها و مقابله با سرقت وزنهای مدل شد و گفت شرکتهای پیشرو باید با دولتها برای ایجاد نظارت دائمی و حفظ تعادل میان افزایش توانایی هوش مصنوعی و ایمنی آن همکاری کنند.
