به گزارش ایراف، یک هیئت مستقل علمی وابسته به سازمان ملل متحد در نخستین ارزیابی جامع خود درباره فرصتها و تهدیدهای هوش مصنوعی، تصویری نگرانکننده از آینده این فناوری ارائه کرده است.
این هیئت تأکید میکند که شتاب توسعه هوش مصنوعی بهقدری بالا رفته که ساختارهای نظارتی، علمی و حکمرانی جهانی توان همراهی با آن را ندارند؛ موضوعی که به گفته کارشناسان، میتواند زمینهساز بحرانهای گسترده در سالهای آینده باشد.
بر اساس گزارش منتشرشده، سیاستگذاران برای تدوین مقررات مؤثر نیازمند شواهد علمی دقیق هستند، اما دانش موجود با سرعت تحول هوش مصنوعی هماهنگ نیست و شکاف میان توان فناوری و توان نظارت دولتها هر روز بیشتر میشود.
این گزارش با استناد به بررسیهای علمی و دادههای موجود، هشدار میدهد که اگر این روند ادامه یابد، جهان ممکن است با پیامدهایی روبهرو شود که ابعاد آن هنوز ناشناخته است.
یوشوا بنجیو، رئیس مشترک این هیئت و یکی از چهرههای برجسته علوم رایانه، در توضیح یافتههای این گزارش گفته است: «شواهد فزایندهای از رفتارهای فریبکارانه برخی سامانههای هوش مصنوعی مشاهده شده و هیچ تضمینی وجود ندارد که با افزایش توانایی این سامانهها، خطر از دست رفتن کنترل یا سوءاستفاده افراد مخرب به بحرانهای بزرگ منجر نشود.»
او تأکید کرده است که دانش کنونی نمیتواند تضمین کند که این فناوری در آینده بدون پیامدهای فاجعهبار باقی بماند.
در بخش دیگری از گزارش، آیندهای ترسیم شده که در آن سامانههای عاملمحور (Agentic Systems) با سرعت گسترش مییابند؛ سامانههایی که قادرند وظایف پیچیده را در دنیای واقعی بهصورت مستقل انجام دهند و تصمیمگیریهای گسترده داشته باشند.
این روند، نگرانیها درباره خودمختاری ماشینها و احتمال بروز رفتارهای غیرقابلپیشبینی را افزایش داده است.
این هیئت همچنین هشدار داده است که نبود چارچوبهای نظارتی جهانی، رقابت شدید میان شرکتهای فناوری و فشار اقتصادی برای توسعه سریعتر محصولات هوش مصنوعی، میتواند خطرات را تشدید کند.
کارشناسان معتقدند که اگر دولتها و نهادهای بینالمللی نتوانند بهسرعت سازوکارهای نظارتی مؤثر ایجاد کنند، جهان با چالشهایی روبهرو خواهد شد که مدیریت آنها بسیار دشوار خواهد بود.
در ماههای اخیر، گزارشهای دیگری نیز درباره رفتارهای نامتعارف برخی سامانههای هوش مصنوعی منتشر شده است؛ از جمله بررسیهای رسانهای درباره چتباتهایی که قادر به ارائه اطلاعات نادرست، رفتارهای فریبکارانه یا تصمیمگیریهای غیرمنتظره بودهاند.
این موارد، نگرانیها درباره ریسکهای امنیتی، اقتصادی و اجتماعی هوش مصنوعی را افزایش داده است.
این هشدارها در حالی مطرح میشود که در ماههای اخیر گزارشهای دیگری نیز درباره رفتارهای نامتعارف برخی سامانههای هوش مصنوعی منتشر شده است؛ از جمله شکایت یک مرد ۳۴ ساله اهل کالیفرنیا از شرکت اوپنایآی که مدعی شده گفتوگوهایش با چتجیپیتی توهمات ناشی از اختلال دوقطبی او را تشدید کرده و او را به اقدام برای خودکشی سوق داده است.
این پرونده و موارد مشابه، نگرانیها درباره ریسکهای امنیتی و روانی هوش مصنوعی را افزایش داده است.
در یک جمعبندی میتوان گفت که گزارش جدید سازمان ملل متحد بار دیگر نشان میدهد که فاصله میان توان فناوری و توان نظارت جهانی بهشدت افزایش یافته و اگر اقدامهای فوری، علمی و هماهنگ انجام نشود، هوش مصنوعی میتواند در آینده به یکی از چالشهای بزرگ و پرهزینه جهان تبدیل شود.
